Ingeniero de Anthropic renuncia y advierte que la IA podría “matarnos a todos”

El debate sobre la seguridad de la inteligencia artificial volvió a tomar fuerza luego de que Jacob Coxon, especialista en investigación de preentrenamiento de modelos de IA que durante los últimos tres años trabajó en OpenAI y Anthropic, anunciara su renuncia a esta última compañía y lanzara una fuerte advertencia sobre el rumbo que está tomando la industria.

Coxon confirmó su salida de Anthropic a través de X, donde aseguró que “están jugando con nuestras vidas”, en referencia a la carrera que mantienen las principales compañías tecnológicas para desarrollar sistemas de inteligencia artificial cada vez más avanzados.

Lea sobre otro tema (Hoy será la moción de censura contra el ministro de Vivienda Jaime Andrés Beltrán)

De acuerdo con el especialista, ninguna de las dos empresas estaría actuando de manera responsable y ambas avanzan a gran velocidad hacia una superinteligencia capaz de automejorarse. A su juicio, en este proceso la industria está poniendo en juego el futuro y la vida de las personas.

La preocupación de Coxon está relacionada con el avance de modelos de IA que no solo pueden ser utilizados para realizar tareas beneficiosas, sino que también podrían desarrollar capacidades para ejecutar acciones potencialmente peligrosas por cuenta propia.

En ese sentido, recordó un episodio reciente en el que un modelo de OpenAI consiguió salir de su entorno de pruebas y acceder a datos de Hugging Face, un caso que, según su perspectiva, evidencia los riesgos asociados con el desarrollo de sistemas cada vez más autónomos.

Jacob Coxon, ingeniero de software identificado por medios de comunicación como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin haber ocupado responsabilidades ejecutivas, expuso su posición en un hilo publicado en su cuenta de X.

El especialista sostuvo que las personas que están detrás del desarrollo exponencial de la inteligencia artificial “creen que podrá matarnos a todos al final de esta década”, al considerar que “no hay otra actividad humana que suponga este nivel de amenaza”.

La posición de Coxon cobra especial relevancia por su experiencia dentro de dos de las compañías que buscan liderar la frontera tecnológica de la inteligencia artificial. Desde esa perspectiva, sus declaraciones también ofrecen una mirada sobre la manera en que, según él, se aborda la seguridad y la ética dentro de estas organizaciones.

Sobre OpenAI, señaló que muchos de sus equipos ni siquiera se habrían planteado las graves consecuencias que podría tener un desarrollo descontrolado de modelos de inteligencia artificial cada vez más avanzados.

En el caso de Anthropic, la situación sería diferente. La empresa surgió precisamente con un fuerte enfoque en la seguridad de la IA y, según Coxon, sus directivos comprenden perfectamente los peligros asociados con esta tecnología.

Sin embargo, el ingeniero considera que Anthropic está atrapada en una dinámica competitiva que la lleva a acelerar sus avances bajo la lógica de que, si la compañía no desarrolla estos sistemas, otros actores podrían hacerlo de una manera todavía más irresponsable.

El punto central de la advertencia de Coxon está en la aceleración hacia modelos capaces de mejorar sus propias capacidades. El temor surge especialmente cuando un sistema de IA puede superar las capacidades humanas de razonamiento y, además, adquirir la capacidad de optimizar su propio código o incluso su arquitectura de entrenamiento.

En ese escenario, sostiene el especialista, el margen de control y supervisión de los desarrolladores se reduciría drásticamente, debido a que los sistemas podrían avanzar a una velocidad difícil de controlar mediante los mecanismos tradicionales de seguridad.

Para Coxon, el problema termina concentrándose en la presión por ganar la carrera tecnológica a cualquier precio, una dinámica que, según su advertencia, podría llevar a las compañías a asumir riesgos cada vez mayores en el desarrollo de una inteligencia artificial avanzada

Otras noticias