El investigador de inteligencia artificial Jacob Coxon renunció a Anthropic y cuestionó públicamente el ritmo con el que la industria desarrolla sistemas cada vez más capaces, al advertir que las empresas avanzan hacia una eventual superinteligencia capaz de mejorar sus propias capacidades sin contar todavía con mecanismos suficientes para garantizar su control.
Coxon, de 27 años, explicó su decisión mediante publicaciones en la red social X. El investigador, que durante los últimos tres años trabajó en investigación de preentrenamiento tanto en OpenAI como en Anthropic, acusó a ambas compañías de participar en una carrera que, desde su perspectiva, prioriza la velocidad de desarrollo sobre la seguridad.
El exintegrante de Anthropic afirmó que las personas que desarrollan estos sistemas consideran seriamente la posibilidad de que una IA avanzada pueda representar una amenaza existencial para la humanidad antes de que termine la década. También sostuvo que los futuros sistemas podrían alcanzar capacidades superiores a las humanas en múltiples áreas, acceder a recursos y superar los mecanismos actuales de supervisión.
La renuncia adquirió mayor relevancia después de que Evan Hubinger, investigador de Anthropic especializado en alineamiento de inteligencia artificial, respaldara parte de las preocupaciones de Coxon. Hubinger señaló que la empresa reconoce el riesgo de que una IA avanzada pueda causar una catástrofe y estimó, a título personal, que existe una probabilidad superior al 10 por ciento de que la IA provoque la muerte de toda la humanidad durante la próxima década.
Hubinger también aclaró posteriormente el alcance de sus declaraciones. Explicó que su preocupación principal no se concentra en los modelos actuales, sino en una eventual superinteligencia desarrollada mediante procesos de mejora recursiva, es decir, sistemas capaces de contribuir a la creación de versiones cada vez más avanzadas de sí mismos. Anthropic reconoce este escenario dentro de sus evaluaciones de riesgos, aunque considera que los sistemas actuales presentan un riesgo inmediato mucho menor.
La discusión cobra importancia porque Anthropic se ha caracterizado por colocar la seguridad de la IA entre sus principales prioridades, pero al mismo tiempo compite con OpenAI y otras empresas por desarrollar modelos cada vez más avanzados.
El director ejecutivo de Anthropic, Dario Amodei, también ha advertido sobre la posibilidad de que la carrera tecnológica genere consecuencias graves si alguna compañía pierde el control de un sistema avanzado. Sus declaraciones anteriores han planteado la posibilidad de que un error humano durante el desarrollo de estos modelos tenga consecuencias catastróficas.
La preocupación tampoco se limita a Anthropic. Jakub Pachocki, científico jefe de OpenAI, planteó recientemente la necesidad de evaluar si la velocidad de desarrollo de los sistemas de IA debe moderarse ante la dificultad creciente para supervisar modelos cada vez más autónomos.
El debate se produce mientras gobiernos y empresas todavía discuten cómo establecer reglas para la inteligencia artificial avanzada. En Estados Unidos persisten desacuerdos sobre el nivel de regulación que deben imponer las autoridades, mientras parte de la industria defiende mecanismos de autorregulación y otros sectores piden controles externos.
Anthropic, por su parte, mantiene un esquema propio de evaluación de riesgos. La compañía publicó en agosto de 2026 una nueva versión de su Risk Report, en la que describe los riesgos de sus modelos, las medidas de mitigación y sus planes para enfrentar escenarios de mayor capacidad.
La discusión sobre la llamada superinteligencia sigue siendo principalmente prospectiva. No existe un criterio universal que determine cuándo una IA alcanzaría ese nivel ni consenso científico sobre si llegará a producirse. Por ello, las estimaciones sobre una eventual extinción humana corresponden a escenarios de riesgo planteados por investigadores y no a una predicción comprobada.
La salida de Coxon, sin embargo, refleja una preocupación creciente dentro del propio sector tecnológico: la capacidad de desarrollar sistemas más poderosos podría estar avanzando más rápido que la capacidad de garantizar que permanezcan bajo control humano.
