Integrantes y antiguos colaboradores de la firma estadounidense Anthropic advirtieron públicamente sobre los riesgos catastróficos que plantea el avance acelerado de la inteligencia artificial (IA), señalando que existe la posibilidad de que esta tecnología cause la extinción de la humanidad en los próximos diez años. La controversia cobró fuerza tras la renuncia del investigador Jacob Coxon, quien denunció en redes sociales que las principales empresas del sector están compitiendo sin los controles de seguridad necesarios para evitar que los sistemas superinteligentes se vuelvan incontrolables.
Las declaraciones de Jacob Coxon fueron respaldadas por figuras clave dentro de Anthropic, entre ellas Evan Hubinger, líder de ciencia de alineación, y Samuel Marks, responsable de supervisión escalable. Ambos especialistas coincidieron en la falta de un plan técnico definitivo para resolver el problema del alineamiento en modelos de superinteligencia con capacidad de automejora recursiva. Mientras tanto, el empresario Elon Musk estimó que la adopción masiva de la inteligencia artificial y la robótica duplicará la economía global en menos de una década, aun cuando diversos expertos en el sector privado expresan temor por el desarrollo de capacidades sobrehumanas en ciberseguridad y adquisición autónoma de recursos.
Ante las alertas emitidas sobre firmas como Anthropic y OpenAI, diversos legisladores en Estados Unidos han comenzado a promover iniciativas regulatorias para mitigar los riesgos operativos y ambientales de la tecnología. Propuestas presentadas por los congresistas Bernie Sanders, Greg Casar y Alexandria Ocasio-Cortez buscan prohibir el desarrollo de la superinteligencia artificial y aplicar moratorias a la construcción de nuevos centros de datos por su elevado consumo energético. De forma paralela, legisladores como Anna Paulina Luna, Lori Trahan y Jay Obernolte impulsan proyectos bipartidistas para exigir mecanismos de apagado de emergencia y evaluar la preparación del país frente a sistemas autónomos.
Por su parte, las empresas desarrolladoras han defendido sus protocolos internos de mitigación de riesgos. Un portavoz de OpenAI destacó las recientes actualizaciones en investigación de monitoreo y coordinación internacional de seguridad, al tiempo que Anthropic subrayó que su modelo Claude está diseñado bajo principios estrictos de seguridad para prevenir comportamientos nocivos y garantizar la intervención humana. Pese a estas garantías, el debate entre el ritmo de innovación comercial y la regulación gubernamental continúa dividiendo a la industria y al Congreso estadounidense.
