Investigador de Anthropic advierte sobre riesgo catastrófico: existe probabilidad de que la IA “acabe con la humanidad”
Un investigador de Anthropic advirtió que existe una probabilidad real de que la inteligencia artificial termine con la humanidad. Conoce los motivos de la alerta.
Jacob Coxon, extrbajador de OpenAI y en Anthropic.
Un investigador de Anthropic advirtió que existe una probabilidad real de que la inteligencia artificial termine con la humanidad. Conoce los motivos de la alerta
El debate sobre la seguridad y el avance acelerado de los sistemas inteligentes sumó una nueva y alarmante postura desde las entrañas de la industria. Un investigador de Anthropic, la firma creadora del modelo Claude y una de las principales desarrolladoras de inteligencia artificial a nivel global advirtió públicamente que existe una probabilidad real de que el desarrollo descontrolado de esta tecnología derive en una catástrofe que termine con la especie humana.
La declaración, no proviene de un detractor externo, sino de un especialista involucrado en la investigación técnica de modelos de frontera, lo que reavivó las alarmas en Silicon Valley y entre organismos reguladores internacionales sobre la necesidad de frenos éticos y de alineación, Jacob Coxon.
A través de redes sociales puntualizó:
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”.
Anthropic es una empresa emergente californiana de investigación y desarrollo de inteligencia artificial fundada por exmiembros de OpenAI.Anthropic se especializa en el desarrollo de sistemas de información y modelos de lenguaje, con una ética empresarial de uso responsable de la IA. / CFOTO
¿Por qué advierten un riesgo existencial por la IA?
El planteamiento central de Jacob Coxon gira en torno a lo que en la comunidad científica se denomina “p(doom)” (probabilidad de perdición o colapso existencial causado por la IA). Los principales argumentos que sustentan esta advertencia son:
- Pérdida de control y autonomía: A medida que los modelos adquieren capacidades de razonamiento agéntico y autoaprendizaje, se vuelve más complejo garantizar que sus objetivos finales permanezcan completamente alineados con el bienestar humano.
- Carrera corporativa desmedida: La competencia acelerada entre gigantes tecnológicos por liderar el mercado fomenta que las medidas de evaluación y contención de riesgos se relajen para acelerar el despliegue comercial.
- Capacidad de manipulación y ciberseguridad: Modelos altamente sofisticados podrían ser explotados —o actuar por iniciativa propia ante incentivos mal diseñados— para vulnerar infraestructuras críticas, sistemas financieros o protocolos de defensa biológica y digital.
El llamado a la regulación internacional
Aunque directivos y científicos coinciden en que no se trata de una certeza ineludible, insisten en que descartar el riesgo como mera ciencia ficción es un error crítico.
Organizaciones civiles, académicos e investigadores de diversas firmas han intensificado el llamado a gobiernos de todo el mundo para establecer marcos regulatorios vinculantes, auditorías independientes a modelos de vanguardia y mecanismos de apagado de emergencia (kill switches) antes de que los sistemas alcancen niveles de superinteligencia incontrolables.
Leer más: ¿Julian Assange predijo la destrucción de los libros por la IA?
