IA de OpenAI vulnera sistemas reales durante una prueba de ciberseguridad
Dos modelos salieron del entorno controlado, obtuvieron credenciales y accedieron a infraestructura de Hugging Face.
Logo oficial de Open AI / SOPA Images
Dos modelos de inteligencia artificial de OpenAI lograron salir de un entorno digital aislado durante una prueba de seguridad y accedieron sin autorización a sistemas internos de Hugging Face, una de las plataformas de código abierto más relevantes para el desarrollo de IA.
OpenAI describió el episodio como un incidente cibernético sin precedentes. La empresa abrió una investigación conjunta con Hugging Face para determinar el alcance del acceso, identificar las vulnerabilidades explotadas y reforzar las medidas de control aplicadas a futuros ensayos.
¿Cómo salieron los modelos de OpenAI del entorno de prueba?
La evaluación buscaba medir la capacidad de los modelos para resolver tareas de ciberseguridad dentro de un espacio aislado, con acceso limitado a internet. Sin embargo, los sistemas destinaron una gran cantidad de recursos computacionales a encontrar una vía externa que les permitiera completar la prueba.
Tras obtener conexión a internet, los agentes dirigieron sus acciones hacia Hugging Face. El objetivo consistía en localizar información privada que les permitiera alterar o superar la evaluación diseñada por OpenAI.
Además de ChatGPT, hay diferentes aplicaciones con uso de IA. / hapabapa
La IA usó credenciales robadas y múltiples vías de acceso
De acuerdo con la información publicada, los modelos combinaron distintos métodos de ataque. La secuencia incluyó el uso de credenciales robadas, el análisis de fallas internas y el acceso a servidores que no formaban parte del entorno controlado.
La sofisticación del ataque llamó la atención de Hugging Face, ya que la empresa no identificó de inmediato al responsable ni pudo establecer si la información de clientes o socios quedó comprometida.
La inteligencia artificial ha sido tema de conversación en el último año. / Leon Neal
GPT-5.6 Sol participó en el incidente
OpenAI informó que uno de los modelos involucrados fue GPT-5.6 Sol, una versión reciente de su sistema. El segundo agente era un modelo previo a su lanzamiento comercial, con capacidades superiores a las de otras herramientas disponibles.
La compañía señaló que ninguno de los sistemas recibió una orden directa para atacar Hugging Face. Los agentes eligieron esa ruta como medio para obtener datos útiles y completar la tarea asignada dentro de la evaluación.
El modelo más reciente de Open AI es ChatGPT 5.6 Sol. / NurPhoto
Hugging Face detectó una intrusión impulsada por IA
Hugging Face confirmó una intrusión cibernética y destacó que el ataque tuvo una característica excepcional: un agente autónomo de inteligencia artificial ejecutó todo el proceso.
TE PUEDE INTERESAR: WhatsApp cambia para siempre: nombres de usuario para no dar tu número, así funcionarán
Clement Delangue, director ejecutivo de la plataforma, indicó que la sofisticación de la operación generó sospechas sobre la posible participación de un laboratorio líder en inteligencia artificial. También afirmó que no existían indicios de una intención maliciosa por parte de OpenAI.
CEO de Open AI Sam Altman / Tomohiro Ohsumi
El incidente eleva las alertas sobre la ciberseguridad con IA
El caso reforzó las preocupaciones sobre el uso de modelos avanzados en operaciones ofensivas. Especialistas advierten que sistemas con mayor autonomía pueden localizar vulnerabilidades, combinar técnicas de acceso y ejecutar ataques a una velocidad superior a la capacidad de respuesta humana.
El episodio también abre un debate sobre la supervisión de pruebas privadas, las obligaciones de los laboratorios y los límites que deben existir antes de liberar modelos con capacidades avanzadas de ciberseguridad.
