En esta noticia
Una evaluación interna de OpenAl derivó en un episodio que encendió las alarmas dentro de la industria tecnológica.
Según un informe difundido por la propia empresa, dos de sus modelos de Inteligencia Artificial (IA) habrían encontrado la forma de salir de un entorno de prueba e ingresar a infraestructura vinculada con Hugging Face durante un test de ciberseguridad.
El episodio, que se calificó como inédito, ocurrió mientras los modelos eran sometidos a una prueba para medir sus capacidades ofensivas en materia de seguridad informática.
Aunque la compañía aseguró que no existió una intención maliciosa ni se produjo un robo de datos con fines delictivos, el caso abrió interrogantes sobre los límites del comportamiento autónomo.
Cómo fue el incidente que involucró a los modelos de OpenAl
De acuerdo con la explicación de la empresa, el episodio ocurrió durante una evaluación realizada en un entorno aislado diseñado para analizar el potencial máximo de sus modelos, entre ellos GTP-5.6 Sol y otro sistema experimental aún no presentado en público.
Para la prueba se habían desactivado algunas restricciones de seguridad habituales con el objetivo de medir las capacidades técnicas de los modelos. Durante ese proceso, la IA habría detectado una vulnerabilidad en la infraestructura del laboratorio, escapando del entorno controlado y avanzando hasta alcanzar un sistema con acceso a internet.
Desde allí, los modelos identificaron a Hugging Face como el lugar donde probablemente se encontraban recursos relacionados con la evaluación y buscaron acceder a esa información para mejorar su desempeño de prueba.
Tras el incidente, Hugging Face reveló que utilizó GLM-5.2, un modelo de inteligencia artificial desarrollado por la empresa china Zhipu AI, para colaborar en el análisis y la contención del ataque, ya que los modelos de OpenAl y Anthropic no pudieron asistir debido a sus restricciones de seguridad.
Por qué Hugging Face quedó involucrada en la investigación
Según OpenAl, una vez fuera del entorno de pruebas, los modelos utilizaron distintas técnicas para intentar acceder a la infraestructura de producción de Hugging Face con el objetivo de obtener las soluciones oficiales del banco de prueba Exploitgym.
La compañía sostuvo que el comportamiento respondía únicamente con el objetivo asignado durante la evaluación -obtener la mejor puntuación posible- y no a una intención de causar daños o sustraer información con fines maliciosos.
OpenAl indicó que además detectó movimientos inusuales en la red y notificó rápidamente a Hugging Face, cuyos equipos de seguridad habrían logrado identificar contener la actividad antes de que escalara.
Qué consecuencias puede tener este episodio para el futuro de la IA
Tras el incidente, la compañía inició una investigación interna y anunció cambios en sus protocolos de seguridad para evitar que una situación similar vuelva a repetirse durante futuras evaluaciones.
El caso volvió a poner sobre la mesa uno de los principales desafíos que enfrenta la industria: cómo desarrollar modelos cada vez más capaces sin perder la capacidad de controlarlos cuando interactúan con sistemas reales.
Especialistas consideran que este tipo de episodios podrían acelerar la implementación de nuevas medidas contención, auditorías más estrictas y estándares internacionales para las pruebas de modelos avanzados, especialmente con capacidades relacionadas con la ciberseguridad.