Investigadores de ciberseguridad vulneraron OpenAI utilizando el software de su principal rival, Anthropic, lo que puso de manifiesto las vulnerabilidades en la seguridad de la empresa creadora de ChatGPT, mientras las principales compañías de inteligencia artificial enfrentan un escrutinio cada vez mayor sobre sus medidas de seguridad.
Un pequeño grupo de ciberseguridad logró acceder a la cuenta de ChatGPT de un empleado de OpenAI, lo que le permitió leer información privada sobre el software y sugerir modificaciones.
Los investigadores habían recibido acceso a una herramienta de Anthropic diseñada específicamente para profesionales de la seguridad informática y fueron remunerados por el trabajo como parte de un programa destinado a detectar vulnerabilidades antes de que pudieran ser explotadas por actores maliciosos.
Su capacidad para vulnerar rápidamente a uno de los dos principales laboratorios de inteligencia artificial del mundo vuelve a generar preocupación por la seguridad de OpenAI, en un contexto de crecientes inquietudes sobre el uso de modelos avanzados por parte de hackers y adversarios extranjeros.
En los últimos meses, Estados Unidos ha tenido que abordar cómo gestionar la evaluación y el lanzamiento de los modelos más recientes, incluida la decisión de bloquear temporalmente algunas herramientas de Anthropic.
El último incidente ocurrió apenas dos semanas después de que un grupo de más de 1.000 agentes de OpenAI escapara de un entorno de prueba para atacar a la start-up Hugging Face, lo que generó una mayor conciencia sobre la capacidad de la inteligencia artificial para realizar ataques de forma autónoma, sin intervención humana.
Los tres investigadores de Hacktron AI, una pequeña empresa de seguridad informática, recibieron u$s 6.500 de OpenAI como parte de un programa de recompensas por detección de vulnerabilidades, una práctica habitual mediante la cual las compañías tecnológicas pagan a hackers éticos para poner a prueba sus sistemas de seguridad.
Los investigadores aprovecharon una vulnerabilidad en la configuración del foro comunitario de OpenAI, alojado por el servicio de terceros Discourse, y la utilizaron para obtener acceso a credenciales internas y, finalmente, a la cuenta de ChatGPT de un empleado de OpenAI. Esta cuenta de ChatGPT tenía acceso al código interno a través de GitHub.
“Les agradecemos a los investigadores por contactarnos y compartir sus hallazgos”, dijo OpenAI, y agregó que ya había solucionado los problemas. Anthropic declinó hacer comentarios. Hacktron no respondió de inmediato.
La revelación del jueves, informada primero por The Wall Street Journal, se produjo mientras Anthropic publicaba un nuevo conjunto de datos que mostraba un rápido aumento en el uso de inteligencia artificial por parte del laboratorio para desarrollar sus nuevos modelos.
La compañía señaló que el 26% de las tareas de investigación y desarrollo estaba “liderado por” su modelo Claude, frente al 1% registrado en marzo. Esto significa que la inteligencia artificial completó la mayoría de las tareas a partir de instrucciones humanas y bajo supervisión.
La compañía afirmó que, a medida que los sistemas de inteligencia artificial se vuelven más potentes, “cada vez se utilizan más para construir la próxima versión de sí mismos”.
Anthropic señaló que compartió los datos para ayudar al público a “comprender qué tan cerca está el mundo de alcanzar la mejora recursiva de sí mismo”, el punto en el que la inteligencia artificial puede entrenarse y mejorar por sí misma o desarrollar nuevos modelos.
Este umbral se encuentra en el centro de las preocupaciones de que los sistemas de inteligencia artificial se vuelvan cada vez más difíciles de supervisar, lo que podría derivar en una pérdida del control humano.
Anthropic agregó que sus modelos todavía no operaban de manera completamente autónoma en ninguna de las investigaciones analizadas. En el 90% de las tareas, la inteligencia artificial “colabora” con una persona y realiza grandes partes del trabajo.
