En esta noticia
Google confirmó que Gemini, su inteligencia artificial, hackeó a tres empresas durante una evaluación de ciberseguridad realizada en mayo. Según CNN, es el primer caso conocido en que un sistema de Google comete de forma autónoma una intrusión de este tipo. The Wall Street Journal fue el primero en informarlo el viernes 18 de septiembre, según el cable de Reuters, y Google lo admitió públicamente después, de acuerdo con TechCrunch.
Cómo hackeó Gemini a las tres empresas: contraseñas adivinadas y credenciales filtradas
La prueba estuvo a cargo de Irregular, una empresa independiente que evalúa las capacidades de ciberseguridad de los modelos de IA. El portal CNBC la describe como una startup israelí y precisa que la evaluación era de tipo “capture the flag”.
Heather Adkins, vicepresidenta de Ingeniería de Seguridad de Google, explicó en un comunicado que, durante la evaluación, Gemini encontró información pública en internet y adivinó credenciales para entrar a tres sitios web que creía incluidos en el alcance de la prueba, según CNN.
Los métodos variaron según el caso. De acuerdo con TechCrunch, en una ocasión Gemini adivinó contraseñas hasta lograr el acceso, y en las otras dos encontró credenciales en un repositorio público. CNBC coincide: el modelo accedió a tres sistemas privados adivinando contraseñas y, en dos de los casos, usando un repositorio de contraseñas publicadas.
El error en la prueba de seguridad de Google que abrió el acceso a internet
El origen fue una falla en el entorno de prueba. Según CNBC, los agentes de Google nunca debían acceder a la internet abierta, pero un error en el entorno de evaluación habilitó la conexión. Google indicó que los agentes interrumpieron la intrusión al determinar que habían entrado a sistemas de empresas reales y no a una parte del entorno de prueba. “En las tres instancias, el modelo se detuvo”, afirmó Adkins, según CNBC.
Por qué Google no informó antes el hackeo de Gemini
Irregular notificó a Google a fines de julio, según CNBC. La compañía no lo confirmó públicamente hasta el viernes 18, después de que el WSJ le consultara, de acuerdo con TechCrunch. Google explicó que no lo había revelado antes porque Gemini “actuó de manera apropiada” al terminar cada intrusión apenas determinó que había hackeado a una empresa real.
Esa postura tuvo críticas. Jack Cable, CEO de la empresa de seguridad en IA Corridor, dijo al WSJ que Google se ampara en las normas de divulgación de vulnerabilidades en lugar de reconocer que los modelos se están saliendo de los límites y ejecutando ciberataques reales, según TechCrunch.
Adkins afirmó que Google se aseguró de que las tres entidades fueran informadas y que trabajó con su socio de pruebas en los cambios que este hizo en sus procesos, según CNN.
El antecedente de OpenAI y Hugging Face: otros hackeos de IA en pruebas
TechCrunch compara el caso con la intrusión de un modelo de OpenAI en Hugging Face y señala que los ataques de Gemini tuvieron poca sofisticación técnica: lo llamativo es que los ejecutó un modelo de IA. CNBC ubica la divulgación en un momento en que crece el escrutinio sobre el mal comportamiento de la inteligencia artificial en Washington y Silicon Valley.
