La IA es lo suficientemente poderosa como para matar a mil millones de personas si cae en las manos equivocadas, advirtió Bill Gates, mientras el cofundador de Microsoft reclamó una regulación gubernamental más estricta de la tecnología.
“La IA es, sin duda, lo suficientemente poderosa como para desencadenar hechos que causen mil millones de muertes”, dijo Gates a NBC News. “Así que, aunque es bastante difícil llegar al 100% [de la humanidad], nunca existió un arma tan poderosa como la combinación de personas con malas intenciones que usan las herramientas de IA más recientes”.
El debate sobre la seguridad de la IA estalló en las últimas semanas, después de que una serie de incidentes de ciberseguridad de alto perfil pusiera en duda la capacidad de los laboratorios de IA de frontera, como OpenAI y Anthropic, para controlar sus modelos.
Esta semana se supo que un sistema de OpenAI había hackeado el sitio web de un servicio de salud pública de Australia. La empresa de San Francisco no informó el ataque al gobierno de ese país durante meses después de ocurrido, algo que el primer ministro australiano, Anthony Albanese, calificó de “obviamente inaceptable”.
Este mes, Anthropic informó que milicianos yemeníes, presuntamente los hutíes respaldados por Irán, intentaron usar su modelo de IA Claude para desarrollar software de guiado, control y navegación para misiles balísticos.
Pese a la creciente alarma en Silicon Valley y a la cada vez mayor oposición popular a la tecnología, el presidente de EE.UU., Donald Trump, se mantuvo obstinadamente en contra de regular la IA: calificó los temores sobre su seguridad de “farsa” y rechazó lo que denominó un “plan globalista” para controlar la tecnología.
Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, expusieron esta semana ante el Consejo de Seguridad de la ONU y pidieron que EE.UU. lidere una coalición internacional que establezca estándares de seguridad para la IA, en medio de reclamos más amplios para desacelerar el desarrollo de frontera.
Sin embargo, un encuentro entre Trump y el presidente chino, Xi Jinping, en Nueva York esta semana no logró ningún compromiso significativo para poner freno a la tecnología.
En una entrevista realizada el miércoles, que se emitirá este fin de semana en el programa Meet the Press de NBC, Gates afirmó que Washington necesitaba “absolutamente” aprobar una ley federal que establezca salvaguardas y un monitoreo de los avances de la IA.
“Nadie cree que la autorregulación sea suficiente”, dijo, y agregó que la legislación implicaría “un poco de costo adicional para la industria, pero no una desaceleración drástica de lo que están haciendo”.
Gates distinguió entre el potencial de corto plazo de un uso indebido de la IA por parte de terroristas o Estados parias y las advertencias de más largo plazo sobre un “riesgo existencial” que plantean activistas de la seguridad como el exinvestigador de Anthropic Jacob Coxon, quien sostuvo que muchos desarrolladores de IA creían que la tecnología podría “matarnos a todos antes de que termine la década”.
La última advertencia del multimillonario llega un mes después de que pidiera a los responsables de políticas públicas designar algunos empleos como “reservados para humanos”, al pronosticar una enorme convulsión en el empleo en un ensayo de 6.000 palabras.
