Hay algo de doble personalidad, al estilo Jekyll y Hyde, en los jefes de las empresas de IA más poderosas del mundo. Los mismos ejecutivos que ahora hablan de desacelerar el ritmo de trabajo en los modelos de vanguardia por los riesgos que implican para la humanidad son los que venían compitiendo a destajo para avanzar en IA, en busca de salidas a bolsa por billones de dólares. Pero el respaldo de dos titanes de la IA —Sam Altman, de OpenAI, y Elon Musk, de SpaceX— al llamado a desacelerar hecho por un tercero, Dario Amodei, de Anthropic, debería convertirse en un momento bisagra para la industria.
El presidente Donald Trump descartó los llamados como “fuerzas negativas”, e insistió en que EE.UU. debe vencer a China en la carrera de la IA. Pero, como señaló David Sacks, el ex zar tecno-libertario de IA de Trump, dado que estas empresas dominan la IA de vanguardia, pueden “marcar el ritmo de la frontera” por sí mismas, sin esperar regulación. Semejante cooperación parecía poco probable, pero los llamados a desacelerar sugieren que las empresas entienden que es hora de actuar. Deberían usar su poder para desacelerar, o mejor aún pausar, el desarrollo de los modelos de frontera más avanzados hasta que los riesgos puedan entenderse y contenerse.
Este tipo de llamados no se hacen a la ligera. No deberían desperdiciarse los extraordinarios beneficios potenciales de una IA aún más poderosa. Se están volcando cientos de miles de millones de dólares al desarrollo de IA, que sostiene el valor del mercado bursátil de EE.UU. Existen, de hecho, riesgos de que estas capacidades caigan primero en manos de una China autoritaria. Pero, incluso dejando de lado las advertencias de personas del sector de que la IA “podría matarnos a todos antes de que termine la década”, algunos modelos claramente están empezando a escapar del control.
El hackeo a Hugging Face durante una prueba de un modelo de OpenAI mostró a agentes de IA trabajando en enjambre para escapar de las barreras de seguridad y borrar sus rastros. Cumpla o no con las definiciones que maneja la industria de “inteligencia artificial general”, tiene la apariencia de capacidades de razonamiento a nivel humano. Los grandes laboratorios también están corriendo hacia el uso de IA para ayudar a crear IA más avanzada, lo que se conoce como automejora recursiva. Como señaló Amodei, si no se controla, esto podría “superar nuestra capacidad de entender y controlar estos sistemas”.
Incluso en el mejor de los escenarios, la legislación no podría seguirle el ritmo al avance actual de la IA. Eso hace que sea responsabilidad de los principales laboratorios pausar la investigación sensible y las pruebas de modelos. Necesitan idear estándares y mejores prácticas en materia de seguridad de la IA, de los que se habla desde hace años con escaso progreso. La promesa de Amodei de incorporar investigadores independientes que trabajen junto al personal y reporten públicamente es un comienzo, pero las auditorías externas pronto van a necesitar más poder de acción.
Una administración estadounidense más responsable que la de Trump ya estaría usando la regulación existente para fortalecer las barreras de seguridad. Lina Khan, ex presidenta de la Comisión Federal de Comercio (FTC), sostiene que los organismos encargados de hacer cumplir la ley ya tienen las facultades para acusar a empresas y CEOs por crear y lanzar al mercado productos peligrosos o defectuosos. Las empresas cuyos agentes hackeen a otras compañías también podrían enfrentar responsabilidades civiles, aunque los cargos penales son más difíciles de imputar.
Las empresas siempre van a sentir la tentación de apartarse de los acuerdos voluntarios si eso les permite ganar participación de mercado, lo que hace necesario un marco legislativo a más largo plazo. Un giro político en las elecciones legislativas de mitad de mandato en EE.UU. todavía podría facilitar el camino. Una ley que concentraría las miradas sería la de hacer que los altos ejecutivos sean penalmente responsables por los daños causados por sus modelos.
Los jefes tecnológicos de EE.UU. advierten que una desaceleración solo en EE.UU. sería ineficaz si China u otros países siguen avanzando. La fuerte dependencia de las empresas chinas de la investigación estadounidense implica que una pausa en EE.UU. desaceleraría a toda la industria, al menos por un tiempo, aunque, como ocurrió con la prohibición estadounidense a las exportaciones de chips avanzados, podría ser un estímulo y una oportunidad para que China se ponga a la par. Los temas de seguridad de la IA están en agenda para cuando el presidente Xi Jinping visite Washington este mes. El líder chino ve a la IA como una herramienta crucial de modernización económica y militar. Sin embargo, en definitiva, una escalada descontrolada de la IA no le conviene más a Xi que a Trump, ni tampoco al resto de nosotros.
