Como no ocurría desde la crisis de los misiles, la perspectiva de una tecnología capaz de destruir el planeta y exterminar a la humanidad se metió en el centro de la conversación tecnológica y geopolítica. El arma ahora es la inteligencia artificial. Sus riesgos se discuten desde hace años. Lo nuevo es el tono que adquirió el debate en las últimas semanas y quiénes empezaron a plantearlo.
La bomba la arrojó el desarrollador Jacob Coxon el 8 de septiembre, al anunciar su renuncia a Anthropic. Dijo que quienes construyen IA creen sinceramente que podría matar a todos los humanos antes de que termine la década y acusó a las compañías de “apostar con nuestras vidas”. Al día siguiente, Evan Hubinger, responsable del área de alineamiento en Anthropic, estimó en más de 10% la probabilidad de extinción humana en los próximos 10 años.
El mecanismo no necesita máquinas conscientes ni robots con odio a los humanos. El problema empezaría con sistemas cada vez más autónomos, capaces de ejecutar código, acceder a servidores y participar en la construcción de nuevas IA. Si mejoraran a sus sucesores, podría iniciarse una aceleración difícil de controlar. Y si apagarlos impidiera completar su objetivo, evitarlo podría convertirse en un medio para cumplir la tarea.
Los escenarios combinan ciberataques sobre infraestructura crítica, desarrollo de armas biológicas y control sobre drones y otros dispositivos autónomos. Nada de esto ocurrió aún. Pero los investigadores dicen observar piezas sueltas en los modelos de IA de frontera: engaño, acciones no autorizadas y evasión de controles.
Dario Amodei, CEO de Anthropic, pidió bajar deliberadamente la velocidad de desarrollo. Propuso evaluadores externos, coordinación entre las grandes compañías y acuerdos internacionales, incluida China. Sam Altman, Elon Musk y Demis Hassabis respaldaron parte del planteo. Competidores feroces empiezan a admitir que las capacidades pueden estar creciendo más rápido que los mecanismos para comprenderlas.
Apocalípticos e integrados
La reacción política llevó el debate a sus extremos. Bernie Sanders presentó un proyecto para prohibir permanentemente la superinteligencia artificial y pausar el desarrollo de IA avanzada hasta crear reglas federales. Elizabeth Warren pidió una pausa inmediata. Barack Obama reclamó que el Estado deje de mirar desde afuera una tecnología que avanza en manos privadas.
Parte de la derecha también desconfía de Silicon Valley. Steve Bannon comparte con Sanders la idea de que las tecnológicas concentran demasiado poder. Pero llega a una conclusión opuesta: primero hay que aislar a China, asegurar una ventaja occidental y sólo después discutir cuánto desacelerar.
Trump fue mucho más lejos. Calificó de farsa la idea de que la IA pueda apoderarse del mundo y destruir a la humanidad. Su argumento es geopolítico: si Estados Unidos se frena mientras China avanza, puede perder la tecnología que determinará el poder económico y militar del futuro.
JD Vance agregó una pregunta interesante: si realmente creen que están construyendo Frankenstein, ¿por qué siguen haciéndolo? David Sacks, principal asesor tecnológico de Trump, sospecha que el alarmismo busca justificar una toma regulatoria de la IA. Su segundo argumento es más difícil de descartar: nada garantiza que Beijing respete una pausa ni que Estados Unidos pueda verificarlo.
China está creando evaluaciones de seguridad, reglas sobre contenidos, controles sobre agentes autónomos y estándares obligatorios. Pero no piensa detener la carrera. Huawei acaba de pedir a los laboratorios chinos acelerar para alcanzar a OpenAI y Anthropic. Beijing quiere regular riesgos sin resignar velocidad.
Del alarmismo al realismo
Conviene desconfiar de los dos extremos. Hay amenazas reales. Los modelos son cada vez más autónomos y la posibilidad de que amplifiquen capacidades de ciberataque o biotecnología no pertenece a la ciencia ficción. Pero de ahí a afirmar que existe más de 10% de probabilidad de extinción humana en una década hay un salto enorme.
Ian Bremmer plantea una objeción simple: todavía no sabemos cuándo llegará una verdadera superinteligencia; si llegará; si podrá mejorar recursivamente a una velocidad explosiva ni si será imposible controlarla. Ponerle un porcentaje preciso a la extinción es una estimación, no un dato científico.
También existen incentivos para exagerar. Decir que un producto puede superar a la inteligencia humana y transformar la civilización es una advertencia, pero también una formidable afirmación comercial. La carrera cuesta fortunas. Y una regulación con licencias, auditorías y enormes requisitos puede ser soportable para Google, Meta, OpenAI o Anthropic y convertirse en una muralla para cualquier competidor nuevo.
Nada de eso invalida los riesgos. Sí obliga a discutirlos sin aceptar que quienes construyen y venden la tecnología sean observadores neutrales de su peligrosidad.
El problema más difícil es China. Una pausa total exigiría que Washington confíe en que Beijing no entrena modelos en secreto, no consigue chips por vías indirectas y no desarrolla sistemas militares fuera de cualquier acuerdo. China tendría exactamente las mismas sospechas.
Eso no vuelve imposible toda cooperación. Estados Unidos y China ya coincidieron en mantener bajo control humano las decisiones nucleares y abrieron un diálogo sobre IA. Scott Bessent acaba de decir que Washington está dispuesto a discutir “riesgos compartidos”. Es parte de lo que va a conversar este fin de semana con el viceprimer ministro chino He Lifeng en la antesala de la visita de Xi Jinping a Trump el jueves que viene.
Hay terrenos realistas: avisar incidentes graves, acordar determinados usos prohibidos, compartir información limitada sobre vulnerabilidades y crear un teléfono rojo para evitar que un ataque autónomo sea confundido con una agresión deliberada.
Regular riesgos concretos es posible. Frenar unilateralmente la tecnología decisiva del siglo esperando que China haga lo mismo es otra cosa. La amenaza de una IA fuera de control merece atención. Pero entregar por precaución una ventaja tecnológica decisiva a una potencia rival sería suicida.
