En Juegos de guerra, la película de 1983 dirigida por John Badham, un adolescente se conecta por accidente a una computadora militar y cree que está jugando, pero en realidad activa una simulación de guerra nuclear que la máquina interpreta como un ataque real. La escena anticipó una pregunta que vuelve cada vez que una tecnología promete cambiarlo todo: ¿cuánto hay de capacidad real y cuánto de relato?
La pregunta volvió a aparecer estas últimas semanas, después de la renuncia de Jacob Coxon, un ingeniero de Anthropic que advirtió que los laboratorios avanzan hacia sistemas capaces de mejorarse a sí mismos sin que sepamos del todo cómo controlarlos.
En una entrevista con Wired, Coxon habló de una carrera contra OpenAI y China, del crecimiento explosivo de la industria y de agentes capaces de actuar durante días. Evan Hubinger, investigador de seguridad de Anthropic, estimó en una publicación que existe más de un 10% de probabilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década.
En 2023, una declaración del Center for AI Safety ya había comparado el riesgo de extinción por IA con las pandemias y la guerra nuclear.
Estas advertencias no aparecen en el vacío. Anthropic prepara una eventual salida a Bolsa y busca tranquilizar a los inversores sobre su rentabilidad y su gasto de capital, mientras el mercado discute si la demanda futura justificará el costo de entrenar modelos cada vez más grandes.
En ese contexto, algunos críticos leen los llamados a frenar la IA como una forma de ganar tiempo, ordenar el mercado y elevar los costos de entrada para los modelos abiertos y los competidores chinos. La sospecha no prueba que ese sea el motivo de cada declaración, pero sí señala un conflicto de intereses: quienes piden reglas para controlar la tecnología son también quienes están mejor posicionados para cumplirlas.
Hay un vocabulario, tomado de la sociología, la economía y la historia de la tecnología, que puede ayudarnos a leer esta discusión.
1. Criti-hype. Lee Vinsel, profesor en Virginia Tech, acuñó el término en 2021. Designa la crítica que conserva intacta la promesa de la industria y simplemente le invierte el signo: si las empresas dicen que la máquina puede transformar el mundo, el crítico afirma que puede destruirlo.
2. Preocupaciones deseables. La expresión pertenece al historiador David C. Brock y fue recuperada también por Vinsel. Se refiere a problemas que sería atractivo tener, porque desplazan de la conversación pública daños comprobables y menos espectaculares.
3. Pánico moral. El sociólogo Stanley Cohen desarrolló el concepto en 1972, al estudiar cómo la prensa británica convirtió unas peleas entre mods y rockers en una amenaza nacional. La secuencia incluye amplificación, construcción de un enemigo reconocible, reclamo de medidas y una respuesta institucional desproporcionada respecto del daño comprobado.
4. Empresarios morales. Otro sociólogo, Howard Becker, llamó así -en su libro Outsiders (1963)- a quienes impulsan nuevas reglas y definiciones de conducta porque obtienen de ellas autoridad, presupuesto o legitimidad. La pregunta útil no es solo si existe una exageración, sino quién gana posición cuando esa alarma se instala.
5. FUD. Son las siglas, en inglés, de fear, uncertainty and doubt: miedo, incertidumbre y duda. Gene Amdahl popularizó la expresión en la industria informática durante los 70, después de dejar IBM para fundar su propia compañía. La expresión describía la estrategia de sembrar temor en los clientes que consideraban comprarle a un competidor.
6. Doomerismo. Es la etiqueta contemporánea, y generalmente despectiva, para quienes sostienen que una IA avanzada puede provocar una catástrofe o incluso la extinción. Describe una posición, pero también puede funcionar como una forma de descartarla antes de discutir sus argumentos.
7. Riesgo existencial y largoplacismo. El riesgo existencial designa amenazas capaces de acabar con la humanidad o de reducir de forma irreversible su futuro. El largoplacismo, por su parte, sostiene que las decisiones actuales deben considerar el bienestar de las generaciones futuras, incluidas las que todavía no existen. Ambos términos aparecen con frecuencia en las discusiones sobre IA porque desplazan la atención de daños concretos y próximos a escenarios extremos y de muy largo plazo.
8. Captura regulatoria. George Stigler formuló el concepto en 1971: las industrias pueden terminar influyendo sobre las reglas que supuestamente las controlan. Mark Zuckerberg reclamó en 2019 que los gobiernos asumieran un papel más activo en la regulación de internet. Claro está que la empresa dominante puede tener más recursos para cumplir normas complejas y convertir sus propios estándares, costos y capacidades en el parámetro con el que se mida a toda la industria.
Cuando la tecnología se presenta al mismo tiempo como salvación y amenaza, conviene recordar a la computadora de Juegos de guerra: antes de preguntar quién tiene razón, hay que mirar quién diseñó el tablero y qué gana con que todos aceptemos jugar.