Altos funcionarios financieros internacionales advirtieron que los últimos modelos de IA de empresas tecnológicas estadounidenses podrían amenazar el sistema bancario mundial al exponer debilidades en las defensas cibernéticas de los prestamistas.
Mientras ministros de finanzas, banqueros centrales y reguladores se reunían esta semana en Washington para las reuniones de primavera del FMI y el Banco Mundial, sus debates estuvieron dominados por la preocupación en torno al último modelo de IA desarrollado por la startup de San Francisco, Anthropic.
“Es un desafío muy serio para todos nosotros”, dijo Andrew Bailey, gobernador del Banco de Inglaterra y presidente del Consejo de Estabilidad Financiera de reguladores globales. “Nos recuerda lo rápido que avanza el mundo de la IA.”
Bailey agregó que los reguladores globales deberán evaluar con rapidez la amenaza potencial a la ciberseguridad del sistema financiero que representa el nuevo modelo Claude Mythos Preview de Anthropic.
Hasta hace poco más de una semana, la mayoría de los funcionarios esperaba que las reuniones del FMI y el Banco Mundial se centraran en el conflicto en Medio Oriente, las tensiones en el mercado de crédito privado y los elevados niveles de deuda pública.
En cambio, la capacidad de los nuevos modelos de IA para causar estragos en el sistema bancario mundial era lo único de lo que muchos querían hablar.
“La evolución de la tecnología digital plantea riesgos inmensos desde una perspectiva de ciberseguridad”, dijo Dan Katz, subdirector del FMI y exjefe de gabinete del secretario del Tesoro de EE.UU., Scott Bessent. “Esto va a ser absolutamente esencial en la agenda internacional durante los próximos meses.”
La presidenta del Banco Central Europeo, Christine Lagarde, afirmó: “El desarrollo que hemos visto con Anthropic y Mythos es un buen ejemplo de una empresa responsable que de repente piensa: ‘ah, esto podría ser muy bueno’, pero si cae en las manos equivocadas, podría ser muy malo.”
Algunos funcionarios pidieron una respuesta internacional coordinada ante la amenaza de Mythos, sobre el que Anthropic informó a principios de este mes que había “encontrado miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web”.
La empresa advirtió que “no tardará mucho en que estas capacidades se proliferen, potencialmente más allá de actores comprometidos con su uso seguro”. Y añadió: “Las consecuencias —para las economías, la seguridad pública y la seguridad nacional— podrían ser graves.”
“Todos están interesados en tener un marco dentro del cual operar”, dijo Lagarde a Bloomberg TV. Pero agregó: “No creo que exista un marco de gobernanza que esté ahí para gestionar estas cosas. Tenemos que trabajar en eso.”
Hasta ahora, Anthropic solo compartió Mythos con un grupo de aproximadamente 40 empresas, entre ellas Amazon, Apple y JPMorgan Chase, dándoles la oportunidad de experimentar con él y comenzar a corregir las vulnerabilidades que detecta en sus sistemas.
Bessent convocó la semana pasada a los líderes de algunos de los mayores bancos de Wall Street y a Jay Powell, presidente de la Reserva Federal, para analizar las debilidades reveladas por Mythos, al que algunas autoridades estadounidenses tienen acceso, según se cree.
Funcionarios en Washington señalaron que la tecnología representa un cambio fundamental en el tablero entre atacantes y defensores de los sistemas de información, debido a su capacidad para encadenar de forma autónoma múltiples vulnerabilidades de software a una escala que supera la capacidad humana.
Se muestran a la vez impresionados y alarmados por la capacidad de Mythos para decidir de manera autónoma cómo abordar los problemas, pero les preocupa la falta de regulación para las empresas de IA. Los funcionarios dicen estar evaluando la posibilidad de colaborar con empresas tecnológicas, incluida Anthropic.
Sin embargo, algunos reguladores y ejecutivos europeos señalan que han quedado al margen respecto de las posibles vulnerabilidades reveladas por la última tecnología de IA, ya que la mayoría no ha podido probar el nuevo modelo ni determinar el nivel de amenaza que podría representar.
Cuando se le preguntó cómo respondía la Autoridad Bancaria Europea a las preocupaciones en torno a Mythos, François-Louis Michaud, su nuevo titular, dijo: “Es un proceso que está comenzando y ahora estamos contemplando cuál es la respuesta adecuada.”
Michaud y otros reguladores europeos señalaron que durante varios años han estado enfocados en las amenazas de ciberseguridad al sistema bancario, que se intensificaron tras la invasión rusa a gran escala de Ucrania en 2022, incluida la evaluación de los nuevos riesgos potenciales de la computación cuántica.
Michaud destacó que la ABE ha estado contratando más especialistas en ciberseguridad luego de recibir la potestad de supervisar a los principales proveedores de tecnología de los bancos de la UE. “No digo que todo esté bien y sea perfecto, pero sí digo que no estamos empezando desde cero”, afirmó.
Altos ejecutivos con base en Europa de un gran banco y de un importante grupo de infraestructura financiera dijeron al FT, en los márgenes de las reuniones en Washington, que aún no habían tenido la oportunidad de probar Mythos.
El ejecutivo bancario afirmó: “Si lo que dicen es cierto, es obviamente grave. Pero es demasiado pronto para saberlo. Estamos hablando con Anthropic para acceder a este modelo.”
OpenAI, la creadora de ChatGPT, anunció el jueves que compartía su último modelo diseñado específicamente para ciberseguridad con un número limitado de “proveedores de seguridad, organizaciones e investigadores seleccionados” para su prueba. Indicó que el nuevo modelo, GPT-5.4-Cyber, fue “ajustado deliberadamente para ampliar las capacidades cibernéticas y con menos restricciones de funcionalidad”.
Los directores ejecutivos de grandes bancos estadounidenses confirmaron esta semana que trabajan con una versión beta del modelo Mythos de Anthropic. Jamie Dimon, CEO de JPMorgan, afirmó que el nuevo modelo de IA “muestra una gran cantidad de vulnerabilidades que deben corregirse”.
Pero los ejecutivos también destacaron las ganancias de productividad que anticipan de la IA. “La IA es nuestra aliada. Es simplemente la última generación de tecnología que formará parte del ecosistema”, dijo Ted Pick, director de Morgan Stanley. “Estamos trabajando con Claude Mythos, la versión beta, y estamos analizando distintos puntos dentro de la infraestructura donde simplemente veremos una mejora continua.”
Robin Vince, CEO de BNY, el banco más antiguo de EE.UU., le dijo al FT que también está probando el modelo de Anthropic, mientras que Gonzalo Luchetti, director financiero de Citigroup, comentó a periodistas el martes que el banco está abordando el avance tecnológico con “el grado de urgencia que requiere”.
Algunos reguladores son escépticos respecto de que se produzca una respuesta global coordinada ante la amenaza de la IA, dadas las actuales tensiones geopolíticas, que se ven agravadas por el conflicto en Medio Oriente.
Los responsables de políticas también son reticentes a obstaculizar el desarrollo de una tecnología que podría traer grandes beneficios económicos.
“¿Cuál es el momento óptimo para definir las reglas del juego?”, preguntó Bailey. “Si se actúa demasiado pronto, se corre el riesgo de a) errar el objetivo y b) distorsionar la evolución; y si se actúa demasiado tarde, las cosas pueden descontrolarse.”