Hasta ahora, uno de los grandes desafíos de un banco es comprobar que la persona detrás de una pantalla era realmente quien decía ser. La llegada de los agentes de inteligencia artificial agrega una pregunta bastante más incómoda: ¿qué ocurre cuando ya no es el cliente quien entra al banco, consulta una cuenta, paga un servicio o hace una compra, sino una IA que actúa en su nombre?
Incode cree que esa será una de las próximas fronteras de la identidad digital. La compañía, fundada por el emprendedor mexicano Ricardo Amper en San Francisco, lanzó este miércoles Incode Know Your Agent. La solución está diseñada para detectar a los agentes de IA que acceden a los servicios digitales de una organización, identificar a la persona detrás de ellos y establecer qué operaciones tienen autorizadas.
La idea parece una evolución natural del conocido Know Your Customer (KYC) de la industria financiera: pasar de conocer al cliente a tener que “conocer al agente”.
“Los agentes de IA están empezando a formar parte de la economía y todas las empresas tendrán que responder la misma pregunta: ¿podemos confiar en ellos para actuar?”, señaló Amper, CEO de Incode.
Emplacar a los agentes de IA
Íñigo Castillo, director de Incode para México, usa una analogía menos tecnológica para explicar hacia dónde podría ir ese mercado: los agentes de IA tendrán que ser “emplacados”.
La comparación es con los primeros automóviles. Su adopción terminó por exigir reglas para identificar a los vehículos y establecer quién estaba autorizado a conducirlos. Con los agentes autónomos, plantea Castillo, podría ocurrir algo parecido: habrá que vincular cada agente con una persona y con los permisos que esa persona decidió darle.
“Vamos a tener que saber de quién es ese agente, quién lo autorizó y qué le estamos permitiendo hacer”, explicó Castillo durante la presentación en las nuevas oficinas de la compañía en CDMX.
Eso puede significar fijar desde cuánto dinero puede gastar un agente hasta qué operaciones puede ejecutar y durante cuánto tiempo.
Know Your Agent busca construir precisamente ese vínculo. Según la compañía, una vez verificada la identidad de una persona, la plataforma le asocia el agente y permite establecer las tareas que puede realizar, sus límites de gasto y la vigencia de la autorización. Las operaciones quedan registradas y los agentes que no estén asociados con una persona verificada se bloquean.
Más allá de un tema tecnológico, la ecuación que Incode plantea incluye una revisión a todas las partes en este círculo en el que se incluye también la ingeniería social, un elemento que a veces interrumpe la eficiencia tecnológica, refiere Adriana Obregón, directora de Relaciones con Gobiernos de Incode para Latam.
El fraude también descubrió la IA
Pero la autorización de agentes legítimos es solo la mitad del dilema; la otra está del lado de los atacantes.
Según Castillo, el problema aparece justo cuando los defraudadores recorren el camino inverso: usan inteligencia artificial para reducir el costo y aumentar la escala de sus ataques.
En octubre, una investigación de la firma de ciberseguridad Straiker, retomada por The Information y PYMNTS, documentó que un grupo identificado como CyberCartel usó agentes impulsados por modelos como Claude y Grok para atacar a más de 400 objetivos en América Latina, entre ellos bancos y compañías de pagos. Los agentes buscaban contraseñas, accedían a información de clientes e intentaban entrar a cuentas bancarias.
En las nuevas instalaciones de Incode en México funciona un FraudLab donde se recrean algunos de esos intentos: documentos manipulados, máscaras, deepfakes, ataques de inyección digital y, ahora, agentes automatizados. El objetivo es generar datos adversariales para entrenar los sistemas antes de que las nuevas modalidades de fraude lleguen de forma masiva a los clientes.
Según cifras de la compañía, el fraude de identidad hecho con herramientas de IA representaba alrededor del 8% de todos los casos hace un año y podría cerrar este en torno al 60%. Y, añade Castillo, la cifra podría llegar a 100% en 2027.
La razón no está necesariamente en que las técnicas sean más espectaculares, sino en su economía.
“La creación de identidades sintéticas con inteligencia artificial está desplazando el fraude manual porque es mucho más eficiente en costos”, explicó Eugenio Gómez, Head of Live Services de Incode, durante el recorrido.
La siguiente evolución es todavía más compleja. Con agentes, un solo atacante puede correr decenas de procesos de alta de clientes al mismo tiempo. Cada agente recibe un rechazo, ajusta la densidad de píxeles, la duración del video o los intervalos entre intentos, y vuelve a probar hasta encontrar una brecha. El atacante ya no necesita hacer personalmente cada intento. Gómez calcula que este tipo de ataques digitales podría multiplicarse hasta 30 veces hacia 2030, impulsado por herramientas baratas como los teléfonos “ruteados” que se consiguen en el mercado.
Amper lo resume de otra manera: “La IA está cambiando la economía del fraude. Los atacantes pueden automatizar sus intentos, aprender de los rechazos y escalar sus operaciones con una fracción del esfuerzo”.
México, laboratorio involuntario
En esa batalla, Latinoamérica ocupa una posición peculiar. Íñigo Castillo sostiene que operar en mercados como México, Colombia y Brasil ha obligado a la compañía a entrenar sus modelos en ambientes particularmente adversariales.
México tiene además una ventaja específica: la posibilidad de contrastar una identidad con la información del Instituto Nacional Electoral (INE). Eso permite complementar los modelos probabilísticos de inteligencia artificial con una fuente oficial para determinar si una credencial corresponde a los registros de la autoridad.
El mercado mexicano también ha sido un trampolín comercial para Incode. La compañía asegura que trabaja con buena parte del sistema bancario y fintech local y que realiza alrededor de 10,000 millones de validaciones de identidad al año a escala global, un volumen que usa para alimentar continuamente sus modelos.
Pero el problema ya está saliendo del terreno financiero.
La verificación de identidad empieza a aplicarse en marketplaces, telecomunicaciones, apuestas, redes sociales y plataformas que necesitan comprobar la edad de sus usuarios. Según Incode, bancos, marketplaces, empresas de telecomunicaciones e instituciones gubernamentales ya trabajan con la compañía en mecanismos de confianza para la llamada economía agéntica.
Seguridad sin cerrar la puerta a la IA
Para los bancos aparece entonces otro dilema. Pueden intentar cerrar sus sistemas a los agentes de inteligencia artificial, pero eso también significaría renunciar a servicios que sus propios clientes podrían empezar a pedir.
La alternativa es averiguar qué agentes son legítimos y establecer hasta dónde pueden llegar.
Ahí el problema deja de ser solo de fraude. Según Castillo, las conversaciones que antes se tenían sobre todo con los responsables de fraude o de canales digitales empiezan a involucrar a las áreas de ciberseguridad, a las direcciones generales y a los consejos de administración.
Y tarde o temprano tendrán que llegar a los reguladores pues detrás de la posibilidad de que una IA pague una tarjeta, transfiera recursos o compre un producto hay una cuestión que todavía no tiene una respuesta sencilla: dónde termina la autorización del usuario y dónde empieza la responsabilidad del agente y de las empresas que le permiten operar.
Incode quiere que la respuesta empiece por la identidad, y sostiene que su registro es imparcial porque no opera redes de pago ni plataformas de agentes.
Queda abierta otra pregunta: si una empresa privada es la que pone las placas, ¿quién audita ese registro? Las placas de los automóviles funcionaron porque detrás había una autoridad que las emitía y las revisaba.
Si los agentes autónomos terminan por convertirse en habitantes habituales de la economía digital, la industria tendrá que construir para ellos algo parecido a placas, licencias y reglas de circulación.
Después de años de intentar demostrar que una persona es realmente una persona, el siguiente negocio de la identidad digital podría consistir en demostrar qué máquinas tienen permiso para actuar por ella.