MERIDA.- La inteligencia artificial ha detonado una era agéntica dentro de las empresas. Ya no se trata únicamente de conversar con un chatbot o pedirle a un modelo que genere un texto, sino de delegarle procesos completos. El problema es que mientras la adopción avanza, la gobernanza todavía va detrás.
Ese es uno de los principales retos que observa Isaac Arellano, director del segmento corporativo de Google, quien advierte que las empresas están creando y utilizando agentes de IA sin necesariamente contar con políticas suficientes para controlar su operación.
“El problema es que no estamos poniendo los resguardos y las políticas en el sistema para gobernar cómo se usa un agente, cómo se debe publicar un agente, con qué información vamos a exponer para que la gente pueda trabajar y qué hace con la información”, explicó Arellano en entrevista con El Cronista en el marco del Púrpura Summit, un evento que reunió a más de 2,000 personas para discutir los alcances del uso de la inteligencia artificial en las empresas.
Arellano, un ingeniero que lleva más de una década trabajando en grandes tecnológicas (antes de Google estuvo en Microsoft) explicó la diferencia sustancial entre un chatbot como Gemini, Copilot o ChatGPT y un agente.
Mientras un chatbot responde a una instrucción, un agente de IA puede ejecutar un proceso completo de manera autónoma, conectándose con otros sistemas y agentes para realizar tareas.
Un chatbot puede responder preguntas o generar contenido a partir de una instrucción, pero un agente puede consultar el inventario de una empresa para conocer la disponibilidad de un producto y después conectarse con otro sistema para completar una transacción. En ese escenario, la IA deja de ser únicamente una interfaz de conversación y comienza a operar como parte de la infraestructura del negocio.
Las empresas poco a poco están probando la eficiencia que permite combinar equipos humanos con agentes de IA, sin embargo, pocas establecen una plataforma que permita monitorear su operación y definir políticas de acceso, privacidad y procesamiento de información.
Del chatbot al “empleado digital”
Ese cambio también modifica la forma en que las compañías tendrán que organizar el trabajo. Arellano anticipa que los directivos no solamente supervisarán equipos humanos, sino también agentes capaces de ejecutar determinadas tareas.
“Nosotros vamos a estar supervisando, los que somos directores, gerentes, vamos a supervisar personas, pero también vamos a supervisar agentes”, afirmó.
Eso no significa, al menos por ahora, eliminar la intervención humana. El nivel de autonomía dependerá del sector, del riesgo y del proceso. En servicios financieros, por ejemplo, un agente puede participar en una evaluación crediticia, pero determinadas operaciones pueden requerir que una persona autorice la decisión cuando el monto o el riesgo superan ciertos límites.
La misma lógica puede trasladarse a industrias como salud, farmacéutica o manufactura, donde la privacidad de los datos, las regulaciones y las consecuencias de una decisión equivocada elevan la necesidad de supervisión.
El desafío, entonces, no será únicamente cuántos agentes tiene una empresa, sino qué procesos les entrega, qué información pueden consultar, qué decisiones pueden tomar y en qué momento un humano debe intervenir.
Para Arellano, esta transición alcanzará a empresas de todos los tamaños. Desde una pequeña veterinaria que utiliza IA para automatizar la agenda de citas hasta una corporación que conecta agentes con sus sistemas internos, la tecnología se está convirtiendo en una herramienta para competir.
La carrera por incorporar agentes, por tanto, no parece tener como principal obstáculo la disponibilidad de tecnología. Arellano concluye que el reto empresarial está en aprender a delegar sin perder el control, en automatizar procesos, pero mantener bajo supervisión humana las decisiones que pueden comprometer dinero, datos, clientes o la reputación de una compañía.
El riesgo ya no es solamente no usar IA
Hasta hace poco, uno de los principales riesgos era quedarse atrás frente a competidores que incorporaran inteligencia artificial. Ahora, entrar a esta tecnología sin una estrategia también puede convertirse en un problema financiero y de seguridad.
“Si no establecemos una plataforma de seguridad para usar un agente, nos estamos arriesgando a que mis datos personales, mis datos privados de la empresa, incluso la propiedad intelectual de la empresa se use para atacarme o para afectarme en mi negocio”, advirtió Arellano.
Una filtración de información de clientes, bases de datos o propiedad intelectual puede convertirse en uno de los costos de una adopción desordenada.
