En esta noticia

Una licencia de software aparece en el presupuesto. La autoridad que una empresa entrega a ese software, no.

Esa diferencia comienza a convertirse en un riesgo para las compañías que incorporan agentes de inteligencia artificial. Un sistema puede costar unos cientos o miles de dólares al mes y, al mismo tiempo, tener permisos para acceder a información comercial, modificar el CRM, emitir órdenes, ofrecer descuentos o comunicarse con cientos de clientes. El gasto es visible, pero la exposición operativa puede quedar escondida hasta el primer incidente.

La presión por avanzar es fuerte. El AI Radar 2026 de Boston Consulting Group encontró que las empresas planean duplicar su inversión en inteligencia artificial, desde el 0,8% hasta aproximadamente el 1,7% de sus ingresos. El 72% de los CEO ya se considera el principal decisor sobre la estrategia de IA y casi todos esperan que los agentes produzcan retornos medibles durante 2026.

Los mismos ejecutivos reconocen la contracara: más de la mitad mantiene preocupaciones sobre privacidad y ciberseguridad, y el 41% señala la falta de control o comprensión sobre las decisiones de la IA.

El retorno y el riesgo crecen por la misma razón. Un chatbot espera una pregunta; un agente puede encadenar acciones y llegar a un resultado con participación humana limitada. Cuando esa capacidad se vuelve recurrente, el sistema deja de parecerse a una herramienta aislada y comienza a funcionar como un recurso de trabajo.

La autonomía se parece más a una línea de crédito que a una función de software

Las empresas no entregan autoridad financiera ilimitada a un empleado nuevo. Definen montos, condiciones, aprobaciones y excepciones. También pueden reducir o revocar esa facultad.

Conviene pensar la autonomía de una IA de la misma manera: como una línea de autoridad con alcance explícito, y no como un interruptor que simplemente se enciende.

Un agente de Cobranzas podría enviar recordatorios y proponer planes de pago, lo cual no significa que pueda condonar cualquier deuda. Uno de Compras podría pedir cotizaciones y preparar una orden, pero no crear al proveedor, aprobar la compra y conciliar el pago. Un sistema de Atención al Cliente podría resolver casos ordinarios, aunque tendría que escalar una reclamación que exceda determinado monto o involucre un derecho del consumidor.

El error frecuente consiste en autorizar una tarea sin definir el poder que la acompaña. La compañía indica qué resultado quiere, conecta las herramientas y confía en que el sistema “sepa” cuándo detenerse.

El Hybrid Workforce Standard, una propuesta administrativa abierta creada por el ingeniero y empresario tecnológico costarricense Master Joe Phillips, intenta reemplazar esa confianza implícita por controles verificables.

Su tesis para el directorio puede resumirse así: una empresa no debe conceder autonomía a la IA sin escribir primero la autoridad.

El contrato que falta entre el prompt y el puesto

El estándar distingue cuatro situaciones que el mercado suele mezclar:

“Un chatbot responde. Un copiloto ayuda. Un agente ejecuta una tarea. Un Empleado IA ocupa un puesto. La responsabilidad final sigue siendo humana”.

Esta nueva categoría de “Empleado IA” no describe personalidad jurídica ni una relación laboral. Identifica software persistente que sostiene un rol empresarial, utiliza conocimiento de la organización y herramientas autorizadas, ejecuta responsabilidades recurrentes y opera con métricas, límites, escalamiento y responsabilidad humana.

Para gobernarlo, el marco introduce el AI Role Contract, que pese al nombre no es un contrato de trabajo ni un documento legal firmado por la máquina, sino la especificación operativa del puesto.

Debe establecer, antes del despliegue:

  • La misión y los resultados que el recurso debe producir.
  • Los indicadores con los que se evaluará su desempeño.
  • Los sistemas, datos y canales que puede utilizar.
  • Las decisiones que puede tomar sin aprobación.
  • Los límites monetarios, temporales y operativos.
  • Las acciones expresamente prohibidas.
  • Las condiciones que obligan a escalar.
  • El responsable humano y el mecanismo de suspensión.

La diferencia con un prompt es sustancial. El prompt indica cómo debería comportarse el sistema. El contrato de rol define qué autoridad posee la empresa para exigirle un resultado y qué autoridad recibe el sistema para buscarlo.

El permiso de ayer puede ser el problema de mañana

Uno de los mayores riesgos no aparece durante el lanzamiento. Surge después, cuando las excepciones se acumulan.

Un equipo elimina una aprobación porque retrasa un proceso de bajo impacto. El agente funciona bien durante semanas. Luego el mismo flujo se reutiliza en operaciones de mayor valor, se conecta a otra base de datos o aumenta su volumen. Nadie vuelve a revisar los permisos porque el cambio parece incremental.

El resultado es una deriva de autonomía: la autoridad real del sistema crece sin una decisión ejecutiva equivalente.

Este patrón es difícil de detectar si la empresa administra agentes mediante credenciales técnicas y no mediante puestos. Un token puede revelar a qué aplicación accede el sistema, pero no por qué está autorizado a tomar determinada decisión ni cuál es el valor máximo que puede comprometer.

El estándar exige que la autoridad sea explícita, limitada, escrita antes de operar y revocable. También aplica el principio de mínimo privilegio: el agente recibe solamente los datos y herramientas necesarios para su función. Más acceso implica más capacidad, pero también una superficie de pérdida mayor.

Un error pequeño multiplicado por mil deja de ser pequeño

La evaluación tradicional de una IA suele concentrarse en la precisión promedio. Para una empresa, este indicador resulta insuficiente.

Un sistema con un 99% de aciertos puede parecer confiable. Si realiza diez acciones por día, el error residual quizá sea manejable. Si ejecuta 100.000 operaciones mensuales, el mismo porcentaje puede producir mil casos incorrectos. El riesgo depende del volumen, la reversibilidad, el valor comprometido y las personas afectadas, no solamente de la tasa de acierto.

Por esa razón, el Hybrid Workforce Standard incorpora una clasificación de riesgo de cinco niveles y establece que la autonomía debe ganarse mediante evidencia. Un recurso puede comenzar con supervisión intensa, demostrar desempeño en escenarios reales y avanzar gradualmente. También debe retroceder cuando cambia el contexto o empeoran sus resultados.

El enfoque evita una práctica extendida: probar un agente con ejemplos controlados y liberarlo directamente sobre el proceso completo, como si una demostración de capacidad equivaliera a confiabilidad operacional.

La empresa necesita reconstruir la decisión, no pedirle una explicación a la IA

Cuando un empleado aprueba una excepción, normalmente queda algún rastro: usuario, fecha, política y documentación. Con un agente, guardar la respuesta final no alcanza.

Una acción material debe poder reconstruirse con los datos utilizados, la política vigente, los resultados obtenidos de las herramientas, la autoridad disponible y las versiones del modelo, el conocimiento y los controles activos en ese momento.

La explicación generada después por la propia IA puede sonar convincente y seguir siendo incorrecta. Un modelo produce lenguaje plausible; no necesariamente conserva una representación fiel de las causas que determinaron su acción.

La evidencia operativa permite separar problemas distintos. El sistema pudo fallar. También pudo aplicar correctamente una política equivocada, consultar una fuente desactualizada, recibir un dato incorrecto de otra aplicación o actuar dentro de un puesto mal diseñado.

Cada causa exige una respuesta diferente. Sin trazabilidad, todas terminan resumidas en una frase inútil: “la IA se equivocó”.

El control más básico: quien inicia no debería aprobar

La separación de funciones es una regla conocida por cualquier área financiera. Quien crea un proveedor no debería aprobar su pago. Quien solicita una compra no debería conciliarla. Quien modifica un límite no debería validar su propio cambio.

La automatización puede borrar esas barreras sin que nadie lo advierta. Un único agente recibe acceso a varias herramientas porque resulta más simple de implementar y termina iniciando, ejecutando y verificando la misma operación.

El estándar exige conservar la separación de funciones cuando el riesgo lo requiera. El segundo control puede ser humano, determinista o incluso otro recurso artificial, pero no debe depender del mismo iniciador ni repetir ciegamente su conclusión.

También reserva ciertas decisiones para personas. Una IA no puede ser la única decisora en asuntos con efectos materiales sobre contratación, despido, disciplina, remuneración, salud, seguridad, crédito, seguros, servicios esenciales, derechos legales, uso de la fuerza o personas vulnerables.

No alcanza con colocar a un humano al final si solamente presiona “aprobar”. La persona debe comprender el caso, poder explicarlo y tener autoridad real para modificar el resultado.

Quién responde cuando intervienen cinco proveedores

Un agente empresarial rara vez pertenece a una sola compañía. Puede utilizar un modelo de un proveedor, conectores de otro, datos alojados por un tercero y una plataforma implementada por un integrador.

Esa cadena facilita una forma peligrosa de evasión: cada participante atribuye el error al componente siguiente.

El Hybrid Workforce Standard exige exactamente un responsable principal por cada Empleado IA: una persona identificada o un órgano humano de gobierno. La supervisión puede distribuirse. La responsabilidad final, no.

Ese dueño debe conocer el proceso, acceder a los registros y tener autoridad para suspender el recurso. El mecanismo de suspensión también debe probarse: un botón de emergencia que existe en una presentación, pero nunca fue ensayado, no constituye un control confiable.

La pregunta que Finanzas debería llevar al comité de IA

Las compañías aprendieron a controlar gastos, usuarios y licencias. Ahora necesitan controlar autoridad.

Antes de aprobar un agente, el director financiero, el responsable de Riesgo o el CIO deberían poder establecer cuánto valor puede comprometer, qué operación no puede completar por sí solo, qué evidencia conservará, quién puede detenerlo y qué persona responderá ante una pérdida.

Si esas respuestas no existen, calcular el retorno de la inversión es prematuro. La empresa conoce el costo del software, pero todavía no conoce el riesgo que acaba de comprar.

El texto normativo completo del Hybrid Workforce Standard, incluidas sus 27 cláusulas, la clasificación de riesgo y el modelo de AI Role Contract, está publicado en español bajo licencia abierta en hybridwf.com/es. Para los directivos que quieran profundizar en cómo se administra esta nueva categoría de trabajador, Phillips desarrolla el tema en su libro Empleado IA, disponible en masterjoephillips.com/libros/empleado-ia.