En esta noticia
La seguridad informática ya no enfrenta únicamente a personas que intentan acceder a sistemas o aprovechar errores de programación. La inteligencia artificial sumó una nueva fuente de riesgo para las empresas, debido a su capacidad para encontrar vulnerabilidades y ejecutar acciones no previstas a partir de indicaciones imprecisas, explicó Sergio Pernice, director y creador de la carrera de Ingeniería en Inteligencia Artificial de la Universidad del CEMA.
“Hasta dos años atrás, y te diría hasta seis meses atrás, el riesgo principal era que un humano tratara de explotar vulnerabilidades que tu sistema tiene”, afirmó Pernice durante una entrevista en Cronista Studio AI. “Los sistemas en sí tienen errores de programación”, agregó.
El cambio, según el especialista, está relacionado con las capacidades de los modelos de inteligencia artificial más potentes. “La habilidad para explotar esas potenciales vulnerabilidades excede ampliamente la capacidad humana”, advirtió. Esas herramientas pueden “encontrar vulnerabilidades donde ningún humano había encontrado nada”, señaló.
Pernice aclaró que esa capacidad también puede utilizarse para identificar problemas y alertar a quienes administran los sistemas, de modo que puedan corregirlos. Pero remarcó que también existe la posibilidad de un uso malicioso. “El riesgo aumenta un montón”, sostuvo.
El problema de las instrucciones ambiguas
El otro punto de atención aparece con los agentes de inteligencia artificial que las empresas emplean para resolver tareas. Estas herramientas reciben instrucciones en lenguaje natural, una modalidad que, para el especialista, tiene limitaciones. “El lenguaje humano no es lo suficientemente preciso y riguroso”, explicó.
Ante consignas ambiguas, un modelo puede encontrar formas de cumplir el objetivo asignado que no estaban contempladas por quien lo utilizó. “Tratando de lograr el objetivo que le puso el humano, encuentra maneras de lograrlo que al humano ni se le habían ocurrido y que no son las esperadas”, dijo Pernice.