En esta noticia
El desarrollo de la inteligencia artificial abre nuevas posibilidades para empresas y usuarios, pero también plantea preguntas sobre la seguridad de los sistemas informáticos. Una de ellas preocupa especialmente a Sam Altman, CEO de OpenAI: la capacidad de los modelos de IA para detectar vulnerabilidades cada vez más complejas.
Durante una entrevista en la Escuela de Negocios de Stanford, el directivo advirtió de que el problema todavía no recibe suficiente atención por parte de los responsables de organizaciones, los países y las personas. También puso en duda que corregir cada fallo de forma individual sea una solución suficiente a medida que avance la tecnología.
La advertencia de Sam Altman sobre la ciberseguridad y la IA
“Ya no creo que podamos simplemente corregir todos los fallos”, afirmó Altman durante la conversación. Con esa declaración, puso en duda que reparar las vulnerabilidades de forma individual sea una respuesta suficiente frente a modelos cada vez más capaces.
El directivo explicó que los sistemas de inteligencia artificial pueden identificar problemas de seguridad y que sus futuras versiones podrían descubrir fallos fuera de los escenarios que habitualmente se contemplan al evaluar una amenaza informática.
En su planteo, corregir los errores conocidos no resuelve por completo el desafío ya que las capacidades de los modelos continúan avanzando y pueden ampliar el tipo de vulnerabilidades que son capaces de encontrar.
Por qué Altman cree que corregir los fallos no será suficiente
El directivo explicó que los modelos de IA ya pueden encontrar vulnerabilidades en los sistemas informáticos. Según su planteo, a medida que estas herramientas mejoren, podrían identificar fallos más difíciles de detectar, incluso fuera de los escenarios que habitualmente se consideran al evaluar una amenaza.
Altman reconoció que se han corregido problemas de seguridad, pero sostuvo que el avance de los modelos obliga a pensar más allá de los fallos ya conocidos. En su opinión, algunas organizaciones han dejado de prestar la misma atención al asunto mientras la tecnología continúa evolucionando.
“Ya no creo que podamos simplemente corregir todos los fallos”, afirmó. Se trata de una valoración sobre cómo podría evolucionar la ciberseguridad, no de una confirmación de que todos los sistemas sean vulnerables o de que los fallos actuales no puedan repararse.
El cambio de defensa que propone el CEO de OpenAI
Frente a este escenario, Altman planteó que será necesario cambiar el modelo de defensa y utilizar la propia tecnología de inteligencia artificial para desarrollar una nueva forma de protección.
El ejecutivo describió esa posibilidad como un «nuevo tipo de escudo de defensa». Durante la entrevista no detalló cómo funcionaría ni presentó una herramienta concreta, pero insistió en que considera el asunto un problema importante de seguridad.
La advertencia llega de uno de los principales responsables del desarrollo de herramientas de inteligencia artificial. En su intervención en Stanford, Altman pidió prestar más atención a los riesgos que pueden surgir a medida que aumentan las capacidades de estos sistemas.
