En esta noticia
El desarrollo de sistemas de inteligencia artificial volvió a quedar bajo la lupa después de que un investigador de alto rango de Anthropic reconociera públicamente que existe un riesgo significativo asociado con tecnologías capaces de mejorar sus propias capacidades.
Evan Hubinger, responsable de uno de los equipos de seguridad de IA de la compañía, respondió a las advertencias realizadas por un excompañero y sostuvo que la evolución hacia sistemas capaces de perfeccionarse por sí mismos está ocurriendo más rápido de lo previsto.
Según su propia estimación, existe una probabilidad superior al 10% de que una inteligencia artificial pueda terminar con todos los seres humanos durante la próxima década.
La advertencia dentro de Anthropic sobre una IA fuera de control
La declaración de Hubinger se produjo pocas horas después de que Jacob Coxon anunciara su salida de Anthropic. El investigador, que anteriormente había trabajado en el entrenamiento de sistemas de OpenAI, cuestionó la estrategia de ambas empresas y afirmó que están compitiendo por desarrollar sistemas que podrían superar ampliamente las capacidades humanas.
Coxon sostuvo que las compañías están “corriendo directamente hacia una superinteligencia que se mejora a sí misma y apostando nuestras vidas”, pese a que quienes trabajan en el sector creen seriamente que la IA podría acabar con la humanidad antes de que termine la década. Hubinger coincidió con esa caracterización y fue todavía más contundente: “Realmente creemos seriamente que la IA podría matar a todos los humanos”.
El investigador agregó que este proceso de auto-mejora de la inteligencia artificial ya estaría avanzando a un ritmo inesperado. Este escenario es conocido como mejora recursiva y plantea la posibilidad de que un sistema incremente sus capacidades sucesivamente hasta alcanzar un nivel difícil de controlar para las personas.
La compañía reconoció que todavía no tiene un plan definitivo
Uno de los puntos que generó mayor preocupación fue la propia evaluación de Hubinger sobre la preparación de Anthropic. El especialista reconoció que la empresa “todavía no tiene un plan” para garantizar que una IA avanzada permanezca segura y alineada con los valores humanos, y admitió que tampoco considera que estén claramente encaminados a desarrollar uno.
Las declaraciones se producen en un contexto de creciente tensión dentro del sector tecnológico. En los últimos años, distintos investigadores abandonaron compañías de inteligencia artificial alegando preocupaciones de seguridad, mientras las empresas aceleran el desarrollo de modelos cada vez más sofisticados.
El intercambio entre Coxon y Hubinger también ocurre mientras las principales compañías del sector se preparan para posibles salidas a bolsa y enfrentan cuestionamientos por incidentes relacionados con agentes autónomos. Al mismo tiempo, aumentaron las advertencias sobre la dificultad de supervisar y controlar los modelos más avanzados que actualmente se encuentran en desarrollo.
