En esta noticia
- Las advertencias de los grandes líderes: ¿Sobre qué alertan Altman, Amodei y otros desarrolladores?
- Las propuestas para mejorar la seguridad en el desarrollo de Inteligencia Artificial de Frontera: la intervención de Clément Delangue
- La postura de los Gobiernos: Trump rechaza nuevas reglas globales mientras China defiende el control humano
Durante las últimas semanas se armó un debate alrededor de si la Inteligencia Artificial debe ser o no regulada por los distintos gobiernos, una conversación en la que se pronunciaron tanto los principales líderes tecnológicos de las desarrolladoras más relevantes como los presidentes y funcionarios de altos mandos de varios países.
El miércoles 23 de septiembre, frente al Consejo de Seguridad de las Naciones Unidas, los lideres de empresas como Anthropic, OpenAI y Hugging Face debatieron ante los 15 miembros los principales puntos que deben ser atendidos para evitar que esta herramienta escape del control humano.
Las advertencias de los grandes líderes: ¿Sobre qué alertan Altman, Amodei y otros desarrolladores?
En la reunión que fue convocada por Francia, durante la Asamblea General anual de las Naciones Unidas, Dario Amodei, CEO de Anthropic, llamó a que se dejen de lado las diferencias para enfrentar el problema de frente: “Ningun líder, ninguna empresa ni ninguna nación puede gestionar esto sola”.
Este pedido llega en un escenario en el que el presidente de Estados Unidos, Donald Trump, argumentó que esta herramienta no necesita ser regulada ya que esto podría frenar su desarrollo.
Por su parte, Sam Altman, el CEO de OpenAI, sostuvo que era necesaria la cooperación internacional, adhiriendo a lo que dijo Amodei. Afirmó que estas herramientas “Deben ser moldeadas a través de procesos democráticos y por gobiernos que rindan cuentas a las personas a las que sirven”.
Contrario a lo que se esperaría, Clément Delangue, cofundador de Hugging Face, trajo a colación el incidente en el que los agentes de IA de OpenAI vulneraron infraestructura de Hugging Face: “Fuimos atacados por la IA, pero, lo que es más importante, nos defendimos con la IA”.
Yoshua Bengio, copresidente del Panel Científico Internacional Independiente creado por la ONU en 2025, declaró que “los peligros son reales e inminentes”. Para él, las tres amenazas globales son:
- El mal uso catastrófico, como el uso por parte de terroristas.
- La concentración del poder.
- La pérdida de control sobre la IA.
Las propuestas para mejorar la seguridad en el desarrollo de Inteligencia Artificial de Frontera: la intervención de Clément Delangue
El debate no solo se basó en si la IA debe ser regulada, también surgieron otras propuestas como la de Delangue, quien afirma que “el mundo necesita la IA de código abierto más que nunca para defenderse”.
Su propuesta sostiene que la respuesta no es solamente reducir el ritmo del desarrollo sino aumentar la transparencia y mejorar las herramientas disponibles para quienes deben defenderse de sistemas maliciosos.
Su postura introduce una diferencia importante dentro del propio sector tecnológico. Mientras Amodei y otros investigadores plantean la posibilidad de reducir temporalmente el ritmo de avance de la IA de frontera, Delangue sostiene que limitar el acceso a los modelos más capaces también podría perjudicar a quienes necesitan utilizarlos para detectar vulnerabilidades y defender sistemas informáticos.
La postura de los Gobiernos: Trump rechaza nuevas reglas globales mientras China defiende el control humano
China y Estados Unidos coinciden en reconocer determinados riesgos vinculados con la IA, pero mantienen diferencias en cuanto a cómo gestionarlos.
Por su parte, Donald Trump dijo en la primera jornada de la 81° Asamblea General de la ONU que el gobierno estadounidense comenzaría a referirse a esta herramienta como “superinteligencia” y reiteró su posición respecto a la regulación de la IA: “No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial”.
A través de la red social Truth Social, Trump expresó: “Un gran día con el presidente Xi de China. La superinteligencia (SI) será un tema importante de discusión, pero quiero dejarlo exactamente donde está”. Su posición respecto a la regulación está vinculada principalmente a la competencia tecnológica internacional, ya que desea mantener la ventaja sobre China y otras potencias.
Por otro lado, Xi Jinping tiene una postura particular. China ya posee normas sobre algoritmos, datos de entrenamiento y contenido generado artificialmente, por lo que no rechaza su regulación, y mantiene un enfoque en el que esta tecnología debe permanecer siempre bajo control humano y al servicio de las personas.
El Vaticano expresa su preocupación por el avance de la IA
Antes de que tengan lugar las advertencias de las empresas líderes, el Vaticano advirtió sobre el riesgo de un “apocalipsis provocado por la IA”. Paolo Benanti, un destacado asesor del Vaticano en temas de IA que estuvo en diálogo con Reuters, afirmó que “el poder transformador de la IA... podría producir una magnitud de cambios sociales muy difíciles de predecir”.
El papa León XIV también incorporó los riesgos de la Inteligencia Artificial entre los temas centrales de su pontificado y pidió establecer mecanismos internacionales capaces de controlar su desarrollo. En mayo ya había solicitado a los líderes mundiales avanzar en reglas globales para supervisar la industria, y en septiembre volvió a advertir sobre las consecuencias difíciles de prever que podría producir una tecnología cada vez más poderosa.
