Tecnología

Alerta IA: expertos piden demorar el desarrollo de estos sistemas más allá de GPT-4

Expertos en tecnología firmaron una carta donde advierten los peligros de continuar el desarrollo de la inteligencia artificial. La misma, firmada por figuras como Elon Musk y Steve Wozniak, pide detener la evolución de estos sistemas por medio año. Los motivos.

En esta noticia

Más de 1100 personas en el sector tecnológico, incluyendo a Elon Musk y Steve Wozniak, han firmado una petición que insta a los desarrolladores a pausar la creación de modelos de inteligencia artificial (IA) más avanzados.

En una carta abierta publicada en el sitio web del Future of Life Institute, se señala que los laboratorios de IA compiten por crear mentes digitales cada vez más poderosas que nadie puede comprender, prever o controlar de manera fiable. Estos expertos sostienen que solo debemos desarrollar sistemas de IA más potentes cuando estemos seguros de que sus efectos serán positivos y los riesgos manejables.

Principalmente, instan a frenar el entrenamiento de sistemas de inteligencia artificial más potentes que el último modelo de ChatGPT de OpenAI durante al menos seis meses. De esta manera, se permitiría el desarrollo de protocolos de seguridad comunes.

El Future of Life Institute publicó su carta a través de su cuenta en Twitter (Fuente: Twitter / @FLIxrisk)

Un joven muere tras tener varias conversaciones con una inteligencia artificial

Inteligencia Artificial: en qué acciones invertir para hacer dinero con esta tendencia

Una preocupación latente

 "En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable", indica la carta.

La petición surge después de que se hayan lanzado varios proyectos de inteligencia artificial en los últimos meses, algunos de los cuales que realizan tareas humanas, como redactar correos electrónicos y crear arte. La empresa OpenAI, respaldada por Microsoft, presentó su GPT-4 este mes, una mejora significativa de su chatbot impulsado por IA, capaz de contar chistes y aprobar exámenes de alta complejidad en materias como el derecho.

Los nuevos sistemas de inteligencia artificial compiten por crear mentes digitales cada vez más poderosas (Fuente: Shutterstock)

El pedido de los intelectuales

La carta insta a los desarrolladores a colaborar con los responsables políticos para crear nuevos sistemas de gobernanza y supervisión de la inteligencia artificial. También exhorta a los gobiernos a intervenir en el desarrollo de sistemas de IA si los principales actores no llegan a un acuerdo sobre una pausa pública y verificable.

"¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes? ¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos", indican en el documento.

Para los expertos firmantes, "los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables".

Los firmantes de la petición desean que la investigación y el desarrollo de IA se enfoquen en hacer que los sistemas actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

Temas relacionados
Más noticias de inteligencia artificial