En esta noticia
Anthropic es una de las startups más reconocidas de la industria tecnológica, fundada por un grupo de expertos en inteligencia artificial. Y su CEO, Dario Amodei, es una de las voces más influyentes del mundo sobre este revolucionario desarrollo.
Ahora publicó un extenso ensayo sobre el impacto de la IA generativa en la sociedad y lanzó una contundente advertencia sobre el futuro de la humanidad.
“Creo que estamos entrando en un rito de paso, turbulento e inevitable, que pondrá a prueba nuestra identidad como especie”, alertó Amodei. En el escrito, adelantó que “la humanidad está a punto de recibir un poder casi inimaginable” con el desarrollo de la IA y puso en duda que los sistemas sociales, políticos y tecnológicos posean “la madurez necesaria para ejercerlo”.
No es la primera vez que desde el sector se advierte por los riesgos del avance de la IA. Uno de los pronósticos recientes fue de Jensen Huang, fundador y CEO de Nvidia, preocupado por la posible pérdida de puestos de trabajo, o el de Elon Musk, quien pidió frenar la evolución de esta tecnología (aunque luego lanzó su propia compañía, xAI).
Amodei utilizó una analogía para ilustrar el nivel de riesgo: “país de genios en un centro de datos”. En esa línea, sostuvo que la “IA poderosa”, en términos de inteligencia pura, “es más inteligente que un premio Nobel en la mayoría de los campos relevantes: biología, programación, matemáticas, ingeniería, escritura, etc.”.
Estos sistemas no solo responderán preguntas, sino que podrán realizar tareas de forma autónoma durante días o semanas. Para el CEO de Anthropic, este nivel de tecnología podría estar a solo “1 o 2 años de distancia”.
“Si la tendencia exponencial continúa —lo cual no es seguro, pero cuenta con un historial de una década que lo respalda—, entonces no pueden pasar más de unos pocos años antes de que la IA sea mejor que los humanos en prácticamente todo“, sugirió.
Los 5 riesgos existenciales que un “genio de la IA” advirtió sobre el futuro de la inteligencia artificial
En orden de gravedad, Amodei enumeró cinco áreas críticas de riesgo, cada una con potencial para desencadenar amenazas sin precedentes:
1- Autonomía de la IA
El empresario rechazó la idea de que la IA “se centran necesariamente de forma monomaníaca en un objetivo único, coherente y estrecho”; en otras palabras, que siempre hará lo que le pidan.
Amodei se mostró escéptico al respecto y reveló que investigaciones de Anthropic descubrieron que los modelos de IA “son mucho más complejos psicológicamente”, ya que “heredan una amplia gama de motivaciones o ´personas´ similares a las humanas del preentrenamiento (cuando se les entrena con un gran volumen de trabajo humano)“.
“La combinación de inteligencia, agencia, coherencia y poca controlabilidad es plausible y una receta para el peligro existencial”, remarcó.
2- Uso destructivo
Amodei planteó que, más allá de que se logre alinear la IA, todavía existe el peligro de que personas o grupos con intenciones dañinas utilicen estos modelos con motivos maliciosos.
En este apartado, señaló que la inteligencia artificial podría ofrecer a personas sin formación especializada la capacidad de crear armas biológicas o ejecutar ciberataques masivos, “guiando paso a paso” a actores inexpertos.
3- Concentración de poder y uso político
Como tercer punto, el ensayo alertó la posibilidad de que “gobiernos autoritarios utilicen una potente IA para vigilar o reprimir a sus ciudadanos de maneras que serían extremadamente difíciles de reformar o derrocar”.
Entre sus posible usos, Amodei mencionó herramientas como el desarrollo de armas autónomas, vigilancia masiva y propaganda personalizada.
4 - Desestabilización y exclusión económica
Si bien el avance de la IA será un sostén clave para el crecimiento económico, también puede provocar la formación de una “subclase desempleada”, en el marco de un contexto de desplazamiento laboral masivo y una concentración de riqueza nunca antes vista.
Puso como ejemplo la “Edad Dorada” de Estados Unidos y alertó que la magnitud y la velocidad de esta disrupción superarán cualquier revolución industrial previa, lo que pondrá en riesgo el contrato social y la estabilidad democrática.
5- Efectos indirectos e imprevisibles
Como último gran riesgo, Amodei apuntó al avance disruptivo en biotecnología y longevidad, la aparición de fenómenos sociales inéditos, la manipulación psicológica a gran escala y la posible pérdida de propósito humano en un mundo dominado por inteligencias artificiales.
