En esta noticia
- Geoffrey Hinton advierte que la inteligencia artificial podría superar la comprensión humana
- ¿Por qué la inteligencia artificial inventa respuestas? La explicación de Hinton para las alucinaciones
- ¿Podemos confiar en una inteligencia artificial que sabe más que nosotros?
- La advertencia sobre el futuro de la IA: qué ocurre cuando dejamos de cuestionar la verdad
El avance de la inteligencia artificial (IA) podría llevar a la humanidad a un escenario en el que las máquinas sean capaces de comprender cuestiones que los seres humanos nunca lleguen a entender. Así lo ha advertido Geoffrey Hinton, premio Nobel de fisica en 2024 y uno de los padres de la inteligencia artificial, durante una conferencia celebrada en Tenerife.
El científico gano el Premio Nobel de Física en 2024, junto con el científico estadounidense John Hopfield, por sus descubrimientos e invenciones fundamentales para el desarrollo del aprendizaje automático mediante redes neuronales artificiales.
Este lunes 19 de octubre participo en el festival Starmus, donde comparó las futuras capacidades de estos sistemas con la distancia intelectual que existe entre los seres humanos y otros animales.
“De igual modo que las ratas nunca comprenderán los números primos”, afirmó Hinton al explicar por qué considera posible que las máquinas alcancen niveles de comprensión fuera del alcance humano.
La advertencia se produjo durante una mesa redonda junto al psicólogo cognitivo de Harvard Steven Pinker y la exresponsable de Naciones Unidas para el clima Christiana Figueres, en la que debatieron sobre la búsqueda de la verdad, los errores de la inteligencia artificial y los límites del conocimiento humano.
Geoffrey Hinton advierte que la inteligencia artificial podría superar la comprensión humana
Para Geoffrey Hinton, el desarrollo de la inteligencia artificial podría producir sistemas capaces de entender cuestiones que resulten inaccesibles para el cerebro humano. No se trataría únicamente de procesar información más rápido, sino de alcanzar capacidades cognitivas que, según su planteamiento, los seres humanos no podrían reproducir.
El científico recurrió a la comparación con los números primos para ilustrar ese posible escenario. Del mismo modo que una rata no puede comprender determinados conceptos matemáticos, las personas podrían encontrarse ante máquinas cuyas conclusiones superen su capacidad de entendimiento.
Hinton llegó a plantear que, si una inteligencia artificial muy superior afirmara que algo es cierto, “es mejor que te lo creas”. La frase refleja su visión sobre una posible diferencia futura entre las capacidades de las máquinas y las de los humanos, aunque no constituye una demostración de que las respuestas de estos sistemas deban aceptarse sin comprobación.
Durante el encuentro, también recordó que algunos investigadores habían subestimado inicialmente las capacidades de los grandes modelos de lenguaje. En ese contexto, mencionó al lingüista Noam Chomsky como ejemplo de un especialista que, en su opinión, no revisó suficientemente sus planteamientos ante las nuevas evidencias.
¿Por qué la inteligencia artificial inventa respuestas? La explicación de Hinton para las alucinaciones
Las denominadas alucinaciones, situaciones en las que los modelos generan respuestas incorrectas o inventan información, en ocasiones con una apariencia de seguridad.
Hinton cuestionó que estos errores demuestren por sí mismos que las máquinas carecen de comprensión. Según explicó, los seres humanos también reconstruyen recuerdos, confunden acontecimientos y pueden elaborar relatos sobre hechos que creen conocer.
El investigador recordó que los grandes modelos de lenguaje aprenden a partir de enormes cantidades de contenido generado por personas. Por esa razón, considera que no resulta extraño que reproduzcan algunos de los errores y patrones presentes en la actividad humana.
Sin embargo, Steven Pinker introdujo una distinción fundamental: la capacidad de generar respuestas complejas no garantiza que sean verdaderas. El profesor de Harvard sostuvo que la utilidad de estos sistemas dependerá de su precisión y de la existencia de mecanismos capaces de comprobar sus afirmaciones.
Desde esa perspectiva, el desarrollo de la inteligencia artificial no plantea únicamente una competencia por crear modelos más potentes. También exige establecer procedimientos que permitan detectar errores y determinar cuándo una respuesta está respaldada por pruebas.
¿Podemos confiar en una inteligencia artificial que sabe más que nosotros?
El debate celebrado en Starmus abordó una cuestión central para el futuro de la tecnología: cómo distinguir la información verdadera de la falsa cuando tanto los humanos como los sistemas de inteligencia artificial pueden equivocarse.
Pinker defendió que la ciencia, el periodismo responsable y las instituciones democráticas comparten una fortaleza: disponer de mecanismos que permiten cuestionar las afirmaciones, revisar las pruebas y corregir los errores.
Para el psicólogo, la confianza no debería depender de considerar infalible a una persona o una máquina, sino de poder comprobar cómo se llega a una determinada conclusión.
Esta postura introduce un matiz importante frente al escenario planteado por Hinton. Aunque una inteligencia artificial llegara a superar las capacidades cognitivas humanas en determinados ámbitos, eso no implicaría necesariamente que todas sus respuestas fueran correctas.
El desafío sería, por tanto, desarrollar herramientas de comprobación capaces de mantener la fiabilidad de estos sistemas incluso cuando sus procesos resulten cada vez más difíciles de interpretar.
La advertencia sobre el futuro de la IA: qué ocurre cuando dejamos de cuestionar la verdad
La exresponsable de Naciones Unidas para el clima Christiana Figueres aportó otra perspectiva al debate. Frente a la búsqueda de certezas absolutas, propuso “enamorarse de la incertidumbre” y utilizar las dudas como una oportunidad para revisar las propias creencias.
Hinton discrepó de este enfoque y defendió la existencia de una verdad objetiva, independiente de lo que las personas puedan pensar sobre ella.
“Las personas o las culturas pueden manejar conceptos distintos pero una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión”, sostuvo el científico.
La discusión también abordó por qué las pruebas no siempre son suficientes para modificar las creencias. Figueres utilizó el cambio climático como ejemplo de una situación en la que existe un amplio consenso científico, pero persisten resistencias sociales y políticas a actuar conforme a las evidencias.
Pinker añadió que la identificación de determinadas cuestiones científicas con posiciones ideológicas puede favorecer el rechazo de información asociada a grupos políticos contrarios.
El intercambio dejó planteada una tensión central: cómo aprovechar sistemas capaces de producir conocimientos cada vez más complejos sin renunciar a la verificación, al pensamiento crítico y a la posibilidad de corregir sus errores.
