Para el padrino de la IA, los humanos podrían ser una "fase pasajera" en la "evolución de la inteligencia"

Cuando Geoffrey Hinton tuvo una objeción ética a que su empleador Google trabajara con el ejército estadounidense en 2018, no se unió a protestas públicas ni puso su nombre en la carta abierta de queja firmada por más de 4000 de sus colegas. En cambio, se limitó a hablar con Sergei Brin, cofundador de Google. "Me dijo que a él también le molestaba un poco. Y por eso no siguieron adelante", dijo Hinton en una entrevista en aquel momento. El incidente simboliza la discreta influencia de Hinton en el mundo de la inteligencia artificial (IA). Este profesor de 75 años es venerado como uno de los 'padrinos' de la IA por su trabajo formativo en deep learning, un campo de la IA que ha impulsado los enormes avances que se están produciendo en el sector. Pero la anécdota también refleja la lealtad de Hinton, según quienes lo conocen bien. Por principio, nunca aireaba públicamente ninguna queja corporativa, ética o de otro tipo. Fue esta creencia la que lo llevó a dejar su puesto de vicepresidente e ingeniero fellow en Google la semana pasada, para poder hablar con más libertad sobre sus crecientes temores acerca de los riesgos de la IApara la humanidad. Yoshua Bengio, su viejo colaborador y amigo, que ganó el Premio Turing junto a Hinton y Yann LeCun en 2018, dijo que veía venir la renuncia. "Podría haberse quedado en Google y hablar, pero su sentido de la lealtad es tal que no lo haría", dijo Bengio. La salida de Hinton se produce después de una serie de lanzamientos innovadores de IA en los últimos seis meses, empezando por ChatGPT de OpenAI respaldado por Microsoft en noviembre y el propio chatbot de Google, Bard, en marzo. A Hinton le preocupa que la competencia entre Microsoft y Google impulse el desarrollo de la IA sin que se establezcan los límites y normativas adecuadas. "Creo que Google fue muy responsable al principio", dijo en un discurso en un evento de EmTech Digital el miércoles, después de que se hiciera pública su renuncia. "Una vez que OpenAI construyó cosas similares con dinero de Microsoft, y Microsoft decidió sacarlas al mercado, Google no tuvo muchas opciones. Si vas a vivir en un sistema capitalista, no puedes impedir que Google compita con Microsoft". Desde los años '70, Hinton ha sido pionero en el desarrollo de las 'redes neuronales', tecnología que intenta imitar el funcionamiento del cerebro. Actualmente es la base de la mayoría de las herramientas y productos de IA que usamos, desde Google Translate y Bard, hasta ChatGPT y los coches autónomos. Pero días atrás reconoció que teme su rápido desarrollo, que podría dar lugar a que la desinformación inunde la esfera pública y a que la IA reemplace más empleos humanos de lo previsto. "Me preocupa que haga más ricos a los ricos y más pobres a los pobres. Al hacerlo... la sociedad se vuelve más violenta", dijo Hinton. "Esta tecnología, que debería ser maravillosa... se está desarrollando en una sociedad que no está diseñada para utilizarla en beneficio de todos". Hinton también advirtió sobre las amenazas a largo plazo que plantean los sistemas de IA a los seres humanos, si se le da a la tecnología demasiada autonomía. Siempre había creído que este riesgo existencial era una amenaza a largo plazo. Siempre había creído que este riesgo existencial era muy lejano, pero recientemente ha recalibrado su pensamiento sobre su urgencia. "Es bastante concebible que la humanidad sea una fase pasajera en la evolución de la inteligencia", afirma. La decisión de Hinton de abandonar Google después de una década fue alentada por un colega que lo convenció para que hablara de ello, añadió. Nacido en Londres, Hinton procede de un ilustre linaje de científicos. Es tataranieto de los matemáticos británicos Mary y George Boole, este último inventor de la lógica booleana, teoría en la que se basa la informática moderna. Como psicólogo cognitivo, el trabajo de Hinton en el campo de la IA se ha centrado en aproximar la inteligencia humana, no sólo para crear tecnología de inteligencia artificial, sino también para esclarecer el funcionamiento de nuestros propios cerebros. Stuart Russell, profesor de IA en la Universidad de California en Berkeley y colega de Hinton, afirma que su formación significa que "no es la persona más matemática que se puede encontrar en la comunidad del aprendizaje automático". Señala el gran avance de Hinton en 1986, cuando publicó un artículo sobre una técnica llamada 'retropropagación', que mostraba cómo el software podía aprender con el tiempo. "Fue un artículo fundamental", afirma Russell. "Pero no derivó la ley de la forma en que lo haría un matemático. Utilizó su intuición para descubrir un método que funcionara". Hinton no siempre ha expresado públicamente sus opiniones éticas, pero en privado las ha dejado claras. En 1987, cuando era profesor asociado en la Universidad Carnegie Mellon de Estados Unidos, decidió dejar su puesto y emigrar a Canadá. Una de las razones que adujo, según Bengio, fue ética: le preocupaba el uso de la tecnología, sobre todo la IA, en la guerra y gran parte de su financiación procedía del ejército estadounidense. "Quería sentirse bien con la financiación que recibía y con el trabajo que hacía", explica Bengio. "Él y yo compartimos valores sobre la sociedad. Que los humanos importan, que la dignidad de todos los humanos es esencial. Y todo el mundo debería beneficiarse del progreso que la ciencia está creando". En 2012, Hinton y sus dos estudiantes de posgrado en la Universidad de Toronto -incluido Ilya Sutskever, ahora cofundador de OpenAI- hicieron un gran avance en el campo de la visión por computadora. Crearon redes neuronales capaces de reconocer objetos en imágenes con una precisión mucho mayor que antes. Basándose en este trabajo, fundaron su primera empresa, DNNresearch. Su empresa -que no fabricaba ningún producto- fue vendida a Google por u$s 44 millones en 2013, tras una competitiva subasta que llevó a la china Baidu, Microsoft y DeepMind a pujar por adquirir la experiencia del trío. Desde entonces, Hinton ha pasado la mitad de su tiempo en Google y la otra mitad como profesor en la Universidad de Toronto. Según Russell, a Hinton se le ocurren constantemente nuevas ideas y prueba cosas nuevas. "Cada vez que tenía una idea nueva, decía al final de su charla: '¡Y así es como funciona el cerebro!". Cuando se le preguntó en el escenario si se arrepentía del trabajo de su vida, dado que podía contribuir a los innumerables daños que había esbozado, Hinton dijo que lo había estado meditando. "Esta etapa [de la IA] no era previsible. Y hasta hace muy poco pensaba que esta crisis existencial estaba muy lejos", dijo. "Así que en realidad no me arrepiento de lo que hago".

Para el padrino de la IA, los humanos podrían ser una "fase pasajera" en la "evolución de la inteligencia"

El profesor Geoffrey Hinton teme que el rápido avance de la tecnología provoque importantes pérdidas de empleo y una avalancha de desinformación.

Madhumita Murgia y Richard Waters

Temas relacionados

Más noticias de Google

Científicos crean el “ChatGPT de las proteínas”: cómo funciona la herramienta que puede cambiar la medicina para siempre

Google te escucha siempre: cómo podés desactivar el micrófono de tu celular en pocos pasos

Argentina en “la era del prompt”: los desafíos que enfrentan hoy las empresas