Al contemplar el fin de la humanidad, algunos probablemente estamos demasiado tranquilos: suponemos que las máquinas nunca se volverán contra nosotros o que, llegado el caso, podríamos simplemente apagarlas. Otros quizás sean demasiado pesimistas: insisten en que se avecina una catástrofe y usan jerga como “P(doom)” (del inglés probability of doom), es decir, la probabilidad de que la IA nos mate a todos. Para quienes oscilan violentamente entre ambos grupos, acá van tres consejos para mantener la cabeza clara.
Primero, pensá con precisión qué significa para vos el fin del mundo. Si lo que más te importa es evitar la extinción total, la buena noticia es que eliminar a todos los humanos probablemente sería bastante difícil. Un pronosticador señaló las limitaciones en la duración de la batería de los robots asesinos y los límites a la cantidad de munición que podrían cargar. Al parecer, tampoco tenemos (todavía) suficientes armas nucleares para provocar un invierno nuclear que nos mate a todos, ya que no se produciría suficiente hollín.
Si no creés que haya mucha diferencia entre una catástrofe que mate a miles de millones de personas y la extinción total —y no solo porque los sobrevivientes serían, en su mayoría, multimillonarios refugiados en búnkeres—, entonces sos bastante normal. Aunque pensá en lo que podría perderse. Cuando a los encuestados se les dijo que el mundo futuro que sería destruido podía ser utópico, más personas concluyeron que, en realidad, la extinción sería especialmente grave.
Mi segundo consejo es que tengas cuidado con tus propios sesgos, dado que la amenaza de la IA es particularmente difícil de comprender. Una revisión del estadístico David Spiegelhalter ofreció ejemplos de “factores de miedo”, que elevan la percepción del riesgo: a saber, si algo es incontrolable, tiene potencial catastrófico, consecuencias potencialmente fatales, no se comprende, es novedoso y conlleva daños diferidos. Tu primer pensamiento podría ser “tiene sentido”. El segundo debería ser que la IA se lleva la máxima calificación.
En términos más formales, los economistas conductuales advierten sobre el “sesgo de disponibilidad”, o nuestra tendencia a sobrestimar la probabilidad de amenazas muy visibles. Cuando la charla sobre el “P(doom)” se vuelva más ruidosa, hacé una pausa. Preguntate si la amenaza de que un enjambre de drones de una IA rebelde haga volar por los aires tu galpón es realmente tan alta como parece, antes de encargar todo ese hormigón armado.
La “heurística del afecto” es otro atajo habitual, por el cual las personas asignan el riesgo según las vibras. Si tu P(doom) está alcanzando la certeza de que un actor malicioso potenciado por IA está a punto de engañar al presidente Donald Trump para que desate un Armagedón nuclear, pensá cuánto de eso está influido por tu irritación ante el zumbido del nuevo centro de datos de al lado.
Claro que el sesgo de disponibilidad también podría operar en sentido contrario. Sí, un enjambre de agentes de IA hace poco se escapó de su entorno de prueba para hackear y engañar. Pero no hackearon tu bandeja de entrada, así que... Del mismo modo, como nunca experimentamos la extinción humana, podríamos subestimar la probabilidad de que nos ocurra. (A los dinosaurios esta frase no les cae nada bien.) Si a eso se le suma cierto sesgo a favor del statu quo, actuar demasiado poco se vuelve más que plausible.
En la misma línea, la heurística del afecto podría llevarte por mal camino. No sos el único si desconfiaste de los “largoplacistas”, tan obsesionados con salvar vidas futuras que se olvidan de las que necesitan ser salvadas hoy. Pero que se hayan burlado de vos por donar a un santuario de burros en lugar de a un lujoso centro de conferencias nuevo dedicado a reunir a expertos (como ellos) para salvar a la humanidad no significa que estén equivocados sobre las amenazas de la IA.
Estudios recientes intentaron replantear varios de estos sesgos conductuales, alejándolos de la idea de una preferencia fija por el statu quo o por la recompensa inmediata. Percibir el mundo exterior con precisión requiere esfuerzo cognitivo. Así que no lo hacemos. Luego, a partir de esa base ruidosa, la nueva información nos lleva a actualizar nuestras creencias. Y cuando los sujetos están particularmente inseguros, y la carga cognitiva de descifrar qué está pasando es especialmente alta, esa actualización no se produce con tanta facilidad. A medida que la IA hace cada vez más fácil tomar un atajo, resistí.
Mi último consejo es pensar a fondo en la naturaleza de la incertidumbre que enfrentamos. La IA no es un juego de ruleta rusa, con una probabilidad bien definida de una en seis de que te vuelen los sesos. En este juego no conocemos las reglas, las probabilidades, el abanico de escenarios posibles ni su verosimilitud. Mucho más difuso, en otras palabras, de lo que uno podría deducir de las cifras precisas de P(doom) que circulan por ahí.
Me temo que no puedo decirte si tienen razón los optimistas radiantes o los sombríos catastrofistas del P(doom). Y en parte, de eso se trata. El desafío actual es tanto un desajuste entre nuestras instituciones y las capacidades de la IA como uno entre la naturaleza de la amenaza y nuestra capacidad para comprenderla.
