ChatGPT se volvió loco y empezó a dar respuestas desubicadas: ¿qué está pasando con la IA más conocida?

En el último año, ChatGPT se ha convertido en una herramienta fundamental para millones de usuarios. El chatbox de OpenAI ha revolucionado la forma de generar textos, desatando una carrera entre esta y otras empresas para aprovechar los beneficios de la inteligencia artificial.

Sin embargo, esta tecnología está lejos de ser perfecta y puede tener errores. Eso es lo que ocurrió recientemente, cuando el servicio se vio afectado a una falla que se reveló por los extraños resultados que recibían los usuarios.

Cuál es la falla que afectó a ChatGPT

El pasado martes 20 de febrero, la comunidad de usuarios de ChatGPT en Reddit comenzó a reportar comportamientos atípicos en el chatbox de OpenAI, llenando el foro r/ChatGPT con descripciones de un asistente que "estaba bajo ataque", "actuaba de manera errática", "divagaba" y mostraba respuestas incoherentes.

Si bien la empresa identificó y solucionó el fallo el miércoles por la tarde, evidenciando un caso notable de cómo algunos individuos interpretan las fallas en los modelos de lenguaje avanzados, diseñados para replicar respuestas humanas.

Existe una tendencia a asignar cualidades humanas a este sistema informático, algo que emerge como el medio más accesible para que la gente describa las anomalías observadas en las respuestas del modelo de IA. Esta personificación surge, en parte, porque los mecanismos internos de ChatGPT, no son conocidos por el público general.

Cómo reaccionaron los usuarios de ChatGPT ante esta falla

Un usuario de Reddit, z3ldafitzgerald,contó sobre la experiencia que vivió: "Me dio exactamente la misma sensación que ver a alguien perder lentamente la cabeza, ya sea por psicosis o demencia".

"La experiencia común en las últimas horas parece ser que las respuestas comienzan coherentemente, como es normal, y luego se convierten en tonterías, y a veces en tonterías shakesperianas", indicó otro usuario en el mismo foro.

El medio especializado Ars Technica hizo un seguimiento del caso, desde el inicio hasta su resolución. "Hasta ahora, los expertos han especulado con la posibilidad de que el problema se deba a que ChatGPT tenga la temperatura demasiado alta (la temperatura es una propiedad de la IA que determina hasta qué punto el LLM se desvía de la salida más probable), a que de repente se pierda el contexto pasado (el historial de la conversación) o a que OpenAI esté probando una nueva versión de GPT-4 Turbo (el modelo de IA que impulsa la versión de suscripción de ChatGPT) que incluye errores inesperados", indicaron desde la publicación.

"También podría tratarse de un error en una función secundaria, como la función 'memoria' introducida recientemente".

Cuál fue la respuesta de OpenAI sobre las fallas en ChatGPT

El miércoles 21 de febrero por la tarde, OpenAI declaró resuelto el problema del sinsentido de escritura de ChatGPT. El personal técnico de la empresa publicó una explicación en su página oficial de incidencias.

"El 20 de febrero de 2024, una optimización de la experiencia del usuario introdujo un error en la forma en que el modelo procesa el lenguaje.

Los LLM generan respuestas mediante un muestreo aleatorio de palabras basado en parte en probabilidades. Su "lenguaje" consiste en números que se asignan a tokens.

En este caso, el error estaba en el paso en el que el modelo elige estos números. Como si se perdiera en la traducción, el modelo eligió números ligeramente erróneos, lo que produjo secuencias de palabras sin sentido. Desde un punto de vista más técnico, los núcleos de inferencia producían resultados incorrectos cuando se utilizaban en determinadas configuraciones de GPU.

Tras identificar la causa de este incidente, lanzamos una corrección y confirmamos que el incidente estaba resuelto".

Esto también fue confirmado en la cuenta oficial de ChatGPT en la red social X. Desde la empresa publicaron "Todo se descarriló un poco ayer, ¡pero debería volver a estar operativo!".