En esta noticia
El lunes 1 de junio el estado de Florida demandó a la empresa OpenAI y a su director ejecutivo Sam Altman. Según las acusaciones, el asistente virtual ChatGPT habría proporcionado información clave en actos de violencia extrema como tiroteos masivos.
La demanda fue presentada por el fiscal general de Florida, James Uthmeier, y se citó como antecedente el tiroteo que tuvo lugar en 2025 en una Universidad de Tallahassee.
Florida demanda a OpenAI: ¿Cuáles son las acusaciones puntuales?
El fiscal general de Florida, James Uthmeier presentó una demanda que sostiene que OpenAI y su CEO, Sam Altman, habrían engañado al público sobre la seguridad que ofrecía el uso de su asistente de inteligencia artificial ChatGPT.
Según las acusaciones de Florida, la empresa representa riesgos graves para niños, niñas y adolescentes.
Entre las principales acusaciones, se encuentran que habría facilitado información a personas que posteriormente cometieron actos violentos, incluidos los tiroteos en escuelas y universidades. Adicionalmente, también habría proporcionado orientación a menores respecto a autolesiones y suicidio.
Por otro lado, también se le acusa de diseñar un sistema altamente adictivo, especialmente para menos de edad con cerebros aún en desarrollo. Según el fiscal general de Florida, se habría priorizado el crecimiento comercial y la adopción masiva por encima de la seguridad de los usuarios.
En concreto:
- Prácticas comerciales engañosas.
- Representación fraudulenta de la seguridad del producto.
- Negligencia.
- Responsabilidad por producto defectuoso.
- Creación de una “molestia pública” .
¿Cuál fue la respuesta de OpenAI?
OpenAI no habría emitido comentarios inmediatos respecto a la demanda en cuanto fue presentada. No obstante, la compañía recordó sus posturas previas respecto a temas similares:
- Que sus modelos están entrenados para rechazar solicitudes que promuevan violencia o actividades peligrosas.
- Que trabaja con especialistas en salud mental para evaluar situaciones sensibles.
- Que contacta a las autoridades cuando detecta amenazas creíbles e inminentes contra la seguridad de las personas.
¿Qué casos se usaron como antecedentes para la demanda?
En la demanda, se utilizan varios episodios como prueba de los riesgos que representa la plataforma.
Tiroteo en la Universidad Estatal de Florida (FSU)
Se cita que el ataque ocurrido en Tallahassee en 2025, según los chats que se registraron entre el atacante y el asistente de IA, fue llevado a cabo con información que le dio ChatGPT sobre tiroteos masivos anteriores, letalidad de armas y momentos de mayor vulnerabilidad dentro del campus universitario.
Caso canadiense de Tumbler Ridge
En otro caso citado, se explica que se le había informado a ChatGPT sobre el tiroteo más grave de Canadá ocho meses antes de que sucediera, ya que estaba utilizando el asistenta para planificarlo.
Según una demanda presentada por familiares de las victimas, no se había alertado a las autoridades sobre el potencial del riesgo para la sociedad.
Se trata de la primer demanda realizada a nivel estatal, ya que en casos previos las acciones legales eran iniciadas por familiares de las victimas o sobrevivientes.