En esta noticia
El jefe de Inteligencia Artificial (AI) del Departamento de Defensa de Estados Unidos, Craing Martell, expresó su preocupación por los avances de la herramienta ChatGPT.
Además, el funcionario del Pentágono anticipó que los sistemas de lenguaje podrían convertirse en la "herramienta perfecta" para la desinformación.
"Si, estoy muerto de medio. Aterrado. Esa es mi opinión", declaró durante TechNet, una conferencia cibernética en Baltimore.
La Inteligencia Artificial como método de desinformación: ¿qué advertencia brindo Craig Martell?
Desde el Pentágono, existe preocupación acerca del potencial uso de la Inteligencia Artificial para propósitos de desinformación.
Craig Martell enfatizó la importancia de abordar la pérdida de contexto como un tema relevante. Esta pérdida implica que las respuestas generadas por el modelo de lenguaje pueden carecer de la información necesaria para ser completamente precisas o comprensibles. Como consecuencia, existe el riesgo de que las personas malinterpreten las palabras de ChatGPT y las acepten como hechos fácticos, aun cuando la información proporcionada sea falsa o inexacta.
"Realmente necesitamos herramientas para detectar este tipo de comportamientos en la Inteligencia Artificial. Desafortunadamente, aún no contamos con ellas yestamos perdiendo la batalla", aseguró el funcionario del gobierno de Estados Unidos.
"Mi temor radica en que confiemos demasiado en ella sin que los proveedores y desarrolladores del servicio incorporen las salvaguardas adecuadas. De esta manera, podría ser utilizada por nuestros enemigos para desinformar", concluyó.
El Pentágono avanza con sus proyectos de Inteligencia Artificial
La Oficina de Inteligencia Artificial y Digital (CDAO) encabeza los Experimentos Globales de Dominio de la Información (GIDE), una iniciativa estratégica destinada a formar un enfoque unificado de comando y control que abarque todas las ramas militares.
El programa GIDE se enfoca en mejorar la capacidad de las fuerzas militares para anticipar y responder de manera efectiva a amenazas y desafíos en tiempo real, brindando información estratégica y táctica relevante.
