En esta noticia
La inteligencia artificial está entre los temas de conversación más recurrentes de las últimas semanas debido a las últimas declaraciones de ex empleados y líderes que confirman el escalofriante avance que tiene esta tecnología.
Ejecutivos e investigadores comenzaron a reclamar mayores controles, evaluaciones independientes y mecanismos de seguridad, aunque todavía existen diferencias importantes sobre cuánto debería desacelerarse el desarrollo de estos sistemas.
Con esto sucediendo, Gavin Newsom impulsa una medida que propone desarrollar un interruptor de apagado para mantener a la IA bajo control.
¿Cuál es la propuesta del Gobernador de California?
El gobernador de California, firmó el 18 de septiembre una orden ejecutiva que tiene como objetivo reforzar la supervisión de los sistemas de inteligencia artificial más avanzados y acelerar la aplicación de las nuevas normas de seguridad aprobadas por el estado.
La orden plantea:
- Establecer auditorías y evaluaciones realizadas por terceros independientes.
- Reforzar los planes de seguridad de las empresas que desarrollan modelos de frontera.
- Ampliar la definición de incidentes críticos para incluir episodios de pérdida de control.
- Exigir que la eficacia de un eventual mecanismo de apagado sea verificada periódicamente por una organización independiente.
Entre las medidas que deberán ser evaluadas aparece la creación de un “interruptor de apagado” para los modelos de IA más avanzados.
¿Qué es un interruptor de apagado para la IA?
Un interruptor de apagado para inteligencia artificial es un mecanismo de emergencia pensado para detener, desactivar o aislar un modelo avanzado cuando su comportamiento supone un riesgo y dejan de funcionar los controles habituales.
¿Qué leyes ya se están implementando?
California ya cuenta con varias leyes para regular el uso y desarrollo de la inteligencia artificial, especialmente en áreas como seguridad, transparencia, protección de menores y supervisión de los modelos más avanzados:
- SB 53: regula los modelos de IA de frontera y exige a los grandes desarrolladores publicar sus protocolos de seguridad, reportar determinados incidentes críticos y proteger a trabajadores que denuncien riesgos.
- SB 813: establece un sistema para certificar a organizaciones independientes encargadas de evaluar y auditar sistemas de inteligencia artificial.
- AB 1405: crea un registro estatal de auditores de IA y fija requisitos de independencia, transparencia e integridad para estas evaluaciones.
- SB 243: establece medidas de protección para menores que utilizan chatbots, como avisos que aclaren que están interactuando con una inteligencia artificial.
- AB 489: impide que los chatbots de IA se presenten como médicos, enfermeros u otros profesionales con licencia cuando no lo son.
- SB 524: obliga a las fuerzas de seguridad a informar cuando utilizan inteligencia artificial para elaborar informes policiales.
- California AI Transparency Act: establece requisitos para identificar y facilitar la detección de determinados contenidos generados o modificados mediante IA.
- SB 1050: incorpora obligaciones de transparencia para anuncios en video o audio que utilizan intérpretes generados con inteligencia artificial y suma protecciones frente al uso de réplicas digitales.
Contexto actual: ¿Qué dicen los líderes de la industria respecto al avance de la IA?
Dentro de la industria crece el debate sobre la velocidad con la que avanza la inteligencia artificial y si los mecanismos de seguridad están preparados para acompañar ese desarrollo.
El CEO de Anthropic, Dario Amodei, pidió desacelerar los modelos de frontera, mientras que referentes como Sam Altman, Elon Musk y Demis Hassabis apoyaron una mayor participación de evaluadores externos.
No todos coinciden. Jensen Huang, CEO de Nvidia, rechazó la idea de frenar el desarrollo, mientras que Mark Zuckerberg sostuvo que cada laboratorio debería definir su propio ritmo y responsabilizarse por la seguridad de sus modelos.
