El frenético avance de la inteligencia artificial, que resulta tan asombroso por sus logros como preocupante por la falta de control, ahora puede tener un faro que marque su rumbo o, al menos, evite desvíos graves en el futuro cercano.

La Unión Europea consensuó y aprobó a fines de la semana pasada una ley que es la primera destinada a regular la inteligencia artificial que se conoce a nivel mundial. Se trata de una normativa en la que se venía trabajando desde 2021, pero que en el último año -dado el boom de ChatGPT y herramientas similares- se aceleró en su tratamiento. El objetivo es abordar el riesgo que puede introducir la IA para usuarios, empresas y gobiernos, a la vez que se intenta mitigar el peligro de que sus aplicaciones vulneren los derechos humanos o perpetúen los prejuicios.

Ahora, los mandatarios de los 27 países del bloque europeo deberán respaldar la ley en abril, para que el documento sea publicado y entre en vigencia en el mes de mayo.

Ley IA: por qué importa

La flamante normativa europea estipula que los modelos de inteligencia artificial de propósito general deberán cumplir con obligaciones de transparencia y normas de derechos de autor.

Además, sistemas considerados de alto riesgo (usados en infraestructuras críticas, educación o aplicación de leyes) deberán cumplir requisitos más estrictos. En este sentido, deberán tener un análisis de impacto obligatorio sobre los "derechos fundamentales" de las personas usuarias.

"Esta ley de IA de la UE pretende establecer límites claros para su despliegue, de modo que los vendedores y desarrolladores dispongan de algunas directrices y límites, tanto si se trata de escaneo de un currículum con sesgo de género, como de vigilancia omnipresente en el espacio público con cámaras impulsadas por IA, o de análisis invasivos de datos médicos que afectan a un seguro de salud. De este modo, habrá un límite bien marcado y acceso herramientas para perseguir a los que vayan en contra", explicó Peter Sandkuijl, vicepresidente del departamento de ingeniería de EMEA de Check Point Software.

El paso de Europa es de vital importancia, dado que en Estados Unidos, donde se concentran hoy los avances en el campo, no hay una legislación específica. En 2020, la Casa Blanca emitió un conjunto de principios para el desarrollo de la IA, enfocados en la promoción de la innovación y el crecimiento económico, además de la protección de la seguridad pública. Pero solo a modo de guía y lejos de la realidad actual.

Qué dice la ley de IA

Entre los aspectos destacados de la ley se encuentran directrices de desarrollo y despliegue más estrictas, dado que los desarrolladores tendrán que incorporar medidas de ciberseguridad desde el principio, centrarse en prácticas de codificación seguras y garantizar que los sistemas de IA sean resistentes a hackeos.

Las empresas también deberán asumir responsabilidad por brechas de seguridad que involucren sistemas de inteligencia artificial. Esto requerirá protocolos de respuesta ante incidentes más estrictos y que los sistemas de IA cuenten con mecanismos avanzados para detectar y reaccionar ante incidentes de ciberseguridad.

La ley busca, además, evitar el uso de la IA con fines malintencionados, como la creación de deepfakes o la automatización de ciberataques, a la vez que trata de prevenir su utilización para la ciberguerra.

Asimismo, para reducir los riesgos de sesgos y discriminación ya vistos, impulsa que los sistemas de IA se entrenen con conjuntos de datos diversos y representativos.

En tanto, un tema que puede generar fuertes resistencias es que las empresas desarrolladoras deberán divulgar de manera más detallada los datos utilizados para entrenar los sistemas de inteligencia artificial, los procesos de toma de decisiones de la IA y las medidas adoptadas para garantizar la privacidad y la seguridad.