La Unión Europea (UE) ha adoptado la primera ley del mundo que regulará y establecerá un estándar global sobre el uso de la inteligencia artificial (IA). Tras ser aprobada por el pleno del Parlamento Europeo en marzo, el Consejo, que reúne a los representantes de los 27 gobiernos de la UE, ha dado su aprobación definitiva a la legislación, que ha sido calificada de “histórica”. La normativa se aplicará de forma gradual hasta su total entrada en vigor en 2026.

El secretario de estado de digitalización de Bélgica, Mathieu Michel, ha destacado que la adopción de la ley es un hito importante para la UE, subrayando que esta ley histórica, la primera de su tipo en el mundo, aborda un desafío tecnológico global que también crea oportunidades para nuestras sociedades y economías. Asimismo, el comisario de industria y mercado interior, Thierry Breton, ha celebrado que Europa hable con una sola voz sobre la IA.

El objetivo de la nueva regulación será fomentar el desarrollo y la adopción de sistemas de IA seguros y confiables en todo el mercado único de la UE por parte de actores públicos y privados. Al mismo tiempo, la normativa garantizará el respeto de los derechos fundamentales de los ciudadanos y estimulará la inversión y la innovación en Europa.

La regulación adopta un enfoque basado en los riesgos. Es decir, cuanto mayor sea el peligro para la sociedad, más estrictas serán las normas. Los sistemas de IA que presenten solo un riesgo limitado estarán sujetos a obligaciones de transparencia muy leves, mientras que los sistemas de IA de alto riesgo estarán autorizados, pero tendrán que cumplir requisitos y obligaciones más estrictos para obtener acceso al mercado de la UE.

La nueva ley prohíbe los sistemas de manipulación cognitivo-conductual y puntuación social debido a que su riesgo se considera inaceptable. También prohíbe el uso de IA para vigilancia policial predictiva basada en perfiles y sistemas que utilizan datos biométricos para clasificar a las personas según categorías específicas como raza, religión u orientación sexual. Esta prohibición se aplicará a partir de noviembre de este año. Además, estarán prohibidos los sistemas destinados a crear bases de datos faciales captados de manera indiscriminada a través de Internet o de grabaciones audiovisuales.

Los modelos de inteligencia artificial generativa, como ChatGPT, tendrán que indicar claramente si un texto, una canción o una foto se han generado a través de la IA y garantizar que los datos empleados para entrenar a los sistemas respetan los derechos de autor.

A pesar de estas prohibiciones, la normativa incluye una serie de exenciones para los sistemas utilizados exclusivamente con fines militares y de defensa o investigación, uno de los elementos de la nueva ley que más polémica y confrontación ha generado durante su tramitación en el Parlamento Europeo.

Las autoridades policiales podrán utilizar las cámaras de reconocimiento facial siempre y cuando lo hagan con autorización judicial, con el objetivo de prevenir una amenaza terrorista, el tráfico de personas, la explotación sexual, y para la búsqueda de víctimas y menores desaparecidos.

Antes de que algunas entidades prestadoras de servicios públicos implementen un sistema de IA de alto riesgo, tendrán que realizar una evaluación del impacto sobre los derechos fundamentales. Además, la legislación prevé una mayor transparencia con respecto al desarrollo y uso de sistemas de IA de alto riesgo.

En caso de incumplimiento, la legislación incluye multas importantes que oscilan entre el 1,5% del volumen de negocios anual global de la empresa infractora en el ejercicio financiero anterior o 7,5 millones de euros, hasta el 7% o los 35 millones de euros. Para las pymes y las empresas de nueva creación, la ley menciona que estarán sujetas a multas administrativas proporcionales.

Para velar por el cumplimiento, la ley incluye una nueva arquitectura de gobernanza que incluye la creación de una oficina de IA dentro de la Comisión, un panel científico de expertos independientes para apoyar las actividades de aplicación de la ley, una Junta de AI con representantes de los Estados miembros para asesorar y ayudar en la aplicación consistente y efectiva de la Ley y, por último, un foro consultivo para que las partes interesadas proporcionen conocimientos técnicos a la Junta de IA y a la Comisión.