El Parlamento Europeo aprobó el miércoles una regulación integral de la inteligencia artificial (IA), marcando un hito histórico en lo que se refiere a la regulación de esta tecnología. Esta es la primera vez que la Unión Europea (UE) establece una legislación que busca limitar los riesgos de la IA sin obstaculizar la innovación.
La ley fue aprobada por una mayoría de 523 votos a favor, 46 en contra y 49 abstenciones. El lanzamiento de ChatGPT y la rápida popularización de la IA generativa impulsaron a los legisladores europeos a acelerar la aprobación de la legislación, que inicialmente estaba prevista para finales de 2022.
Uno de los aspectos más controvertidos de la ley son las normas impuestas a los modelos de IA de propósito general, sistemas capaces de generar textos, imágenes o vídeos que han sido comercializados por grandes empresas como Microsoft, OpenAI y Google. Estos sistemas estarán obligados a cumplir con criterios de transparencia para asegurar que no han sido entrenados con datos que presenten sesgos racistas o machistas, o que violen los derechos de autor.
Durante el proceso de redacción de la ley, Francia intentó suavizar estas exigencias para proteger los intereses de la empresa francesa Mistral AI, que ha ganado relevancia en el sector de la IA. A pesar de los intentos de Francia, Mistral AI anunció una alianza con Microsoft a finales de febrero.
La nueva ley de IA de la UE categoriza la IA según sus usos, estableciendo obligaciones más o menos estrictas en función de si suponen un «alto riesgo» o un «riesgo mínimo». Las multas por incumplimiento de las normas pueden llegar a los 35 millones de euros o el 7% de la facturación anual mundial.
La legislación prohíbe los sistemas algorítmicos que vulneran derechos fundamentales, como los sistemas de puntuación social, el reconocimiento de emociones, la vigilancia policial predictiva o el rastreo de datos biométricos para inferir la raza, orientación sexual u opiniones políticas de las personas.
Sin embargo, la nueva normativa de la UE también incluye exenciones que han suscitado críticas. Por ejemplo, la IA utilizada con fines militares o de defensa nacional, en contextos de vigilancia en las fronteras o para prever flujos migratorios, quedará exenta de ciertas restricciones.
A pesar de que la identificación biométrica a distancia en espacios públicos está prohibida, la policía podrá recurrir a tecnologías como el reconocimiento facial en situaciones de emergencia, siempre y cuando cuente con una autorización judicial.
Decenas de organizaciones de la sociedad civil han descrito esta ley como un «fracaso» y una «victoria de la industria». Han denunciado que el uso de herramientas de IA «intrínsecamente discriminatorias» socavará «el núcleo de los derechos humanos» y «exacerbará los abusos».
El Comité Europeo de Protección de Datos mostró su preocupación por la «ausencia de líneas rojas que prohíban desde el principio las aplicaciones de IA que planteen niveles inaceptables de riesgo».
La implementación de esta ley, que se espera que influya en la dirección tecnológica de la UE en la próxima década, no será inmediata. Primero, los gobiernos de cada país deberán refrendar el texto. La ley entrará en vigor a los 20 días de su publicación en el Diario Oficial de la UE y será «plenamente aplicable» dos años después. Las prohibiciones entrarán en vigor a los seis meses y las obligaciones para los sistemas de IA de propósito general, como ChatGPT, a los 12 meses.