La Unión Europea (UE) avanza a pasos agigantados hacia un marco legal para la inteligencia artificial (IA). Este viernes, los 27 países miembros de la UE han aprobado el acuerdo político «histórico» firmado en diciembre, allanando el camino hacia la primera regulación horizontal de la IA a nivel mundial.
El camino hasta aquí no ha sido sencillo. En abril de 2021, la Comisión Europea propuso la creación de una serie de requisitos para los usos de la IA, dependiendo de su nivel de riesgo. Sin embargo, hacia finales de 2022, cuando parecía haber consenso, la aparición de ChatGPT llevó a los legisladores de vuelta al principio. Casi tres años después de la propuesta inicial, el bloque comunitario ha acordado un texto legislativo que marcará el futuro de la IA.
La iniciativa, conocida como AI Act, clasifica los sistemas de IA según los riesgos que representan para la sociedad. Bruselas ha establecido cuatro niveles de riesgo. El primero es el «riesgo inaceptable», que incluye la manipulación cognitivo-conductual, la clasificación de personas según su comportamiento o estatus socioeconómico, y los programas de identificación biométrica en tiempo real. Estos sistemas, considerados muy peligrosos, serán prohibidos.
Un escalón más abajo se encuentran los usos de «alto riesgo». Estos sistemas, que pueden afectar negativamente la seguridad o los derechos fundamentales, podrán ser utilizados, pero estarán sujetos a obligaciones estrictas. Estos sistemas incluyen los aplicados en ámbitos como la educación, los automóviles o el control de fronteras, y serán evaluados antes de su comercialización y también durante su ciclo de vida.
En el tercer nivel, se encuentran las IA con un riesgo de manipulación «limitado». Esto incluye a asistentes virtuales o a sistemas generativos como ChatGPT. Estos sistemas deberán cumplir con criterios de transparencia, como informar a los usuarios de que están interactuando con una máquina o de que los contenidos que crea son sintéticos.
Finalmente, en el último nivel, se encuentran las IA que no representan riesgo alguno o representan un riesgo «mínimo». Estas IA se encuentran en la mayoría de los servicios digitales que usamos, desde videojuegos hasta filtros de correo basura. Estas pueden usarse sin necesidad de cumplir con ninguna norma en particular.
2023 fue el año de la explosión de la IA generativa. Estos modelos se alimentan de grandes volúmenes de datos de Internet para crear automáticamente todo tipo de textos, imágenes o audios. La regulación de estas aplicaciones fue uno de los aspectos más discutidos entre los legisladores europeos. El texto acordado en diciembre establece que las compañías responsables de estos programas, como Microsoft o Google, deberán ser transparentes e indicar con qué datos los entrenan para evitar violaciones de los derechos de autor.
Francia ha sido el país que más ha presionado para suavizar estas obligaciones, argumentando que podrían perjudicar a las startups europeas de IA, como la francesa Mistral AI. Empresas como OpenAI, la creadora de ChatGPT, también se han opuesto a estas obligaciones. Sin embargo, el acuerdo final no incluirá la rebaja solicitada por París y Silicon Valley.
La última clave, y quizás la más polémica y crucial, es la vigilancia biométrica. En junio, el Parlamento Europeo prohibió el uso de sistemas de reconocimiento facial, considerados por las organizaciones de defensa de la privacidad como una amenaza a los derechos fundamentales. El acuerdo político firmado en diciembre prohíbe la identificación en tiempo real, pero incluye varias excepciones que benefician especialmente a la policía y los ejércitos. Así, las fuerzas de seguridad podrán utilizar esta tecnología en espacios públicos y con una autorización judicial previa para casos limitados, como el terrorismo, la trata de personas o la localización de delincuentes.