Este miércoles, el Parlamento Europeo dará un paso histórico en la regulación de la inteligencia artificial (IA), aprobando definitivamente la primera ley del mundo que abordará de manera integral el uso de esta tecnología. La elaboración de esta normativa ha sido tanto ambiciosa como compleja, y establecerá diferentes obligaciones para el uso de la IA en función de los riesgos que suponga.
El proyecto de ley, que fue propuesto inicialmente en abril de 2021, ha sido objeto de intensas negociaciones entre los países de la Unión Europea (UE). Durante una entrevista con el coponente de la AI Act y presidente de la Comisión Especial sobre IA, Ioan-Dragos Tudorache, se desvelaron algunos de los detalles y controversias de la regulación.
En una conversación llevada a cabo en Estrasburgo, Tudorache explicó que las negociaciones se centraron principalmente en dos aspectos: los modelos fundacionales y el uso de la IA por las fuerzas del orden. Estos dos temas generaron debates intensos sobre qué obligaciones adoptar.
En junio de 2023, el Parlamento Europeo había prohibido la identificación biométrica, y Tudorache fue cuestionado sobre qué ha cambiado desde entonces para permitir su uso por parte de la policía. Según él, el Consejo de la UE tenía un mandato muy claro y la primera propuesta de la Comisión Europea ya pedía excepciones policiales.
La ley prohíbe sistemas de IA con riesgos «inaceptables», como la puntuación social, pero permite otros de «alto riesgo», como el reconocimiento facial. Tudorache explicó que han eliminado el uso preventivo de la IA y han limitado mucho el uso de sistemas biométricos.
El Comité Europeo de Protección de Datos (CEPD) se mostró «profundamente preocupado por la ausencia de ‘líneas rojas’ que prohíban desde el principio las aplicaciones de IA que planteen niveles inaceptables de riesgos». A pesar de esto, Tudorache discrepa del comunicado del CEPD, afirmando que hay una prohibición, pero con una excepción.
Amnistía Internacional ha denunciado que la regulación dará vía libre al uso de IA en las fronteras para vigilar a los migrantes. Tudorache se defendió afirmando que siempre habrá supervisión humana para que el algoritmo no tenga la última palabra.
La ley regulará los modelos fundacionales como GPT-4, la tecnología que impulsa ChatGPT, para que sean más transparentes. Tudorache afirmó que no se pueden poner excepciones proteccionistas para los países europeos, pero que han puesto excepciones para el código abierto y han hecho lo posible para reducir el coste de cumplimiento de la normativa.
Bruselas ha acusado a gigantes de la tecnología como Google y Meta de ser monopolios. Tudorache reconoció que, desafortunadamente, es muy difícil competir con estas empresas. Sin embargo, también señaló que Europa puede seguir siendo competitiva sin necesariamente ser el próximo Google, destacando el éxito europeo en áreas como la robótica y las aplicaciones civiles de satélites.
Finalmente, Tudorache subrayó que Europa tiene algunos de los superordenadores más potentes del mundo, lo que aporta lo que las empresas de IA más necesitan: poder de computación. Esta capacidad, junto con la nueva normativa, podría dar cuerpo a un mercado europeo de IA que pueda competir en un entorno muy concurrido.