Inteligencia Artificial (IA) es un campo tecnológico de rápido crecimiento, pero su expansión sin control puede tener graves consecuencias. Reconociendo la necesidad de un marco regulador, el Parlamento Europeo está a punto de dar luz verde a la primera regulación horizontal de la IA en el mundo, un hito histórico que sigue a un acuerdo político firmado en diciembre pasado.
El camino hacia este logro ha sido largo y tortuoso. En abril de 2021, la Comisión Europea propuso un reglamento para establecer directrices para el uso de la IA, clasificándolas según su riesgo. Sin embargo, la aparición repentina de ChatGPT en 2022 detuvo el proceso en seco y obligó a los legisladores a comenzar de nuevo. Casi tres años después de la primera propuesta, el bloque comunitario finalmente ha alcanzado un consenso en un texto legislativo que será una referencia en los próximos años.
Este ambicioso proyecto, conocido como el AI Act, se puede resumir en tres puntos clave. En primer lugar, la iniciativa clasifica los sistemas de IA según el riesgo que representan para la sociedad. Bruselas ha identificado cuatro categorías distintas de IA. Los sistemas que representan un «riesgo inaceptable», como los que manipulan el comportamiento cognitivo-conductual, clasifican a las personas en función de su comportamiento o estatus socioeconómico, o programas de identificación biométrica en tiempo real, serán prohibidos.
En el segundo nivel están los usos de «alto riesgo» de la IA, que, aunque permitidos, están sujetos a obligaciones estrictas. Los sistemas que pueden afectar negativamente la seguridad o los derechos fundamentales, como los utilizados en educación, automóviles o control de fronteras, serán sometidos a evaluaciones antes de su comercialización y durante su ciclo de vida.
En el tercer nivel se encuentran las IA que presentan un riesgo de manipulación «limitado», como los asistentes virtuales o sistemas generativos como ChatGPT. Estos sistemas deben cumplir con criterios de transparencia, como informar a los usuarios de que están interactuando con una máquina y de que los contenidos que han creado son sintéticos.
Finalmente, en el último nivel se encuentran las IA que no presentan riesgo o que presentan un riesgo «mínimo». Estas IA, que se encuentran en la mayoría de los servicios digitales que utilizamos, como los videojuegos y los filtros de correo basura, pueden utilizarse sin necesidad de cumplir ninguna norma en particular.
En 2023, la IA generativa, que utiliza grandes volúmenes de datos de internet para generar automáticamente textos, imágenes o audios, vivió un auge. Las empresas responsables de estos programas, como Microsoft y Google, ahora están obligadas a ser transparentes sobre los datos con los que entrenan sus sistemas para prevenir posibles violaciones de los derechos de autor. Francia, que ha estado presionando para relajar estas obligaciones, y empresas como OpenAI, creadora de ChatGPT, no lograron que sus objeciones se reflejaran en el acuerdo final.
La última y más polémica clave del AI Act es la vigilancia biométrica. En junio, el Parlamento Europeo prohibió el uso de sistemas como el reconocimiento facial, que las organizaciones de defensa de la privacidad consideran una amenaza para los derechos fundamentales. El acuerdo político de diciembre prohíbe la identificación en tiempo real, pero incluye varias excepciones que benefician especialmente a la policía y los ejércitos. Así, las fuerzas de seguridad podrán utilizar esta tecnología en espacios públicos y con autorización judicial previa en casos limitados, como el terrorismo, la trata de personas o la localización de violadores.
En resumen, la IA es una herramienta poderosa, pero como cualquier herramienta, necesita ser utilizada con responsabilidad. Con la aprobación del AI Act, Europa está dando un paso importante hacia una regulación efectiva de la IA, protegiendo los derechos de los ciudadanos mientras permite que la tecnología siga evolucionando de manera segura y responsable.