El director de la Agencia Española de Supervisión de Inteligencia Artificial (Aesia), Alberto Gago, considera que no hay motivos para temer que la inteligencia artificial pueda acabar con la humanidad, aunque insiste en que su desarrollo debe estar sometido a normas, supervisión y criterios de responsabilidad. «Es una herramienta con un gran potencial a la que debemos ponerle rumbo. Tenemos que usarla para aumentar sus beneficios y mitigar sus riesgos», sostiene.
Una tecnología que debe desarrollarse con responsabilidad
Gago, nacido en Zaragoza en 1987, dirige Aesia en un momento de rápida expansión e incertidumbre en torno a una tecnología que promete transformar el mundo. Durante su trayectoria profesional en Europa participó en la redacción de la Directiva de Datos Abiertos, el Reglamento de Gobernanza de Datos, el Reglamento de Datos de la UE y en las negociaciones del Reglamento europeo de IA.
Ante las advertencias de Evan Hubinger, responsable de seguridad de Anthropic, y Geoffrey Hinton, Premio Nobel de Física y uno de los referentes de la IA, quienes estiman una probabilidad del 10% o superior de que esta tecnología extermine a la humanidad, Gago lanza un mensaje de tranquilidad. Según afirma, son los seres humanos quienes diseñan los sistemas, fijan las instrucciones y establecen los mecanismos de control.
Para el responsable de Aesia, los problemas aparecen cuando las indicaciones no son adecuadas o cuando faltan límites claros. Por ello, sostiene que el foco no debe situarse en el fin del mundo, sino en lograr que la IA se despliegue con responsabilidad y transparencia, de forma que la ciudadanía pueda confiar en ella.
Límites y regulación europea
Gago interpreta los mensajes más alarmistas como una advertencia sobre la necesidad de establecer fronteras para el uso de esta tecnología. En ese sentido, destaca que España y Europa ya han avanzado con el primer reglamento de inteligencia artificial, que prohíbe, entre otras prácticas, la falsificación de imágenes sexuales no consentidas y la pornografía infantil generada mediante IA.
También responde a los casos conocidos de modelos que han desobedecido a sus programadores. A su juicio, cuando un sistema se aleja de las instrucciones es porque estas han sido mal planteadas o porque no se han definido suficientemente los límites de lo que puede y no puede hacer. Defiende así la colaboración entre los sectores público y privado para que la IA siga siendo una herramienta guiada por decisiones humanas.
Respecto al riesgo de que estas capacidades sean usadas por organizaciones terroristas o por gobiernos con fines poco éticos, Gago apunta que existe una parte de ficción alrededor de la inteligencia artificial. Recuerda, no obstante, que la normativa ya veta determinados usos, como el “social scoring”, es decir, la puntuación social de los ciudadanos según su comportamiento.
Frente a ese escenario, menciona a Pedro Sánchez como un dirigente implicado en asegurar un despliegue responsable de la IA. España, añade, aspira a convertirse en referente mundial de la IA ética, una posición que comparte Europa y que, según señala, también está alineada con la India. El modelo debe basarse en tres principios: sentido, seguridad y sostenibilidad.
Gago rechaza la idea de que la autorregulación empresarial sea suficiente, una postura defendida por Donald Trump y grandes magnates tecnológicos. «La autorregulación no funciona, y esto es un hecho», afirma. Compara la regulación de la IA con la que ya existe en ámbitos como los dispositivos médicos o la automoción, sectores que pueden afectar a la seguridad y a los derechos fundamentales.
En este marco, subraya que cualquier empresa que quiera comercializar sistemas de IA en el mercado europeo, integrado por 500 millones de personas, deberá cumplir la legislación comunitaria.
El impacto de la IA en el empleo
El director de Aesia describe la inteligencia artificial como la primera tecnología que ha llegado antes a la población que a las empresas y como la que se ha expandido a mayor velocidad. Este proceso, reconoce, transformará la actividad productiva y alimenta el temor a la pérdida de puestos de trabajo.
Sin embargo, cita datos de la agencia de trabajo de Estados Unidos según los cuales la IA ha destruido 200.000 empleos, pero ha creado un millón. Para Gago, la prioridad debe ser impulsar la formación continua de las personas cuyos trabajos puedan verse afectados, de modo que puedan asumir nuevas funciones, como supervisar o entrenar sistemas de inteligencia artificial.
La IA como copiloto de los trabajadores
Como ejemplo, plantea el caso de un secretario o una secretaria que gestiona una agenda. La IA puede programar citas, pero será la persona quien deba decidir a cuáles acudir y cuáles descartar. En su opinión, cuanto más compleja sea una ocupación, más difícil será que la tecnología sustituya al trabajador.
La función de la IA, sostiene, será acompañar y ayudar como un copiloto, mientras que la dirección y las decisiones finales seguirán correspondiendo a las personas.
Educación y acompañamiento de los menores
Sobre las conclusiones del último informe PISA, que alertaba de peores resultados entre los estudiantes que utilizan de forma autónoma la inteligencia artificial, Gago defiende que los menores no deben quedar solos ante esta tecnología.
Considera que padres, docentes, administraciones y empresas deben colaborar para enseñar a los niños a comprender y emplear adecuadamente estas herramientas. El plan del Gobierno IA360, recuerda, ya contempla la incorporación de la inteligencia artificial en todo el ciclo educativo, siempre de forma responsable.
Para Gago, el desafío es compartido y no consiste en excluir a los menores de la transformación digital, sino en acompañarlos durante ese proceso.