El Consejo Asesor Científico de las Academias Europeas (EASAC) y la Federación Europea de Academias de Medicina (FEAM) han publicado un informe conjunto sobre el uso de la inteligencia artificial (IA) en la sanidad europea. El documento plantea recomendaciones para aprovechar las ventajas de estas tecnologías garantizando una implantación segura, ética e inclusiva, en línea con las iniciativas legislativas europeas sobre IA y datos sanitarios.
La IA debe apoyar al profesional, no sustituirlo
El vicepresidente de la FEAM, el profesor Luis Martí-Bonmatí, quien ha liderado el grupo de trabajo responsable del informe —integrado por 22 científicos europeos—, sostiene que la IA debe reforzar la labor de los sanitarios sin reemplazarlos.
«La IA debe ser una herramienta que empodere al profesional sanitario, nunca que lo sustituya o desplace, y su despliegue debe ser proactivo y no reactivo. Todos los países europeos estamos de acuerdo en esto. Lo más difícil ha sido traducirlo en recomendaciones concretas que tuvieran sentido en 29 sistemas sanitarios nacionales muy distintos entre sí con niveles de digitalización, financiación y marcos regulatorios diferentes», afirma Martí-Bonmatí.
Por su parte, David Ríos, miembro de la Real Academia de Ciencias de España y participante en la elaboración del informe, destaca que la llegada de la IA está transformando la medicina. Según explica, era necesario identificar los riesgos asociados a estas herramientas y establecer fórmulas para afrontarlos, entre ellas prevenir que los algoritmos puedan resultar injustos para determinados grupos de población.
Equilibrar innovación, regulación y seguridad
Uno de los asuntos más complejos para los autores ha sido encontrar un punto de equilibrio entre la regulación y la innovación en Europa. Martí-Bonmatí, también académico de número de Radiología y Radiodiagnóstico de la Real Academia Nacional de Medicina de España (RANME), señala que existe consenso en torno a la necesidad de que la IA sanitaria de alto riesgo esté sometida a una supervisión humana estricta.
No obstante, advierte de que una regulación demasiado rígida puede dificultar el desarrollo y la aplicación de soluciones que aporten un valor clínico real. Ríos añade que la seguridad debe incorporarse desde el inicio en el diseño de estos sistemas. A su juicio, no deben elegirse necesariamente los modelos más sencillos de implantar, sino aquellos que presenten mayor robustez y capacidad para mantener su funcionamiento ante situaciones adversas.
Espacios controlados para probar nuevas herramientas
El informe propone crear entornos controlados de experimentación regulatoria, conocidos como regulatory sandboxes. Según Martí-Bonmatí, se trataría de espacios seguros y limitados en el tiempo donde los innovadores pudieran ensayar nuevas herramientas de IA bajo vigilancia regulatoria y con garantías para los pacientes, mientras los reguladores adquieren experiencia sobre cómo aplicar la normativa vigente.
También se debatió la exigencia de estándares comunes para la interoperabilidad de los datos entre países, sin menoscabar la autonomía de cada Estado miembro sobre su sistema sanitario.
Sesgos, ciberataques y pérdida de competencias
Los sistemas de IA ya están presentes en numerosos ámbitos de la atención sanitaria y pueden generar beneficios relevantes, especialmente en la asistencia clínica y la salud pública. Sin embargo, sin reglas claras pueden favorecer problemas como filtraciones o usos indebidos de información, sesgos algorítmicos y una reducción del control humano sobre determinadas decisiones.
Ríos alerta de la aparición de riesgos hasta ahora inexistentes. Como ejemplo, menciona los sistemas de diagnóstico por imagen, que pueden ser alterados por un virus informático. Si el sistema es manipulado, puede perder eficacia y producir diagnósticos erróneos. El académico advierte de que estos ataques dirigidos contra herramientas con impacto sobre la salud podrían llegar a calificarse como «terrorismo científico».
Martí-Bonmatí recuerda que la Agencia de la Unión Europea para la Ciberseguridad (ENISA) analizó en su panorama de amenazas de 2024 un total de 487 incidentes de ciberseguridad en el sector sanitario europeo. De ellos, el 45% correspondió a ataques de ransomware y el 28% a brechas de datos.
Cuanto mayor sea la cantidad de datos de salud integrada en sistemas de IA, mayor será la exposición ante este tipo de incidentes. Las consecuencias pueden abarcar desde la interrupción de servicios clínicos hasta la revelación de información sensible de pacientes sin su consentimiento. Por ello, el informe concede una atención destacada a los entornos seguros y a la privacidad de los datos personales.
El riesgo de depender demasiado de la IA
El informe también aborda la posible pérdida de control humano asociada a la dependencia tecnológica. Martí-Bonmatí cita un estudio multicéntrico realizado en cuatro centros de endoscopia de Polonia, dentro del ensayo ACCEPT, que reflejó una disminución en la capacidad de los endoscopistas para detectar pólipos de manera independiente tras habituarse al uso de IA.
Este fenómeno, denominado pérdida de competencias o deskilling, se produce cuando el profesional pierde práctica en una tarea realizada habitualmente por la inteligencia artificial. Si el sistema falla o no está disponible, la seguridad del paciente puede verse comprometida.