El mundo de la tecnología está a punto de marcar un hito en la historia de la inteligencia artificial (IA) con la firma de un manifiesto por parte de las principales empresas tecnológicas prometiendo combatir el uso de deepfakes en la manipulación política. Este compromiso, que se firmará esta semana, viene en previsión del año 2024, que se espera sea el mayor año electoral de la historia.
Las empresas que se comprometerán a este acuerdo incluyen algunos de los nombres más grandes de la industria tecnológica, como Google, Microsoft, Meta (Facebook), OpenAI, Adobe, y TikTok. A pesar de la naturaleza crítica de este compromiso, estas corporaciones no prohibirán los contenidos políticos engañosos generados con sus aplicaciones de IA, según una copia obtenida por The Washington Post. En su lugar, han prometido crear sistemas de identificación y alerta. Además, se «educará» a los usuarios para ayudarles a enfrentarse a los ‘deepfakes’.
Para aquellos no familiarizados con el término, los ‘deepfakes’ utilizan la IA para generar imágenes y audios que pueden clonar de manera convincente la cara y la voz de sus víctimas, suplantando su identidad. Esta tecnología se está volviendo cada vez más sofisticada, lo que dificulta determinar si lo que vemos y escuchamos es real o una campaña de manipulación.
El uso creciente de ‘deepfakes’ para la manipulación política representa un gran riesgo para la democracia. «La generación y distribución intencionadas y no divulgadas de contenidos electorales engañosos basados en IA pueden inducir al público a error y poner en peligro la integridad de los procesos electorales», se reconoce en el acuerdo.
Durante los próximos meses, más de la mitad de la población mundial está llamada a participar en más de 70 elecciones. Esto hace del 2024 un año crítico. En los últimos días, ya se han detectado ‘deepfakes’ que han suplantado la voz del presidente Joe Biden para tratar de engañar a los electores demócratas, pero también clonaciones de IA con fines propagandísticos, como la usada por Imran Khan, el encarcelado candidato a la presidencia de Pakistán.
El manifiesto se encuentra abierto para que otras empresas puedan adherirse. Una de las principales ausencias es X, la red social anteriormente conocida como Twitter, controlada por el magnate Elon Musk. Se espera que los firmantes anuncien su acuerdo el viernes durante la Conferencia de Seguridad de Múnich.
Este compromiso voluntario por parte de las empresas tecnológicas para combatir la manipulación política a través de deepfakes señala un reconocimiento de la amenaza que esta tecnología puede representar para el sistema democrático. Sin embargo, el hecho de que no se prohíban los contenidos políticos engañosos generados con sus aplicaciones de IA, deja a los críticos preguntándose cuán efectivo será realmente este compromiso en la protección de las elecciones futuras.