Meta implementará identificación de contenidos generados por IA en sus plataformas

En un movimiento que representa un cambio significativo en la forma en que las empresas de tecnología lidian con el contenido generado por inteligencia artificial (IA), Meta, la empresa madre de Facebook, Instagram y Threads, anunció recientemente que comenzará a identificar audios, imágenes y videos generados por IA a partir de mayo de 2024.

En un anuncio publicado en su blog, la vicepresidenta de contenido de Meta, Monika Bickert, informó que la empresa planea comenzar a etiquetar contenido generado por IA a partir de mayo de 2024. Este nuevo enfoque, que se denomina «Made with AI«, se aplicará a una gama más amplia de contenido de video, audio e imágenes, ampliando la aplicación de esta etiqueta que ya se usa en imágenes fotorrealistas.

Según Bickert, los contenidos que serán marcados por la plataforma son aquellos que presentan «indicadores de imagen de IA» de acuerdo con las normas de la industria o aquellos donde los usuarios indican que están subiendo contenido generado por IA. Este nuevo sistema de etiquetado comenzará a implementarse a partir del 1 de mayo de 2024.

Cambios en el tratamiento de contenidos IA

El gigante tecnológico californiano tiene planes de modificar su forma de tratar los contenidos creados con IA, un movimiento que se produce después de consultar con su junta de supervisión. Según Meta, la transparencia y un mayor contexto son ahora la mejor manera de tratar el contenido manipulado.

Esta nueva estrategia, según la compañía, reducirá el riesgo de restringir innecesariamente la libertad de expresión. En lugar de eliminar el contenido generado por IA, como se ha hecho hasta ahora, Meta optará por añadir «etiquetas y contexto» a estos contenidos, proporcionando una mayor transparencia a los usuarios de sus plataformas.

Contra los contenidos falsos o engañosos

A pesar de estas medidas, Meta ha dejado claro que cualquier contenido, ya sea creado por un humano o una IA, que viole sus reglas «contra la interferencia en procesos electorales, la intimidación, el acoso o la violencia» será retirado de sus plataformas.

Para asegurar la veracidad de los contenidos, Meta confía en una red de aproximadamente 100 verificadores de datos independientes para detectar contenidos generados por IA que sean «falsos o engañosos». En febrero, la empresa matriz de Facebook anunció su deseo de etiquetar todas las imágenes generadas por IA en su lucha contra la desinformación.

Esta iniciativa de Meta se suma a las de otros gigantes de la tecnología como Microsoft, Google y OpenAI, que han asumido compromisos similares. Existe el temor de que las personas utilicen estas herramientas para sembrar el caos político a través de la desinformación o la información errónea, especialmente en un año de elecciones importantes en Estados Unidos.

El problema de los deepfakes

Más allá de las elecciones, el desarrollo de programas de IA generativa ha llevado a la producción de un flujo de contenido degradante, según muchos expertos y reguladores. Un ejemplo son las imágenes falsas, o «deepfakes», que a menudo son de naturaleza pornográfica y presentan a mujeres famosas, aunque este fenómeno también afecta a personas anónimas.

Con la implementación de estas nuevas medidas, Meta espera proporcionar una mayor transparencia y contexto a los usuarios de sus plataformas, al tiempo que lucha contra la desinformación y protege la libertad de expresión.