La red social propiedad de Meta, Facebook, así como Instagram y Threads, están preparándose para identificar y etiquetar automáticamente las imágenes fotorrealistas que han sido creadas con inteligencia artificial (IA) generativa utilizando herramientas de otras empresas en los próximos meses. La movida se produce en respuesta al creciente número de contenidos generados por IA que aparecen en las redes sociales, los cuales son tan realistas que resulta difícil diferenciarlos del contenido creado por humanos. La empresa liderada por Mark Zuckerberg busca ayudar a los usuarios a distinguir entre los dos tipos de contenidos.
Meta ha expresado su entusiasmo por la «explosión de creatividad» que han demostrado los usuarios con sus nuevas herramientas de IA generativa, como el generador de imágenes del ‘chatbot’ Meta Al. Este permite generar imágenes con simples indicaciones de texto. No obstante, la compañía también comprende que los usuarios valoran la transparencia en torno a la nueva tecnología. Es por ello que implementaron las etiquetas de ‘Generado con IA’ en las imágenes fotorrealistas creadas con su herramienta Meta Al.
Además de las imágenes producidas con la herramienta Meta Al, la empresa también planea etiquetar automáticamente las imágenes fotorrealistas creadas con herramientas de IA generativa de otras empresas y publicadas en Instagram, Facebook y Threads. El objetivo es informar a los usuarios sobre el tipo de contenido y evitar confusiones.
Para identificar y etiquetar este tipo de contenido, Meta ha estado colaborando con socios de la industria para «armonizar técnicas comunes» que indiquen cuándo un contenido ha sido creado con IA, sin importar la herramienta o el programa utilizado para generarlo. Las nuevas etiquetas comenzarán a implementarse «en los próximos meses» en todos los idiomas que cada red social admite. Meta también planea implementar este enfoque de transparencia a lo largo de este año, con la intención de «aprender mucho más sobre cómo la gente crea y comparte contenidos de IA». Según Nick Clegg, presidente de Asuntos Globales de Meta, esta información servirá como base para las mejores prácticas de la industria y el enfoque futuro de Meta.
Junto con etiquetas visibles y marcadores, Meta ha introducido marcas de agua invisibles, como los metadatos incrustados dentro de los archivos de imagen, para ofrecer una mayor seguridad en la identificación de contenido generado por IA. Además, la compañía está trabajando con otras empresas del sector para desarrollar normas comunes para identificar contenido generado por IA en Internet.
Para continuar en esta dirección, Meta está creando herramientas que pueden identificar marcadores invisibles «a escala», reconociendo la información generada por IA de las normas técnicas C2PA e IPTC. Estas herramientas permitirán a Meta etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock a medida que estas compañías comiencen a añadir metadatos a las imágenes creadas por sus respectivas herramientas de IA.
Aunque las plataformas han comenzado a incluir señales en los programas generadores de imágenes, Meta señaló que aún no pueden detectar señales en el contenido de audio y vídeo generado por IA de otras empresas y, por lo tanto, no pueden etiquetarlo. Sin embargo, la compañía planea poner a disposición de los usuarios una función para informar cuando este tipo de contenido se comparte en sus redes sociales, para que, a su vez, la plataforma pueda agregar una etiqueta.
Meta también advirtió que no todos los contenidos generados por IA se pueden identificar actualmente y que existen formas de eliminar los marcadores invisibles. Para abordar este desafío, la compañía está trabajando para desarrollar clasificadores que puedan detectar contenido generado por IA, incluso si carece de marcadores invisibles. Además, está buscando formas de dificultar la eliminación o alteración de las marcas de agua invisibles en el contenido generado por IA.
Finalmente, Meta enfatizó que la IA no solo se utiliza para generar contenido, sino también para proteger a los usuarios de contenido engañoso. Los sistemas de integridad de la compañía utilizan la IA para detectar y combatir la incitación al odio y otros contenidos que infringen sus políticas de comportamiento en todas las plataformas de Meta.