Google, el gigante tecnológico estadounidense, se ha visto obligada a detener temporalmente la generación de imágenes en Gemini, su innovador chatbot basado en inteligencia artificial (IA). La decisión se tomó después de que se descubriera que el bot producía representaciones inexactas de figuras y eventos históricos.
El problema fue denunciado por varios usuarios, quienes señalaron que las imágenes generadas por el modelo de lenguaje de Google eran imprecisas y a veces provocativas. Las inexactitudes iban desde la representación de soldados nazis hasta los padres fundadores de los Estados Unidos como personas racializadas. Google se disculpó el jueves y aseguró que estaba trabajando para corregir estas representaciones inmediatamente.
No es la primera vez que los programas de IA generativa son criticados por amplificar estereotipos raciales y de género. En 2020, una investigación de The Washington Post reveló que programas de generación de imágenes como Stable Diffusion y DALL-E también mostraban sesgos. Por ejemplo, al solicitar una imagen de «una persona productiva», estos programas generalmente generaban imágenes de hombres blancos, mientras que una «persona en los servicios sociales» resultaba en imágenes de personas de color.
En 2015, Google Fotos eliminó la función de clasificar fotos después de que el sistema etiquetara incorrectamente una imagen de dos personas negras como gorilas. Google no quería que Gemini cayera en la misma trampa, pero sus esfuerzos por promover la diversidad racial y de género resultaron en una falta de precisión histórica. Los representantes de Google admitieron que, aunque Gemini genera una amplia variedad de personas, lo cual es positivo en general, estaba fallando en este aspecto específico.
Las críticas a Gemini no se limitaron a las inconsistencias históricas. Varios usuarios de redes sociales denunciaron estas inexactitudes, generando una controversia en la que se vieron envueltos personajes como el magnate tecnológico Elon Musk y el filósofo Jordan Peterson. Ambos acusaron a Google de tener un sesgo liberal que perjudica a los blancos. Según The Washington Post, esta controversia es el último ejemplo de cómo los productos de IA no probados se ven envueltos en guerras culturales sobre diversidad, moderación de contenidos y representación.
Otros usuarios criticaron a Google por razones más técnicas que ideológicas, argumentando que la diversidad tiene sentido en ciertos contextos, pero no cuando se trata de representar la historia de manera precisa. Por ejemplo, se cuestionó la lógica de que Gemini generara imágenes de vikingos o soldados alemanes durante la Segunda Guerra Mundial como personas racializadas.
Google había puesto a disposición de los usuarios de Gemini la capacidad de generar imágenes a principios de febrero. La función fue desarrollada para mantenerse al día con OpenAI, la startup respaldada por Microsoft y responsable de ChatGPT, su principal rival. Sin embargo, las críticas sugieren que esta IA fue lanzada al público sin comprobar antes que no cometía los errores que ahora han llevado a su suspensión temporal.
Margaret Mitchell, ex codirectora de ética en IA de Google, ha subrayado que «no tendremos sistemas racistas si conservamos bien los datos (con los que se entrenan) desde el principio». Esta declaración subraya la necesidad de una gestión cuidadosa y considerada de los datos con los que se entrenan estos sistemas de inteligencia artificial.