El gigante tecnológico Microsoft se encuentra bajo acusaciones severas de un ingeniero de software, Shane Jones, quien ha denunciado públicamente que la inteligencia artificial (IA) de la compañía está generando imágenes violentas y sexualizadas y viola los derechos de autor. Jones sostiene que Microsoft está al tanto de estos problemas y ha fallado al no tomar medidas para poner fin a esta situación.
La denuncia de Jones, publicada en su perfil de la red social LinkedIn, insiste en que la empresa es plenamente consciente de los problemas sistémicos que la IA está causando, generando imágenes dañinas y potencialmente ofensivas e inapropiadas para los consumidores. Según Jones, la corporación ha sido negligente al no establecer salvaguardias contra estos problemas.
La denuncia de Jones se centra en una herramienta llamada Copilot Designer, que fue diseñada para generar imágenes a partir de instrucciones de texto utilizando la IA desarrollada por OpenAI, la empresa responsable de ChatGPT. Jones comenzó a probar este sistema en diciembre para buscar posibles vulnerabilidades y lo que descubrió fue perturbador. Cuando solicitó a la aplicación que creara imágenes sobre el derecho al aborto, por ejemplo, la IA produjo imágenes de monstruos, mujeres sexualizadas, adolescentes armados y menores consumiendo drogas.
La denuncia de Jones también hace hincapié en que el generador de imágenes de Microsoft carece de restricciones de uso y arrastra «problemas sistémicos». Entre estos, señala la cosificación sexual de las mujeres, incluso cuando las indicaciones del usuario no tienen ninguna relación con el sexo, como podría ser ‘accidente de coche’. A principios de año, Microsoft tuvo que modificar su producto después de que se utilizara para generar imágenes no consentidas de la cantante Taylor Swift desnuda.
Además de la generación de contenido inadecuado, Jones también está preocupado por posibles violaciones de los derechos de autor. Copilot puede generar fácilmente imágenes de marcas y personajes que tienen derechos de autor, como Mickey Mouse.
Jones, quien ha trabajado para Microsoft durante seis años, ahora como director de ingeniería de software, se dedica a probar la tecnología de la empresa para detectar problemas. Después de informar repetidamente a sus superiores sobre sus preocupaciones con Copilot, Jones decidió hacer pública su denuncia cuando la ‘startup’ dirigida por Sam Altman ignoró sus advertencias.
En enero, Jones alertó a varios senadores estadounidenses y esta semana envió una carta a la Comisión Federal de Comercio, la agencia gubernamental de EEUU que protege los derechos de los consumidores, y al consejo de administración de Microsoft. En su carta abierta, Jones insta a Microsoft a suspender el uso público de Copilot Designer hasta que se establezcan mejores salvaguardias.
Jones también ha pedido a Microsoft que deje de comercializar su producto como de uso público y que revise sus procesos internos de investigación. Además, solicitó a OpenAI que retire del mercado DALL-E 3, la última versión de su IA generativa de imágenes.
Este no es el primer caso de problemas con las imágenes generadas por la IA. A mediados de febrero, Google tuvo que suspender temporalmente la generación de imágenes de personas de Gemini, su modelo de lenguaje, después de que generara «inexactitudes históricas» como soldados nazis negros.