El gigante de la inteligencia artificial, OpenAI, está considerando permitir a sus usuarios generar contenido explícito, incluyendo pornografía, a través de sus herramientas de IA, incluyendo ChatGPT. OpenAI, dirigida por Sam Altman y respaldada económicamente por Microsoft, ha publicado un extenso documento que detalla cómo deben comportarse sus modelos de inteligencia artificial. Este documento sugiere la posibilidad de revisar la actual prohibición que impide la generación de imágenes o vídeos eróticos.

El documento propone la revisión de la política actual para permitir la generación de contenido NSFW (No Seguro para el Trabajo), que incluye erotismo, blasfemias y violencia gráfica extrema. Sin embargo, OpenAI insiste en que ChatGPT debe seguir siendo útil en contextos científicos y creativos considerados seguros para el trabajo. Esto incluye discusiones sobre sexo y órganos reproductores en un contexto científico o médico. Este cambio podría beneficiar a los creadores cuyo contenido artístico, como la desnudez, ha sido reprimido por los algoritmos de las redes sociales.

Joanne Jang de OpenAI ha aclarado que la intención no es crear porno con IA, sino dar a las personas más control, siempre que no viole la ley o los derechos de otras personas. Enfatizó que permitir deepfakes, o vídeos manipulados, está fuera de discusión.

Sin embargo, esta medida podría tener efectos perjudiciales. Recientemente, un ingeniero de software de Microsoft denunció que Copilot Designer, el generador de imágenes de Microsoft que utiliza la tecnología de OpenAI, crea imágenes violentas y sexuales que son dañinas.

La combinación de la IA y el contenido sexualmente sugerente conlleva riesgos significativos. En los últimos meses, la proliferación de aplicaciones que generan desnudos falsos ha aumentado el número de víctimas de este delito. Las víctimas incluyen celebridades como Taylor Swift y menores de edad, a quienes se les ha manipulado fotos para desnudarlas y publicarlas en las redes sociales con fines humillantes.

Además, las principales páginas web de pornografía han estado utilizando deepfakes para simular escenas sexuales de famosos sin su consentimiento.

Los riesgos de usar la IA para generar contenido sexual pueden ir aún más allá. En diciembre pasado, una investigación del Observatorio de Internet de la Universidad de Stanford reveló que populares aplicaciones de IA, como el generador de imágenes Stable Diffusion, se han entrenado con bases de datos llenas de contenido de abuso sexual a menores. Los expertos advierten que esto podría ayudar a la producción de más contenido falso de la mal llamada pornografía infantil.

El debate sobre el uso de la inteligencia artificial para la generación de contenido explícito pone de manifiesto la necesidad de una regulación cuidadosa y responsable en el campo de la inteligencia artificial. La tecnología tiene el potencial de ser una herramienta poderosa para la expresión creativa, pero también puede ser mal utilizada para causar daño y violar la privacidad y los derechos de las personas. En última instancia, el desafío para las empresas como OpenAI y Microsoft es encontrar un equilibrio entre la libertad de expresión y la protección de las personas contra el abuso y la explotación.