La Inteligencia Artificial y la Desigualdad Social: ¿Una Relación Simbiótica?

El 15 de febrero de 2021, un escándalo de gran magnitud sacudió a la nación de los Países Bajos, llevando a la renuncia de su gobierno. Pocos meses antes, una investigación reveló que el algoritmo utilizado por la Agencia Tributaria neerlandesa para detectar el fraude en las ayudas sociales había acusado erróneamente a hasta 26.000 personas durante una década. Esta persecución injusta resultó en hasta 10.000 familias obligadas a devolver decenas de miles de euros, lo que las llevó al desempleo, a la bancarrota e incluso al divorcio. En al menos 11.000 de estos casos, estas falsas acusaciones se basaron en el origen étnico de las víctimas. En palabras del entonces primer ministro Mark Rutte: «No podemos permitir que las cosas vuelvan a ir tan terriblemente mal».

Esta «violación de los derechos fundamentales», como la describió la comisión parlamentaria que analizó el caso, plantea una cuestión tanto fundamental como actual: ¿Está la inteligencia artificial (IA) amenazando con acelerar y amplificar la desigualdad ya existente en nuestras sociedades?

Automatización sesgada

A pesar de esta advertencia, cada vez más países, incluyendo a España, adoptan modelos algorítmicos que automatizan diversos procesos, desde la concesión de ayudas públicas hasta la evaluación de la posibilidad de reincidencia de los presos. Las autoridades recurren a la IA con el objetivo de optimizar estas tareas. Sin embargo, las respuestas generadas por la IA no son puras e incuestionables, sino que están determinadas por los datos con los que ha sido entrenada. Estos datos reflejan los patrones de nuestra sociedad, incluyendo sus sesgos. «La IA no crece del suelo como una seta, sino que está ligada a nuestro sistema y a nuestra concepción del mundo», explica Núria Vallès, experta del Instituto de Investigación en IA del Consejo Superior de Investigaciones Científicas (CSIC).

Este vínculo inseparable entre la IA y una sociedad marcada por las divisiones es lo que intensifica el riesgo de discriminación. Por ejemplo, si la máquina concluye que estadísticamente las comunidades vulnerables tienen una mayor tasa de delincuencia, será más proclive a acusarlas, también injustamente, sin tener en cuenta el contexto. Según Virgina Eubanks, profesora asociada de Ciencia Política de la Universidad de Albany, y autora del libro La automatización de la desigualdad, la expansión de estos sistemas está acentuando la exclusión de los más pobres.

Además, esta lógica condena a sus víctimas ya que tomar decisiones vitales basadas en patrones pasados niega a las personas la posibilidad de cambio y progreso, de libre albedrío. «Si solo se centra en lo que ya existe, la IA está apagando el futuro», señala Ana Valdivia, investigadora y profesora en IA, Gobernanza y Política en el Oxford Internet Institute.

Desigualdad salarial

El impacto social de la IA no puede entenderse sin su integración en el mercado laboral. Desde su despliegue hace décadas en industrias que van de la moda a la automoción, esta tecnología se ha presentado como una oportunidad para mejorar la eficiencia y la productividad económica, dos elementos considerados esenciales para combatir la falta de igualdades. Esta promesa se repite ahora con la fiebre comercial de la IA generativa iniciada con el lanzamiento de ChatGPT en noviembre de 2022 y protagonizada por gigantes como Microsoft o Google.

Reputados académicos, sin embargo, advierten de que no ha sido así. Según un estudio de Daron Acemoglu, economista del MIT, entre el 50% y el 70% del crecimiento de la desigualdad salarial en EEUU entre 1980 y 2016 se debió a la automatización, la robótica y los algoritmos que reemplazan tareas realizadas por humanos. En las últimas décadas se ha debatido mucho sobre si los salarios se han desvinculado de la productividad y si eso se debe a la tecnología o a la falta de una distribución justa.

Ricos más ricos, pobres más pobres

Algunos sostienen que la digitalización laboral contribuye a hacer que los ricos sean más ricos y los pobres, aún más pobres. En un artículo publicado en 2022, el economista Erik Brynjolfsson, director del Laboratorio de Economía Digital de Stanford, aseguró que el uso de la IA puede reducir los salarios de la mayoría de la gente «incluso cuando amplifica el poder de mercado de unos pocos», básicamente de quienes la controlan. Vallès coincide en señalar que los más beneficiados por este proceso «no querrán adoptar medidas» que aligeren la carga a los que más sufren, aquellos colectivos «más alejados de la capacidad de definir la agenda política-tecnológica».

El economista y premio Nobel Joseph Stiglitz también ha hecho hincapié en que la IA amenaza con debilitar el poder de la clase trabajadora. «Hemos creado un sistema en el que los trabajadores no tienen mucho poder de negociación. En ese tipo de mundo, la IA puede ser un aliado del empresario y debilitar aún más a los trabajadores, lo que podría aumentar aún más la desigualdad», ha advertido el experto en la disparidad de renta.

Es por eso que Valvidia llama a visibilizar a los obreros de la digitalización, empleos cruciales como los moderadores de ChatGPT que suelen externalizarse a países pobres.

¿Irá a más?

El boom de la IA generativa podría avivar aún más las disparidades sociales. Así lo ha indicado el Fondo Monetario Internacional (FMI), que señala que ese aumento de la polarización por ingresos y riqueza perjudicaría más a los trabajadores de más edad. Un reciente análisis de la consultora McKinsey & Company calcula que esta tecnología podría automatizar casi el 10% de los empleos en Estados Unidos y estima que los empleos peor remunerados serán los más afectados. En 2014, mucho antes de promover los productos que comercializa con OpenAI, su actual director ejecutivo, Sam Altman, aseguró en una publicación en su blog que «sin intervención, es probable que la tecnología conduzca a una disparidad insostenible».

Valdivia remarca que incluso antes de aplicarse, la IA evidencia una división social flagrante. «Estamos asistiendo al anuncio de inversiones millonarias en centros de datos que consumirán muchísima agua y energía mientras sigue habiendo gente sin acceso a esos recursos básicos», lamenta. Es por ello que ambas expertas remarcan que las desigualdades estructurales de la sociedad no son culpa única ni se solucionarán solo con IA, sino que requieren de una verdadera acción política que tenga a todos en cuenta: «No hay solución simple para problemas tan complejos».