Liliana Acosta, una filósofa con especialidad en ética aplicada a la tecnología, ha estado en el centro de atención en los últimos años. En 2017, fundó Thinker Soul, una consultoría que se centra en la digitalización de las empresas y en la innovación. Últimamente, su enfoque se ha centrado en la inteligencia artificial (IA), los efectos cognitivos de las redes sociales y corrientes de pensamiento como el Transhumanismo.
El pasado viernes, Acosta fue la protagonista de una nueva edición de Cornellà Creació, un foro de debate e intercambio de ideas entre el mundo académico y empresarial. En conversación con Agustí Sala, jefe de economía de El Periódico, Acosta profundizó en varios temas relacionados con la ética en tecnología.
En los últimos años, gigantes tecnológicos como Google y Microsoft, líderes en el desarrollo de la IA, han despedido a gran parte de su equipo de ética. ¿Por qué es esto preocupante? Acosta nos remite al caso de la científica Timnit Gebru, la primera mujer contratada para crear un departamento de ética en IA en Google. A pesar de identificar y alertar sobre varios problemas en los modelos de lenguaje de IA, su equipo fue ignorado y finalmente despedido.
Acosta argumenta que al asesorar a empresas, a menudo se encuentra en desacuerdo con los ingenieros cuyo concepto de ética difiere mucho del suyo. Afirma que no podemos esperar a usar una tecnología para ver si es buena o no, sino que debemos diseñarla para que sea buena desde el principio. Este enfoque, sin embargo, puede ser costoso, lo que ha llevado a muchos recortes en los departamentos de ética.
Es común escuchar que la tecnología es neutral y que su uso depende únicamente del usuario. Sin embargo, Acosta refuta esta idea, afirmando que la tecnología no puede ser neutral, especialmente cuando se basa en datos de personas. Si una IA tiene sesgos, estos son reflejos de los sesgos humanos que han sido traducidos a la máquina.
Las grandes empresas rara vez revelan los datos con los que entrenan sus aplicaciones de IA, como ChatGPT. Esta falta de transparencia dificulta la detección de sesgos. Acosta explica que entrenar un modelo de IA requiere de un gran volumen de datos, y es mucho más barato obtener estos datos de Internet que crear una base de datos privada. Sin embargo, muchos de los datos que se extraen de la web ya están sesgados de base.
La visión popular de la IA a menudo está teñida de miedo, con temores de que las máquinas nos roben el trabajo o se rebelen contra la humanidad. Acosta sostiene que estos temores son más una creación de la ficción que una realidad. Afirma que muchos problemas que tenemos con los algoritmos provienen de las decisiones humanas y que la ética debe aplicarse a los humanos antes que a la IA.
Las empresas a menudo diseñan sus productos de IA para imitar las conversaciones humanas o adoptar una voz femenina. Esto puede ser fascinante, pero Acosta advierte que puede distorsionar nuestra percepción de la tecnología. Sugiere que se deben identificar los contenidos generados con IA para no confundirlos con interacciones humanas.
Finalmente, Acosta reflexiona sobre cómo las empresas se están adaptando a la AI Act, la ley europea que regulará la IA. No cree que la ley suponga una disrupción, ya que las empresas la ven como una obligación más. Sin embargo, le preocupa que pueda frenar la innovación de startups y pequeñas empresas, aunque reconoce que desde el punto de vista ético puede ser útil, ya que se ha hecho un gran trabajo en señalar los riesgos de las tecnologías de IA.