La Inteligencia Artificial de Google: ¿Un Enemigo Disfrazado de Ayuda?

Imagine un escenario en el que está en la cocina preparando una pizza, pero al sacarla del horno, el queso resbala y no se adhiere a la masa. En un intento por solucionar este problema, acude a Google en busca de una solución. Sin embargo, en lugar de la ayuda esperada, los nuevos resúmenes generados con inteligencia artificial (IA) de Google sugieren algo inesperado y potencialmente peligroso: añadir «aproximadamente 1/8 de taza de pegamento no tóxico a la salsa para darle más pegajosidad».

Esta situación, aunque parece sacada de una comedia, fue la real experiencia de un usuario que estaba probando la nueva función habilitada por el gigante tecnológico. Hace 10 días, Google anunció que había integrado la IA en su popular motor de búsqueda, con la promesa de que «puede quitarte un montón de trabajo duro», según Liz Reid, responsable del negocio.

¿Un Servicio Beneficioso o una Amenaza Disimulada?

Sin embargo, la realidad está demostrando ser menos halagüeña de lo que Google esperaba. Durante la última semana y media, decenas de usuarios en Estados Unidos han denunciado que la flamante novedad de la compañía amplifica bulos, se inventa datos o hechos históricos que nunca sucedieron y ofrece información peligrosa. En este sentido, Gemini, la IA de Google, genera resúmenes basándose en la ingente cantidad de información que extrae de Internet, pero sin poder discernir entre lo que es cierto y lo que no.

Este fallo ha llevado a la IA a sustentar sus respuestas simplificadas en fuentes poco fiables, como un comentario publicado en Reddit hace 11 años por un usuario apodado ‘fucksmith’. Este hecho resalta el peligro de utilizar la IA sin los debidos filtros y precauciones, ya que la información incorrecta se puede presentar como un hecho indiscutible.

Expertos en IA, periodistas tecnológicos y usuarios comunes han señalado problemas graves con el buscador, que varían desde afirmaciones incorrectas sobre la historia de los presidentes de los EEUU hasta la difusión de conspiraciones falsas, como la afirmación de que Barack Obama es musulmán. Además, la IA ha proporcionado consejos de salud peligrosos y ha presentado bromas de revistas satíricas como verdades absolutas.

Melanie Mitchell, catedrática de Complejidad en el Instituto Santa Fe, y Abeba Birhane, asesora principal de IA responsable en Mozilla, están entre los expertos que han pedido a la compañía que retire la nueva función de IA. Birhane ha calificado la acción de Google como «simplemente imprudente y extremadamente irresponsable».

En la conferencia Google I/O de la semana pasada, el director ejecutivo de la compañía, Sundar Pichai, aseguró que esta función se abrirá progresivamente en todo el mundo. Sin embargo, los problemas recientes con los resultados de AI Overview podrían llevar a la compañía a tomar medidas. Alex Heath, director adjunto del medio especializado en tecnología The Verge, se pregunta: «¿Podría Google poner en pausa los resúmenes de IA en una semana?».

Este incidente resalta la importancia de la prudencia y la responsabilidad al implementar y utilizar tecnologías como la IA, especialmente en plataformas tan influyentes y utilizadas como Google. La promesa de una búsqueda más fácil y eficiente no debería comprometer la precisión y la seguridad de la información proporcionada.