Startup Liderada por Ariadna Font, Anteriormente en Twitter, Logra 2.2 Millones de Euros para Desarrollar Plataforma de Inteligencia Artificial

Pionera en ética algorítmica y anteriormente en Twitter, la catalana Ariadna Font junto con Carlos Muñoz, asesor de Hugging Face, han fundado la startup Alinia AI, que ha logrado cerrar con éxito una ronda de capital presemilla de 2.2 millones de euros (2.4 millones de dólares). Los fondos de capital riesgo Speedinvest y Precursor lideraron esta inversión, que también contó con la participación de KFund y diversos angels destacados, incluyendo a los cofundadores de Hugging Face, Clem Délangue y Thom Wolf, Tom Preston, cofundador de GitHub, Xavier Amatriain, vicepresidente de Google Core AI, y Oriol Vinyals, vicepresidente de Investigación y Desarrollo de Google DeepMind.

Alinia: Desarrollando una Plataforma para un Despliegue Fiable y Controlado de la Inteligencia Artificial

Alinia AI ha desarrollado una plataforma para facilitar a las empresas un despliegue fiable y controlado de la inteligencia artificial generativa, que opere de acuerdo con sus políticas y preferencias comerciales. Según los responsables de la empresa, uno de los desafíos más grandes para el despliegue de esta tecnología es gestionar la fiabilidad y el control en estas aplicaciones, dada la amenaza de generación de contenido inapropiado, falso o dañino que pueda perjudicar la reputación de la empresa.

Las iniciativas regulatorias actuales, como el Reglamento de IA de la UE, la Orden Ejecutiva en Estados Unidos y el Proyecto de Ley C-27 de Canadá, que necesitan controles de calidad rigurosos y documentación clara, añaden más obstáculos a la adopción masiva por parte de las empresas. «La tecnología no está lista para producción en escenarios comerciales. Los cargos ejecutivos tienen razón al tener miedo de salir en la prensa porque sus aplicaciones de IA generativa contestan de manera inapropiada o incluso dañina a sus clientes u empleados. El daño reputacional no les deja dormir», declara Ariadna Font Llitjós, cofundadora de Alinia.

El enfoque de Alinia es usar un proceso conocido como ‘alineamiento’ para asegurar que los sistemas de IA cumplan con comportamientos esperados, políticas y requisitos regulatorios, ayudando a las empresas a aprovechar la promesa de esta nueva tecnología mientras minimizan los riesgos y daño potencial.

La Experiencia de Alinia: Sesgos en los Datos de Entrenamiento y Algoritmos

Durante su estancia en Twitter, Font presenció de primera mano el impacto que los sesgos en los datos de entrenamiento y los algoritmos pueden tener en poblaciones vulnerables. Ha traído estas experiencias y aprendizajes a Alinia para que otras empresas puedan desplegar la IA generativa de una manera responsable, para sus empleados y sus clientes.

La plataforma de alineamiento de Alinia tiene como objetivo proporcionar un enfoque integral de control y fiabilidad de la IA. Esto actualmente requiere múltiples herramientas que van desde la evaluación y monitoreo en tiempo real, hasta técnicas de customización de modelos fundacionales, junto con documentación automatizada que facilita la gobernanza y compliance una vez la aplicación está puesta en producción.

«En mi experiencia en Hugging Face, los aspectos de gobernanza y fiabilidad del desarrollo de LLM requieren una cantidad increíble de tiempo y esfuerzo. Pero cuando estás a punto de lanzar un modelo fundacional que se utilizará millones de veces, la gobernanza y fiabilidad son clave», dice Carlos Muñoz Ferrandis, cofundador y COO de Alinia.

Alinia utilizará el capital de la ronda para contratar talento adicional y construir la plataforma de alineamiento de Alinia. La visión a largo plazo de estos dos españoles es asegurar el uso fiable e inclusivo de la IA generativa en todas las modalidades y lenguajes.