La Inteligencia artificial generativa es aquella que, como su propio nombre indica, puede generar textos, imágenes, vídeos, música… Esta gran revolución puede cambiar sectores enteros, pero, para ello, se necesita un conocimiento previo, así como una base tecnológica y científica. Así nace Galtea, una spinoff del Barcelona Supercomputing Center (BSC) que proporcionará a las empresas que quieran adaptar la IA generativa a sus procesos de forma precisa, segura y cumpliendo con la normativa de la UE.
Según Jorge Palomar, CEO de Galtea las compañías, sobre todo las compañías grandes, “están realizando una inversión enorme en inteligencia artificial, sobre todo IA generativa, y necesitan una manera de evaluar que sus modelos o sus productos basados en modelos de lenguaje cumplen con unos estándares de calidad. Y para eso nace Galtea”.
Galtea es, para él, una herramienta que permite a los propios investigadores del BSC validar la calidad de sus modelos. Y esta manera sistemática de evaluar la hacen extensiva a las compañías.
“Las principales preocupaciones que tienen las empresas, y con las que nosotros sobre todo nos encontramos, es la imprecisión de los productos basados en modelos, alucinaciones, la seguridad, temas de información personal o incluso toxicidad, y hablamos también de cumplimiento normativo, con la entrada en vigor de la del Nuevo Reglamento Europeo de Inteligencia Artificial. Galtea es una plataforma que les ayuda a toda esta gestión de riesgos de una manera efectiva”, cuenta.
Una base perfecta para la IA generativa
Por otro lado, Baybars Külebi, CTO de Galtea recuerda que la base de la tecnología de la spinoff ha sido desarrollada en el BSC por la Unidad de Tecnologías del Lenguaje “Nuestra unidad es puntera en su ámbito. Somos más de 50 personas, la mayoría son investigadores, pero también somos desarrolladores de software enfocados en desarrollar aplicaciones relacionadas con modelos grandes de lenguaje”.
“Y para trabajar con esos tipos de modelos -continúa-, necesitamos escala, escala en infraestructura y también tema de datos. La tecnología que desarrollamos aquí es importante también porque cuando desarrollamos esos modelos, encontramos todos los problemas que se puede encontrar. Y encontrando estos problemas, tenemos la capacidad de solucionarlos y continuamente aprendemos y mejoramos nuestros procesos. Por esa razón tenemos las tecnologías más avanzadas, no solo a nivel europeo, sino en el mundo”.
Desde Galtea indican también que muchos modelos de IA sufren de "alucinaciones", es decir, generan información inexacta o engañosa, lo que supone riesgos significativos en las aplicaciones empresariales. De ahí que intenten paliar esa falta de precisión.
En cuanto a la seguridad y protección que pretenden integrar, señalan que existen preocupaciones sobre el comportamiento apropiado y no dañino de los sistemas de IA, especialmente en cuanto a riesgos reputacionales, brechas de datos y sesgos. “Esto es crítico en algunos sectores, como por ejemplo el financiero, en el que modelos de IA sesgados podrían afectar injustamente las aprobaciones de préstamos o decisiones de contratación”.
Y, por último, respecto al cumplimiento de normativas, en Galtea destacan que adherirse a nuevas regulaciones, como la Ley de IA de la UE, la primera ley integral sobre IA en todo el mundo y catalogada como “la ley más técnica de la historia”, se está volviendo cada vez más necesario para las empresas que desarrollan IA para garantizar la seguridad y respetar los derechos fundamentales de los usuarios.
