Carlos Cordero (Fujitsu): "La IA generativa no se debería usar en robótica"

Hablamos con el CTO de Fujitsu España sobre el desarrollo y la aplicación de la inteligencia artificial y computación cuántica en ámbitos como la Administración y la sanidad
Carlos Cordero Fujitsu

Fujitsu España es fundamentalmente una empresa de servicios, muy establecida en el entorno financiero y del sector público. El equipo de dirección, con Ángeles Delgado a la cabeza, decidió invertir en una serie de áreas antes incluso que la propia corporación. Una es claramente el área de de sanidad, donde se ha posicionado en el campo de las ómicas y utiliza toda su artillería en supercomputación e inteligencia artificial (IA), “y no tardaremos mucho en meter también la cuántica”, asegura su CTO, Carlos Cordero.

En el ámbito digital, “nuestro estandarte es la plataforma Kozuchi que anunciamos en el evento del Fujitsu Activate Now Technology el año pasado en el cine Callao de Madrid, ha tenido una maravillosa acogida por parte de los clientes”.

Pregunta: La sanidad es precisamente uno de los sectores en los que más problemas genera la gestión de los datos. ¿Hasta qué punto está siendo un elemento de complejidad añadida en España?

Respuesta: Es un entorno complejo, con muchísimos sistemas de historias clínicas propietarios o más o menos propietarios que son difíciles, o me atrevería a decir imposibles, de interoperar. Hay una complejidad muy grande para poder compartir información entre las distintas comunidades autónomas y las entidades de sanidad. Dicho esto, hay tecnologías que nos ayudan a habilitar la interoperabilidad entre esos sistemas. El área de sanidad, con muy buena visión, decidió invertir y crear un equipo de talento en Sevilla.

Pregunta: ¿Que se necesita con más urgencia en nuestro país para hacer realidad ese anhelo de la medicina personalizada?

Respuesta: El dato básico de la medicina personalizada es el procesamiento de las cadenas de ADN. Los sistemas de historias clínicas no contienen hoy información de ADN de pacientes, porque nunca se ha procesado. Obviamente, no había infraestructura para ello. Toda la ómica pasa por procesar esas cadenas de ADN, que generan gigabytes y gigabytes de información en el caso de una persona. La infraestructura de computación y almacenamiento necesaria para gestionar y procesar esa información es muy distinta de la que se viene utilizando para la información clínica.

Hacia la medicina personalizada. "Es el momento de intervenir en las arquitecturas de ómica"

En eso es, en parte, en lo que nos hemos especializado por nuestro conocimiento en arquitecturas. Las plataformas de historia clínica están muy trilladas, ahí hay poco que inventar. Donde hay mucho que hacer es en las arquitecturas de ómica como tales, ahí es donde tenemos un valor diferencial, por la capacidad de unir arquitecturas que puedan gestionar cantidades masivas de información, crujirlas, ingerirlas en plataformas de supercomputación y meter al final las cadenas de IA convenientes.

Pregunta: Es genial el término crujir, lo incorporo ya a mi taxonomía. Fujitsu cuenta con dos data centers en España especializados fundamentalmente en temas de salud. ¿Este nuevo impulso irá acompañado de más inversión en ese ámbito?

Respuesta: No en la parte de de ómica. Las máquinas capaces de coger el ADN y generar esas cadenas de texto de letras se llaman secuenciadores y es tal la cantidad de información que generan que sería inviable enviar todo eso a un data center remoto o a la nube. Estamos hablando de teras de información que se puede generar en un día y que después tienes que crujir. Tal y como está la tecnología y las comunicaciones, se tiene que hacer en local y, de hecho, en los dos proyectos de ómica en los que participamos así lo hemos hecho. Otra cosa puede ser todos los procesos que ya hay alrededor de esa medicina personalizada, pero todavía no estamos ahí.

Pregunta: El año pasado Fujitsu se incorporó al proyecto de hub de computación cuántica en Galicia.

Respuesta: Maravilloso, es maravilloso.

¿Cómo va a repercutir en empresas y a ciudadanos?

El proyecto era una inversión que quería hacer la comunidad con fondos europeos para potenciar el entorno de investigación de startups, e incluso para crear un polo de talento especializado alrededor de la cuántica en el Cesga (Centro de Supercomputación de Galica). Fujitsu en su propuesta añadió dos cosas que resultaron fundamentales: una fue una tecnología que no estaba en el pliego, Digital Annealer, de la que fui el primero en hablar hace quizás cinco años. Tendrías que haber visto la cara de algunos clientes cuando nombraba la tecnología cuántica, me miraban como si fuera un marciano.

Digital Annealer es una plataforma de inspiración cuántica y permite resolver problemas reales. Al principio, teníamos una máquina capaz de crujir problemas de algo más de 1.000 qbits. Hoy la plataforma es capaz de, en algunos casos, atacar problemas de un millón de qbits. Normalmente nos quedamos en el torno de los 100.000 y eso de verdad permite resolver problemas complejos de optimización.

El valor de la cooperación interempresarial e interinstitucional

Al haber incluido el nivel digital en el proyecto del Cesga, hemos podido ir juntos a clientes que tienen problemas de verdad.  Por ejemplo, Pescanova quería optimizar la alimentación de las gambas, que representa más de la mitad del coste de su cría en granjas y el resultado es absolutamente espectacular. El otro diferencial fue montar un equipo de gente conjunto entre Fujitsu y Cesga para potenciar la inversión que hizo la comunidad en esa plataforma. Es una gente sobresaliente y está consiguiendo que lo que en principio era algo local, para Galicia, esté saliendo de nuestras fronteras y se convierta en un proyecto con impacto incluso en Japón.

Sueles utilizar conceptos como “confianza distribuida” o “resiliencia dinámica”, que pueden ser claves en un momento en el que muchas empresas se enfrentan al reto de federar sus datos en la nueva economía de plataformas.

Hay un cambio de paradigma en el tema de ciberseguridad que comienza hace un par de años con lo que se llama Zero Trust. O sea, no confíes en nadie. Eso es lo que estamos aplicando en los despliegues de redes privadas de 5G. Sólo si el dispositivo que se quiera conectar a la red me demuestra que es confiable le daré permiso. El problema de la ciberseguridad es tan grave, y no va a ir a menos, que es la única política fiable que se puede seguir: no confiar absolutamente en nadie. 

Sí, pero al mismo tiempo hay que confiar, tenemos que encontrar el equilibrio entre ese Zero Trust y los beneficios que proporciona la colaboración y la compartición de datos.

Hay una tecnología en la que diría que Fuitsu España es pionera. La estamos implantando para un cliente del entorno de la farmacia. Se llama ZKP (zero knowledge proof), básicamente habilita al dueño de cierta información a compartir única y exclusivamente con un tercero parte de esa información, según el uso que quiera hacer de ella. El ZKP va a explotar, va a ser una parte de la tecnología imperante para esa federación y ese intercambio de datos, porque básicamente aplica zero trust por debajo. ZKP utiliza blockchain como tecnología de base y es un poco complicado técnicamente hablando, pero lo vamos a ver por todos los lados.

"El blockchain es una tecnología maravillosa pero no aplicable a todo"

Fujitsu no se deja llevar, por tanto, por esa ola de descrédito del blockchain, seguís apostando por esa tecnología.

El blockchain es una tecnología maravillosa. Ha tenido un problema, y es que, desde el minuto cero, se le asoció a las criptomonedas y, como dependiendo del día son muy buenas o muy malas, ha dañado la imagen de las cadenas de bloques. Pero son una tecnología maravillosa, no aplicable a todo, obviamente tiene sus casos de uso, pero en el caso del intercambio de datos es la que hay que usar, sin ningún lugar a dudas.

El CTO de Pandora aconsejaba en el Gartner Symposium tokenizar los datos financieros, en lugar de encriptarlos, para ganar en agilidad.

Hay que cifrarlo todo y, a partir de ahí, ya te puedes plantear lo que sea. Si ese cifrado lo quieres tokenizar fenomenal, pero hay que cifrarlo todo, y con cifrado doble porque viene la cuántica detrás.

Fujitsu es también un referente en soluciones para el sector público. ¿Cuál es el mayor pain ahora mismo en España?

Se ha avanzado bastante, pero sigue habiendo muchísimo trabajo por hacer. No solo en los servicios digitales existentes, que son muchos, aunque también muchos funcionan de forma regular.  Sino también en los servicios que no han sido digitalizados todavía y que implican mucha inversión de tiempo y desplazamientos. Es en lo que tienen que invertir el Gobierno central y las comunidades, hay mucho a hacer ahí.

La importancia de ser "cautos" en el despliegue de la IA generativa

¿Se puede delegar en la IA decisiones de la Administración?

Depende de qué decisiones. Hay que tener mucho cuidado con el uso de la IA y más con los modelos de lenguaje extensos que integran la IA generativa. Siguen siendo las típicas cajas negras de IA que contestan a lo que les estás preguntando, pero no te dicen por qué ni de dónde han sacado esa información. Hay que aplicarlas con cuidado, porque en caso de que se equivoque o alucine va a tener impacto en las personas. Hay investigadores que están intentando aplicar modelos de IA generativa en robótica. La idea es fascinante. Imaginemos un robot que obedece a lo que le devuelve un modelo de IA generativa y éste le sugiere hacer algo que va a producir daño a la persona. Eso puede pasar perfectamente hoy. Si tuviera que tomar la decisión, yo no usaría IA generativa en robótica.

El Toyota Research Institute está consiguiendo grandes avances en ese campo. Lo llaman modelos extensos de comportamiento (large behavior model).

Estamos en los albores de esta tecnología que no deja de ser fascinante, pero hay que ser muy cautos en su despliegue y su uso, no solo en la Administración pública, sino en cualquier tipo de entidad o de negocio. Los resultados que van a dar esos modelos van a estar filtrados y controlados de alguna manera. Es un área en la que Fujitsu está trabajando muchísimo y forma parte del núcleo de la IA generativa dentro de la plataforma Kozuchi, incluso con modelos sectorizados y verticalizados.

Fujitsu acaba de entrar GENAiA.

Es la primera asociación de IA generativa, nos hemos incorporado para intentar aportar nuestro granito de arena algunos de los problemas que plantea. En la primera reunión, comenté que esa tecnología es tan disruptiva que tenemos que hacerla accesible a todo el mundo, por pequeña que sea la entidad, incluso al nivel de una persona. La IA generativa puede ser utilizada por cualquier estudiante, por cualquier compañía, por cualquier entidad, y hoy no es así. Cuesta mucha computación, mucha energía y, por lo tanto, es cara y eso hace que se excluya de forma automática a muchas personas y empresas. Eso no puede ser así. 

Especiales