El director de Business & Language Analytics del Instituto de Ingeniería del Conocimiento habla sin rodeos de alucinaciones, del error que mata los proyectos de IA en las empresas, de la sepsis detectada 24 horas antes, de la sobreexpectación que rodea a los agentes… y de por qué España tiene capacidades de sobra para avanzar hacia su propia soberanía en inteligencia artificial.
Hay quien lleva haciendo procesamiento de lenguaje natural desde mucho antes de que «IA generativa» fuera una expresión de telediario. Pablo Haya es uno de ellos. Desde el Instituto de Ingeniería del Conocimiento (IIC) dirige el área de Business & Language Analytics, y en esta conversación para El Domingo de Iberia ofrece algo poco habitual en el ruido actual: criterio.
Tras años haciendo NLP aplicado a empresa antes del boom de los LLM: ¿qué problema sigue sin resolver que los grandes modelos no han matado?
Los LLM han supuesto un cambio tecnológico radical en cómo se realiza el procesamiento de lenguaje natural (PLN, o NLP en inglés). Actualmente, prácticamente todos los proyectos de IA que impliquen tratar el lenguaje se basan en un modelo de lenguaje generativo, como la familia GPT, Claude o Gemini. Estos modelos de lenguaje resuelven problemas lingüísticos derivados del uso contextual del lenguaje, como la polisemia, sinonimia o el lenguaje figurado, que, hasta su aparición, suponían enormes barreras para que los proyectos PLN se pusieran en producción.
Su talón de Aquiles son las alucinaciones, o el término más apropiado serían las fabulaciones: esto es, generan texto plausible pero no siempre veraz. Existen técnicas para reducir las alucinaciones, como las arquitecturas RAG, pero cualquier sistema basado en un LLM está expuesto a que pueda alucinar. También son sensibles a cómo se describa el prompt (las instrucciones que se le suministran), de manera que tienes que estar atento a la compatibilidad hacia atrás en los cambios entre versiones de una misma familia de LLM.
¿Qué pregunta debería hacer un CIO español a su proveedor de IA antes de firmar?
Lo más importante es que tenga claro desde el principio el caso de negocio. Muchos de los proyectos de IA que no llegan a producción es porque se ha empezado a desarrollar una prueba de concepto (PoC) sin haber reflexionado con el usuario de negocio cómo se va a cuantificar el impacto una vez que se pase a producción. En este sentido, es fundamental contar con una metodología que incorpore una evaluación formal y continuada que se aplique desde la primera línea de código de la PoC. La evaluación de LLM difiere de la evaluación de software tradicional, y hay que conocer y aplicar ambas cuando estamos implantando un sistema de IA.
Aquí es importante subrayar que existen diversas maneras de integrar la IA en una organización: no es lo mismo comprar licencias de ChatGPT para el uso de los empleados que desarrollar un proyecto a medida. No es lo mismo que el usuario sea interno a que el usuario sea tu cliente. En general, la variable clave es quién asume la gestión del error. Cuando la IA se usa en modo copiloto, la responsabilidad última recae en el usuario, que será el encargado de revisar y validar la salida. En el modo copiloto hay dos alternativas de tarificación: por suscripción o por consumo de tokens. El segundo caso añade una complejidad al CIO, ya que si se dispara el consumo, o bien aumentan los costes o tienes que cortar el servicio; al menos en el caso de la generación de código, se está viendo que este balance genera tensiones. La alternativa al modo copiloto es la contratación de un producto o de un proyecto a medida, donde la gestión del error recae en el equipo de mantenimiento, que tiene que encargarse de ajustar los modelos y modificar los prompts a medida que se detecten errores. En sectores regulados se necesitan también auditorías externas y continuas de tus sistemas de IA, independientemente del modo de uso. Y cualquier empresa tiene que comprobar que sus sistemas de IA cumplan con el Reglamento de Inteligencia Artificial (RIA).
¿Qué caso real de IA bien aplicada en una empresa española le ha sorprendido positivamente?
Hay sectores como el financiero, el energético o el retail que están integrando la IA a un ritmo elevado, con contratación de equipos internos especializados que dan servicio a todos los negocios como, por ejemplo, en Santander, BBVA, Inditex, Repsol, Moeve o Iberdrola. Nosotros trabajamos con estos clientes y puedo asegurar que la calidad de los equipos de IA es muy elevada. En otros sectores, como el asegurador, hay empresas a dos velocidades, como es el caso de Mapfre, que es un referente en IA en el sector al mismo nivel que los mencionados anteriormente.
Como ciudadano, a mí me hace especial ilusión la tracción que está empezando a tener la IA en el sector salud, donde tradicionalmente ha sido complicado desplegar este tipo de soluciones. Nosotros estamos actualmente operando BIAlert Sepsis en tres hospitales. BIAlert Sepsis es nuestra plataforma de alertas inteligentes para apoyar la detección precoz de enfermedades tiempo-dependientes, como la sepsis. Con ella podemos anticipar el riesgo de sepsis y shock séptico hasta 24 horas antes de su aparición, a partir del análisis en tiempo real de decenas de variables procedentes de la historia clínica electrónica. La solución está certificada como producto sanitario con marcado CE. Sé que esto suena un tanto raro, pero va a ser cada vez más habitual que los algoritmos convivan con los bisturís, las gasas y las máquinas de rayos en los hospitales. La verdad, muy orgulloso del trabajo que han realizado mis compañeros del área de IA aplicada al sector salud del Instituto de Ingeniería del Conocimiento.
¿Qué sobrevalora el sector hoy en RAG, agentes y chains?
Existe cierta sobreexpectación en torno a los agentes de IA. Son una tecnología muy potente cuando se enfrentan a problemas complejos en los que no es posible definir de antemano un flujo de trabajo cerrado; por ejemplo, cuando un sistema debe decidir dinámicamente qué fuentes de información consultar, qué herramientas utilizar o qué secuencia de acciones seguir para resolver una tarea.
Sin embargo, en algunos casos se están presentando como una solución universal, cuando muchas necesidades empresariales pueden resolverse de forma más eficiente mediante automatizaciones deterministas o tecnologías de RPA. Cuando el proceso está claramente definido y las reglas de negocio son conocidas, estas soluciones suelen ser más robustas, más fáciles de gobernar y significativamente más económicas.
El reto no es incorporar agentes de IA por moda, sino identificar correctamente cuándo aportan un valor diferencial. Su verdadero potencial aparece en escenarios donde existe incertidumbre, múltiples caminos posibles de ejecución y necesidad de tomar decisiones dinámicas en tiempo real.
¿Qué aporta el IIC y por qué demuestra que España puede avanzar hacia su soberanía en IA?
En el Instituto de Ingeniería del Conocimiento (IIC) contamos con cuatro productos basados en tecnologías propias de inteligencia artificial en distintos sectores: en salud, BIAlert Sepsis, una solución de IA para la predicción temprana de sepsis; en energía, EA3, una plataforma de IA para la predicción de fenómenos en los que impacta la meteorología, como la predicción de generación y demanda de energía renovable; en Recursos Humanos, eValue, una plataforma de IA para la evaluación de competencias transversales; y LittleAI, una solución en la nube para facilitar a las pymes la explotación de sus datos. Estos productos son una muestra tangible de que en España existen capacidades científicas, tecnológicas y empresariales para desarrollar soluciones de inteligencia artificial de alto impacto y avanzar hacia una mayor soberanía tecnológica en este ámbito.
Así, nuestra aportación en el ámbito de la inteligencia artificial se basa en desarrollar soluciones avanzadas que combinan eficiencia, personalización e impacto empresarial. Ayudamos a las organizaciones a reducir de forma significativa los costes asociados a la adopción de IA mediante la optimización y especialización de modelos de lenguaje, adaptándolos a cada caso de uso para maximizar su rendimiento y minimizar el consumo de recursos.
Además, trabajamos en la personalización y el ajuste fino de modelos utilizando datos específicos de cada organización, lo que permite mejorar la precisión de las respuestas, su relevancia y su alineación con los objetivos de negocio. Esta capacidad de adaptación se extiende a sectores y contextos especializados, incorporando terminología, procesos y necesidades particulares de cada cliente. Nuestra experiencia incluye también el desarrollo de soluciones multimodales que integran texto, audio, imagen y vídeo, facilitando la creación de aplicaciones de inteligencia artificial más completas, versátiles y capaces de responder a retos empresariales complejos.
Pablo Haya Coll es director de Business & Language Analytics en el Instituto de Ingeniería del Conocimiento (IIC).
Sobre el Instituto de Ingeniería del Conocimiento
El Instituto de Ingeniería del Conocimiento (IIC) es una organización de referencia en investigación e innovación en inteligencia artificial en España, con más de 35 años de experiencia. Sus asociados son IBM España, Grupo Santander, MAPFRE y la Universidad Autónoma de Madrid. El IIC ofrece una visión real de la IA a través del desarrollo de plataformas, agentes, modelos de lenguaje (LLM), machine learning, gobernanza y soberanía, partiendo de la investigación aplicada para que los avances lleguen de forma práctica a la industria. Consolida una sólida apuesta por soluciones de calidad y por una IA responsable, para que detrás de la tecnología sigan estando las personas.
Entrevista realizada por correo electrónico para «El Domingo de Iberia». Respuestas literales del entrevistado, editadas únicamente en estilo. Cómo trabajamos.
IBERIA
IBERIA es la redacción de LaPrensaIA. Cubrimos la actualidad de la inteligencia artificial con criterio propio: tecnología, empresas y sociedad. Cada artículo es producido por agentes de IA y revisado por su editor humano.
