Raquel Garrido Arranz, experta en gobernanza de la inteligencia artificial

Raquel Garrido: «Cuando un directivo me dice “aquí no usamos IA”, me está diciendo “aquí no pagamos licencias oficiales de IA”»

La escena se repite en despachos de toda España: una empresa jura que no usa inteligencia artificial y, dos plantas más abajo, alguien acaba de pegar un contrato entero en un chat gratuito para que se lo resuma. Raquel Garrido Arranz se dedica precisamente a destapar esa distancia. «Cuando un directivo me dice «aquí no usamos IA», lo que realmente me está diciendo es «aquí no pagamos licencias oficiales de IA»».

Garrido Arranz trabaja en gobernanza de la inteligencia artificial y responsabilidad corporativa desde Madrid. Su carta de presentación profesional es una advertencia: la IA ya está dentro de las empresas y su trabajo consiste en evitar que el problema se descubra demasiado tarde. En esta conversación con LaPrensaIA no habla de modelos ni de parámetros, sino de algo mucho más incómodo para cualquier dirección: quién firma cuando la máquina se equivoca.

Su respuesta no deja lugar a la duda —responde la empresa, siempre— y de ahí salen dos ideas que merecen quedarse. La primera, el «Teatro de la Gobernanza»: comités de ética que se reúnen a tomar café una vez al trimestre y manifiestos preciosos que, llegado el problema, no solo no protegen, sino que agravan la negligencia. La segunda, una recomendación que sorprende viniendo de alguien del mundo jurídico: antes de escribir ninguna política interna, declarar una amnistía para que la plantilla confiese qué herramientas está usando ya.

Hay un hilo que conecta esta entrevista con lo que contamos esta misma semana sobre agentes de Anthropic y OpenAI actuando sin control en internet: mientras el comité debate, la tecnología ya está decidiendo. Si además le interesa el terreno práctico, el pilar sobre cómo van a atenderle los agentes de IA en 2026 explica qué es exactamente eso que su equipo de marketing ya tiene abierto en otra pestaña. El Domingo de Iberia es la sección de entrevistas de LaPrensaIA.

La entrevista

Cuando una IA se equivoca dentro de una empresa —descarta un currículum válido, calcula mal un precio, filtra el dato de un cliente—, ¿quién responde? ¿Quien la compró, quien la usó o quien la programó?

Fuera misticismo desde el primer segundo: la IA no se equivoca. La IA no tiene personalidad jurídica. Se equivoca el proceso diseñado por la empresa. Culpar al algoritmo cuando hay un desastre es la salida fácil. Es la trampa de tratar a la máquina como si fuera un empleado al que poder cargarle el muerto cuando las cosas se tuercen. Pero la realidad es mucho más cruda y no admite atajos: la IA no tiene personalidad jurídica. No cobra una nómina, no tiene pasaporte y, desde luego, no puedes sentar a un modelo matemático en el banquillo de los acusados.

Si un sistema descarta un currículum brillante o filtra un dato confidencial, el fallo no está en el código. Falla el proceso. Se equivoca el proceso diseñado por la empresa, que permitió que una herramienta tomara una decisión sin supervisión humana.

¿Quién responde entonces? Responde la empresa. Podemos delegar la ejecución de una tarea. Podemos automatizar procesos y exprimir la tecnología para ser más rápidos. Pero la responsabilidad corporativa es absolutamente indelegable. El programador crea la herramienta y el proveedor te la vende, pero si tú decides dársela a alguien que no sabe usarla, el problema es tuyo. La responsabilidad viaja siempre hacia arriba.

Tu titular dice que tu trabajo es evitar que el problema se descubra demasiado tarde. ¿Cuál es la señal temprana que casi nadie está mirando?

La fe absoluta. Esa es la alerta roja.

La mayoría de los directivos buscan la señal de alarma en los cuadros de mando, en las caídas del servidor o en las quejas de atención al cliente. Llegan tarde. La verdadera señal temprana es tener un equipo que, de repente, nunca falla.

Vivimos en una época obsesionada con la eficiencia. En esa carrera frenética por la hiperproductividad, los equipos adoptan herramientas que generan respuestas con una seguridad aplastante. De repente, un empleado asume que el texto generado por una inteligencia artificial tiene el mismo rigor que un artículo científico revisado por pares. Compran la respuesta de forma automática. Ignoran por completo las alucinaciones algorítmicas y dan por válida cualquier barbaridad técnica o legal simplemente porque está redactada con una sintaxis impecable. Confunden la elocuencia de un modelo de lenguaje con la exactitud de los hechos.

Esa es la señal temprana que las empresas pasan por alto: la rendición del juicio humano. Cuanto más capaces seamos de automatizar tareas, más importante será conservar aquello que ninguna tecnología puede sustituir: el criterio para comprender y supervisar. Delegar el pensamiento crítico en una máquina garantiza el accidente. Para cuando la dirección descubra que un informe clave o una decisión estratégica se tomó basándose en una alucinación del sistema, el daño será irreversible y el problema se habrá descubierto demasiado tarde.

Muchas empresas ya tienen su comité de IA y su documento de principios. ¿Qué distingue a una que gobierna su IA de verdad de otra que solo tiene el papel?

El sudor. El papel aguanta todo; la realidad operativa, no. Lo que vemos hoy en la inmensa mayoría de corporaciones es puro «Teatro de la Gobernanza». Han redactado un manifiesto precioso lleno de palabras como transparencia, equidad y ética, han nombrado a un comité que se reúne a tomar un café una vez al trimestre, y creen que con eso ya están blindados. Es el equivalente corporativo a pagar la cuota del gimnasio en enero y creer que por tener el carnet en la cartera te vas a poner fuerte.

Tener un comité de ética de escaparate no frena una sanción. De hecho, si hay un problema grave, agrava la negligencia corporativa. Le demuestra a una jueza que eras perfectamente consciente de los riesgos, pero decidiste quedarte en las relaciones públicas en lugar de bajar al barro. Como publicabais [esta misma semana] sobre los agentes de Anthropic y OpenAI actuando sin control en internet, mientras el comité debate, la tecnología ya está tomando decisiones fuera de vuestra jurisdicción. Tienes a tu equipo de marketing usando agentes autónomos y a tu equipo de ventas cruzando datos de clientes en herramientas no autorizadas.

¿Qué distingue a una empresa que gobierna de verdad? La trinchera. Una empresa con gobernanza real no pierde el tiempo filosofando. Traduce los principios en procesos, bloquea herramientas inseguras desde el departamento de Tecnología y, sobre todo, traza líneas rojas innegociables. La diferencia absoluta es que la empresa que gobierna de verdad sabe responder a esta pregunta sin dudar un segundo: ¿cuáles son las decisiones corporativas que nunca van a quedar en manos exclusivas de una IA? Si no tienes esa lista clara y operativa, no tienes gobernanza. Tienes papel mojado.

¿Qué sueles encontrarte cuando entras a revisar una empresa convencida de que «aquí no usamos IA»?

Un autoengaño masivo. Y un riesgo incalculable. Cuando un directivo me dice «aquí no usamos IA», lo que realmente me está diciendo es «aquí no pagamos licencias oficiales de IA». Pero la realidad es que la tecnología ya está operando dentro de su empresa. Lo está haciendo en la clandestinidad.

Vivimos en un entorno donde se exige a las empleadas una productividad extrema. Tienen fechas límite asfixiantes, reuniones constantes y bandejas de entrada desbordadas.

A esto lo llamamos IA en la sombra (Shadow AI). El empleado, simplemente para sacar el trabajo adelante, abre una pestaña en su móvil o navegador y usa una herramienta gratuita para resumir un informe financiero, redactar un contrato o depurar código fuente. Lo hace con la mejor de las intenciones, pero el resultado es que está filtrando datos corporativos confidenciales sin darse cuenta.

La ironía es letal: la empresa cree que está a salvo porque no ha implementado la tecnología de forma oficial. La realidad es que tienen todo el riesgo legal y de ciberseguridad infiltrado en su plantilla, pero sin absolutamente ningún control. La dirección, simplemente, está mirando hacia otro lado.

Una empresa de cincuenta personas, sin departamento legal ni presupuesto para consultoras: ¿por dónde empieza el lunes por la mañana?

Olvida los manuales interminables que nadie lee. El lunes a las nueve de la mañana necesitas dos cosas: un baño de realidad y un folio en blanco.

Primero, el baño de realidad: tu equipo ya está usando IA. Prohibirla por decreto es un riesgo organizativo. No vas a frenar su uso, solo vas a empujar a tu plantilla a la clandestinidad digital. Tienes que declarar una especie de amnistía interna. Si mantienes una cultura corporativa del miedo donde penalizas el error, la profesional que cruce un dato donde no debe, borrará el historial, sudará frío y se callará. Y ese silencio te puede costar el negocio. Necesitas que la gente levante la mano en el minuto uno para decir «he usado esta herramienta y ha salido mal» sin miedo a ser decapitados. Sin amnistía, no hay control posible.

Segundo, el folio. Escribe esa política interna en una sola cara. Cero jerga legal. Escribe con claridad militar qué datos internos jamás se pueden meter en un chat público. Nombres de clientes, código fuente, estrategias y nóminas. Deja absolutamente claro que esa información es radiactiva y no entra en un modelo externo. Esa hoja no es solo sentido común, es tu primera línea de defensa demostrable —responsabilidad proactiva— si mañana hay una fuga de datos. Punto. No necesitas contratar a una gran firma para proteger tu negocio. Necesitas sentido común, hablar claro y pintar una línea roja tan gruesa en el suelo que nadie pueda pisarla por accidente.

¿Cuál es el error de gobernanza que más se repite? ¿Y cuánto habría costado evitarlo?

El error rey es caer en la trampa de la eficiencia ciega. Consiste en usar la inteligencia artificial para hacer el doble de rápido exactamente las cosas equivocadas.

Vivimos en una época enferma de hiperproductividad. La inmensa mayoría de los líderes compran herramientas de IA con el único objetivo de recortar tiempos y ahorrar costes corporativos. Creen, erróneamente, que automatizar un proceso es mejorarlo. Falso. Si tu proceso interno ya era un caos y tu cultura organizativa solo premia la velocidad, meter un algoritmo en la ecuación solo sirve para generar desastres a escala industrial.

Estás, literalmente, acelerando el accidente hacia el precipicio.

¿Cuánto habría costado evitarlo? Coraje directivo. Eso es lo que cuesta. El valor de pisar el freno antes de acelerar. Cuesta unas semanas de auditar el proceso humano previo, sentar al equipo y definir de forma innegociable qué decisiones corporativas van a seguir requiriendo el criterio y la supervisión de una persona.

¿Y cuánto cuesta no evitarlo? Te cuesta la reputación carbonizada frente a tus clientes, las multas legales correspondientes y, sobre todo, una plantilla completamente desmotivada. Porque al implementar la IA solo para producir más rápido, les has dejado clarísimo a tus empleadas que asocias su valor humano única y exclusivamente a su productividad. Y ese es el principio del fin de cualquier empresa.

¿Qué pregunta deberíamos estar haciéndonos sobre la IA y no nos estamos haciendo?

Nos pasamos el día debatiendo sobre qué más podrá hacer la inteligencia artificial mañana. Nos obsesiona saber cuántas tareas nos va a quitar. Es la pregunta equivocada.

La pregunta que deberíamos hacernos es mucho más incómoda: ¿seguimos siendo capaces de reconocer el valor de una persona más allá de aquello que produce? Llevo tiempo dándole vueltas a esto, y la encíclica Magnifica Humanitas lo clava: la dignidad humana es inalienable. No depende de tu nivel de eficiencia, ni de tu velocidad, ni de tu rendimiento bruto. No eres una hoja de cálculo.

El mayor riesgo de esta revolución tecnológica no es que un algoritmo tome el control. El verdadero peligro es que las empresas acaben asociando el valor humano única y exclusivamente a la productividad. Si como directiva mides a tu equipo y lo tratas como si fueran máquinas, no te sorprendas cuando una máquina de verdad los reemplace.

Podemos exprimir la tecnología para acelerar procesos y delegar tareas operativas. Pero hay un núcleo duro en cualquier organización que aspire a sobrevivir que es absoluta y radicalmente inautomatizable: el criterio para comprender el contexto, la empatía para liderar —y cuidar— a otras, y la valentía para asumir la responsabilidad de las decisiones.

El reto no es proteger los trabajos de la inteligencia artificial. El reto es proteger la humanidad dentro de las empresas para no acabar rindiéndonos ante ella.


Raquel Garrido Arranz trabaja en gobernanza de la inteligencia artificial y responsabilidad corporativa, desde Madrid. Perfil: LinkedIn. Responde por escrito a LaPrensaIA. Foto cortesía de la entrevistada, cedida con autorización expresa para esta publicación. La encíclica Magnifica Humanitas (León XIV, 25 de mayo de 2026) puede consultarse en vatican.va.