El factor común de las empresas que llaman a Liliana Acosta es el AI Act, y muchas siguen entendiendo la ética como un freno a la innovación. Liliana Acosta Arias, filósofa e investigadora en ética de la IA y fundadora de Thinker Soul, les explica algo menos cómodo: que la ética, hoy, no va de una lista de valores, sino de un cambio de paradigma, y que ese cambio empieza por preparar a las personas que toman las decisiones, porque es allí donde realmente se aplica.
Su mirada viene de la filosofía y no de la ingeniería. Para ella la inteligencia artificial no es un superordenador, sino el resultado de una ética utilitarista nacida en Estados Unidos que choca con la tradición deontológica europea, centrada en la dignidad y los derechos humanos. De ahí su propuesta: una gobernanza global basada en la protección de la especie humana, como ya se hizo con el riesgo nuclear. Sobre cómo se aborda la gobernanza dentro de las empresas hay otra mirada en la entrevista a Raquel Garrido.
Es una entrevista de ideas largas, y se publica íntegra y con su voz. Habla de la pregunta que casi nadie se hace antes de desplegar una herramienta de IA, de la cancelación y de cómo los algoritmos premian la violencia verbal, y de por qué el pensamiento crítico es «una carrera de fondo» que empieza por uno mismo. Sobre el marco normativo que mueve a las empresas, puedes leer también a Silvana López Merino sobre el AI Act.
La entrevista
La IA lleva años funcionando sin un modelo ético consensuado, como tú misma has señalado. ¿Qué se ha construido mientras tanto encima de ese vacío, y qué tendría que pasar para llenarlo?
Para comprender lo que se ha construido en «ese vacío», es necesario dejar de entender la Inteligencia artificial desde un ángulo únicamente tecnológico, como si de un súper ordenador se tratara, primero porque es un sesgo, y segundo porque nos aleja de la discusión central: los principales conflictos de la IA responden a paradigmas culturales, sociales, políticos, económicos y filosóficos incorporados desde su diseño.
La computación, los algoritmos, los LLM -entre otros sistemas de IA-, han tenido un desarrollo decisivo a partir de la mitad del siglo XX en Estados Unidos, por ello, están estrechamente vinculados a marcos científicos, empresariales y económicos orientados a la eficiencia, la predicción y la optimización; en este sentido, tenemos que entender necesariamente a la IA como un resultado de la ética utilitarista, que tiende a valorar más los resultados que los hechos (en contraposición a la ética deontológica europea), su utilidad, y máximo beneficio, para el máximo de personas.
El resultado de esto es una tecnología de corte nihilista, no porque no tenga principios, sino porque éstos, no han sido alineados en correspondencia con la evolución humana, el desarrollo personal, etc; y es justamente esta disyuntiva la que genera una constante fricción entre la tradición ética deontológica europea, centrada en la dignidad, los derechos humanos, y el estado de bienestar, y una lógica utilitarista de eficiencia, productividad y progreso.
Una solución sería generar una gobernanza global, basada en la protección de la especie humana, y aunque suene iluso, no olvidemos que ya lo hemos hecho con otro gran riesgo existencial como el nuclear, que hemos «regulado» por el bien de todos. Hay que reconocer que, éticamente, no podemos compartir los mismos valores a nivel mundial, sin embargo, estamos en la obligación moral de definir unos mínimos de responsabilidad común, tales como la protección de la vida y dignidad humana.
Cuando una empresa te llama, ¿qué suele querer en realidad: un marco ético o un documento que la proteja? ¿Cómo distingues una cosa de la otra en la primera reunión?
¡Ojalá fuera tan sencillo!
El factor común de las empresas que me llaman es el AI Act, porque muchas aún no saben cuál es el camino hacia la implantación de una IA responsable; primero porque este camino puede estar lleno de grandes consecuencias legales y financieras, y segundo porque muchos aún siguen entendiendo la ética como un freno a la innovación.
Así que mi trabajo, mucho antes de realizar un marco ético ad hoc, comienza por entender qué camino tienen ya recorrido, qué estrategia (si la hay) han definido, qué sistemas tienen o quieren implantar, quién (es) está(n) tomando las decisiones, y detectar las zonas grises éticas. Y allí empieza mi labor evangelizadora: tengo que mostrarles por qué la ética hoy no va de una lista de valores, sino de un cambio de paradigma, basado en modelos de justicia algorítmica, minimización del riesgo, pero sobre todo, la preparación de los empleados para una toma de decisiones consciente, ya que es allí donde realmente se aplica la ética. Al final mi trabajo es buscar el equilibrio entre la innovación y la ética.
Trabajas la filosofía aplicada a empresas en plena digitalización. ¿Qué pregunta filosófica se han saltado casi todas antes de desplegar su primera herramienta de IA?
Creo que cualquier empresa o negocio debe hacerse esta pregunta, antes de integrar un sistema de IA:
¿Conozco claramente las consecuencias y estoy preparado a asumirlas?
Vamos a ser sinceros, la mayoría de las empresas que quieren integrar IA lo hacen para ser más eficientes y mejorar su rentabilidad, y esto, es absolutamente legítimo; no obstante, el problema aparece cuando esas mismas empresas no reflexionan previamente sobre cómo la tecnología los va a transformar. Al desplegar sistemas de IA, estos harán que todo el know how de un jefe, un equipo o una empresa, resulten irrelevantes de la noche a la mañana; pero esto no se detiene allí, sino que componentes como el modelo de negocio, los procesos, las estructuras o los puestos de trabajo, etc., desaparezcan o deban ser reemplazados, por resultar obsoletos ante el nuevo modelo.
Ningún humano está dispuesto a entender, que después de dar 10 años de esfuerzo y entrega a una empresa -por ejemplo- para hacerla crecer, será sustituido por una máquina que hará más eficiente y rápido su trabajo.
Nadie está preparado ni mental, ni emocionalmente para ello. Por ello, ante estas situaciones, siempre recomiendo algo poco tecnológico, pero muy virtuoso: prudencia. Pensar antes de integrar la IA es anticipar estas consecuencias, y, reconocer, que toda productividad, no es equivalente a progreso humano.
Escribiste sobre el porno no consentido generado con IA cuando aún no había ley. ¿Qué otro daño está ocurriendo hoy sin que exista todavía una norma que lo nombre?
Aunque la polarización y el «hate» han existido desde siempre -con otras apelaciones-, la cancelación cultural es un fenómeno reciente, que es resultado de una marcada ideología cultural; como lo negativo genera engagement, la violencia verbal disfrazada de «debate», ha terminado por instalarse en el mundo digital, pero no de manera gratuita, porque los algoritmos, en su modelo de eficiencia utilitarista, no solo premian esta clase argumentos, sino que los han empaquetado dentro de una falsa creencia de participación democrática, que los usuarios de redes sociales asumen como derecho propio.
Si estos «falaces» debates se dieran entre personas, de manera espontánea, como fruto del libre albedrío, estas situaciones de violencia digital no dejarían de ser más que discursos que generan ruido, con algo de maldad humana, pero esto no es el caso. De manera imperceptible, son los mismos algoritmos los que deciden qué debemos ver, las marcas que debemos comprar, y hasta las personas con las que nos debemos encontrar, generando aislamiento humano de un lado, y adulación tecnológica del otro lado, que termina por incidir en la toma de decisiones.
Es tan perverso el sistema, que los usuarios, al hacer cancelación o críticas despiadadas de otras personas en redes (muchas de ellas desde el anonimato) se sienten con un sofisma de libertad. El problema es que sin darse cuenta, terminan cayendo en lo que Hannah Arendt llamó «La banalidad del mal», que consiste en hacer mal sin pensar, sin reflexionar (cualidad por la cual nos llamamos Sapiens), simplemente por seguir órdenes, que en este caso, son binarias.
El pensamiento crítico se ha convertido en una etiqueta de moda en formación corporativa. ¿Cómo se enseña de verdad a alguien que trabaja a diario con un sistema que le da respuestas seguras y bien redactadas?
Este es el tema que más me piden en mis conferencias, y creo, que es porque muchos ya han entendido que aunque los chatbots escriben de forma coherente y buena reacción, carecen de sentido y contexto; y es allí donde aparece el verdadero valor agregado humano: en nuestra propia singularidad.
Lo que siempre digo a todos es que el pensamiento crítico no se aprende como si fuera un sprint: o sea, hacer un curso, memorizar las definiciones y componentes, obtener el diploma, sentirse cool y creer que se tiene.
El Pensamiento Crítico es una carrera de fondo, que se trabaja todos los días, es molesto (si no, no sería crítico), e implica cosas que hoy no están de moda: tiempo, esfuerzo mental, contrastación, verificación, análisis, lectura, preferiblemente no en digital y de textos clásicos. Pero sobre todo implica auto conocimiento. El primer objeto de estudio del pensamiento crítico es uno mismo. Si somos incapaces de reconocer nuestros sesgos, patrones mentales, debilidades y aciertos, no seremos imparciales a la hora de hacer un juicio sobre algo o alguien.
Una persona con pensamiento crítico es alguien que es capaz de despojarse de sus propios limitantes, para ser capaz de analizarlos, y generar otras formas de ver y comprender el mundo. También, es alguien que entiende que en este mundo tenemos un «tercero» que habla con nosotros y que por no ser humano, nos obliga a hacernos preguntas como: ¿Qué le falta? ¿Todo lo que dice es cierto? ¿Hay evidencia que lo demuestre? o ¿cuánto estoy delegando mi pensamiento en una máquina? Etc.
Muchas personas no técnicas oyen sobre IA solo dos relatos: la catástrofe o el milagro. Si tuvieras que darle a esa persona una sola pregunta que hacerse ante cualquier herramienta nueva, ¿cuál sería?
¿Qué es lo que no sé de la IA?
Hasta que el hombre descubrió que el rayo era un simple fenómeno natural y no el resultado de la ira de Zeus, temió a los dioses, viviendo en una ignorancia compartida, que le impedía entender al mundo como un lugar «relativamente» predecible. Hoy nos encontramos ante una disyuntiva histórica similar, con una diferencia importante: tenemos a mano (en nuestro teléfono hay más información que en una biblioteca) todo el conocimiento necesario para entender el momento vital en el que vivimos, y tomar, si aún es posible, las últimas decisiones sobre nuestra propia humanidad.
No podemos seguir viviendo en una sociedad que gira en torno a la ciencia y la tecnología y, al mismo tiempo, seguir siendo ignorantes sobre éstas. Es esta ignorancia, la que ha permitido que muchas empresas tecnológicas acumulen cada vez más poder sobre los humanos, atentando incluso contra nuestra democracia.
Liliana Acosta Arias es filósofa e investigadora en AI Ethics y fundadora de Thinker Soul. Responde por escrito a LaPrensaIA y sus respuestas se publican íntegras y en su orden original. Foto cortesía de la entrevistada.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
