Hay una forma de responder poco frecuente en el debate sobre inteligencia artificial: decir lo que se sabe, decir lo que no cambia y parar ahí. Vincent C. Müller contesta así. Cuando le preguntamos si la evidencia ha cambiado tanto como se dice, responde que sí, y añade que lo que importa no se ha movido: «los argumentos filosóficos sobre por qué la AGI es difícil no han cambiado». Y cuando le preguntamos qué debería exigir un ciudadano sin formación técnica, lo resume en una línea: un asiento en la mesa y responsabilidad del producto.
Müller es A. v. Humboldt Professor de Filosofía y Ética de la IA y director del Centre for Philosophy and AI Research (PAIR) de la Universität Erlangen-Nürnberg (FAU). Es autor de la entrada sobre ética de la IA de la Stanford Encyclopedia y de una conocida encuesta a expertos, realizada con Nick Bostrom, sobre cuándo podría llegar una inteligencia artificial de alto nivel. Es, por tanto, quien mejor puede decir cuánto de lo que se repite hoy sobre plazos es evidencia y cuánto es expectativa, un asunto que otra entrevista de esta sección ya abordaba desde otro ángulo.
Responde por escrito, en inglés, con un tono seco y sin adornos, y solo a las preguntas que le parecieron dignas de respuesta. Sobre el reglamento europeo de IA recuerda algo que casi nadie dice en voz alta: el texto final se alejó de lo que recomendaron los filósofos, él incluido, y es normal, porque la política no consiste en encontrar la verdad. De la cuarta pregunta, sobre qué evidencia decidiría si un modelo de lenguaje comprende algo, anotó que una buena respuesta llevaría demasiado tiempo, y no la incluimos.
La entrevista
En la encuesta que hiciste con Nick Bostrom, la mediana de los expertos daba una probabilidad de una entre dos de alcanzar una inteligencia artificial de alto nivel hacia 2040-2050. Hoy es habitual oír hablar de dos o tres años. Dejando de lado quién tiene razón: ¿ha cambiado tanto la evidencia desde entonces, o sobre todo la retórica, y quién está hablando?
La evidencia ha cambiado porque el dinero gastado en potencia de cálculo («compute») y en datos creció mucho más de lo que pensábamos. Teníamos en mente el progreso tecnológico, pero no el gasto. Sin embargo, los argumentos filosóficos sobre por qué la AGI (inteligencia artificial general) es difícil no han cambiado, así que mi opinión personal es que tenemos más de lo mismo. Por supuesto, algunas personas tienen interés en decir otra cosa. Pero la evidencia sí ha cambiado de verdad: los sistemas son mucho mejores de lo que nadie esperaba.
Has sido cuidadoso con el peso que pueden soportar las previsiones de los expertos: los investigadores de IA no son necesariamente buenos pronosticadores de su propio campo. Entonces, ¿para qué sirve realmente una encuesta como la tuya y cómo debería leerla un periodista sin hacer un mal uso de ella?
Recoge lo que piensan los expertos. Eso dice algo, sobre todo a corto plazo. Pero un buen periodista miraría las limitaciones de cada previsión, y estas difieren mucho.
Tienes un libro en camino con Oxford titulado «Can Machines Think?». Turing hizo esa pregunta hace 75 años. ¿Sigue siendo la pregunta adecuada, o se ha convertido en la que nos impide ver lo que estos sistemas hacen en realidad?
Creo que la pregunta está bien. Por eso la uso. Y me gusta sacar de quicio a quienes piensan que ya está resuelta.
Escribiste la entrada sobre ética de la IA de la Stanford Encyclopedia. Desde entonces hemos vivido una inflación de principios, cartas y comités de ética. ¿Ha cambiado algo de eso la manera en que se construyó un solo sistema, o la mayor parte ha sido ethics washing?
Sin duda. Pero esos cambios son sutiles, sobre todo. También hay pruebas de riesgo y estándares técnicos que han cambiado mucho. Pero necesitamos responsabilidad del producto (product liability) para la IA.
La discusión entre el riesgo existencial y los daños actuales suele presentarse como una elección. ¿Es una falsa dicotomía o hay un coste de oportunidad real —en atención, en financiación, en energía regulatoria?
Hay un coste de oportunidad real, pero tenemos que hacer las dos cosas. Quienes dicen lo contrario son fanáticos o quieren evitar la regulación.
He escrito un artículo sobre esto: Müller, Vincent C. (2026), «Short-term or long-term AI ethics? A dilemma for ethical singularity only», en Sven Nyholm, Atoosa Kasirzadeh y John Zerilli (eds.), Contemporary debates in the ethics of Artificial Intelligence (Londres: Wiley), pp. 309-318.
Europa ha elegido regular la IA sobre todo por el riesgo del uso y no por la capacidad. Como filósofo y no como jurista: ¿qué error conceptual, si lo hay, lleva incorporado ese enfoque?
He dicho varias veces que no toda la ética de la IA trata del riesgo. Pero es un concepto útil para averiguar qué hay que regular. El AI Act real difirió bastante de lo que habíamos recomendado los filósofos (yo incluido), pero eso es normal: la política no consiste en encontrar la verdad.
Si no podemos explicar por qué un sistema decidió lo que decidió, ¿qué ocurre con la responsabilidad? ¿Puede alguien ser genuinamente responsable de un resultado que no puede comprender, o simplemente tenemos que asignarla de todos modos y vivir con la ficción?
No. Una condición típica de la responsabilidad es la «condición epistémica»: ser capaz de comprender algunas de las consecuencias (por ejemplo, un niño pequeño puede no tener esa capacidad en algunos casos). De lo que somos responsables es de usar un sistema del que no sabemos qué hará. Eso puede ser un gran error, por ejemplo, usar un sistema así para la seguridad de los vuelos.
Nuestros lectores hablan español, en su mayoría no son ingenieros, y a diario les dicen que todo esto es inevitable. ¿Qué debería exigir un ciudadano sin formación técnica, y de qué debería dejar de preocuparse?
Deberíamos exigir un asiento en la mesa y responsabilidad del producto para los agentes de IA (y para todo el software). Y cada uno de nosotros debería pensar cómo puede afectar la IA a lo que hacemos, profesional y personalmente, y qué impacto queremos que tenga.
Vincent C. Müller es A. v. Humboldt Professor de Filosofía y Ética de la IA y director del Centre for Philosophy and AI Research (PAIR) en la Universität Erlangen-Nürnberg (FAU). Más información, libros y publicaciones: PAIR · sophia.de. Responde por escrito a LaPrensaIA en inglés; la traducción al español es de la redacción, que se hace responsable de ella. Sus respuestas se publican íntegras y en su orden original. Foto: PAIR, FAU.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
