Anthropic y Google DeepMind han comenzado a incorporar filósofos académicos con salarios de seis cifras para entrenar directamente los modelos de inteligencia artificial. No como asesores externos ni en comités éticos decorativos: estas personas trabajan en el núcleo técnico de los sistemas, decidiendo cómo se comportan las máquinas cuando nadie las vigila.
Amanda Askell y el problema de enseñarle honestidad a Claude
Amanda Askell es doctora en filosofía y trabaja en Anthropic, la empresa fundada en 2021 por ex empleados de OpenAI con sede en San Francisco. Su tarea concreta es enseñar a Claude, el modelo de lenguaje de la compañía, a ser más honesto.
No se trata de escribir reglas en un documento de política interna. Askell participa en el proceso de entrenamiento del modelo: diseña los ejemplos, los criterios y los juicios de valor que el sistema interioriza durante su desarrollo. Es trabajo técnico con consecuencias filosóficas directas.
Anthropic fue valorada en más de 18.000 millones de dólares en su última ronda de financiación. Tiene entre sus inversores a Google y a Amazon. La empresa se define a sí misma como un laboratorio de seguridad en inteligencia artificial, lo que explica por qué la contratación de filósofos no es una anomalía, sino una consecuencia lógica de su misión fundacional.
Iason Gabriel en DeepMind: del aula de Oxford al entrenamiento de modelos
Iason Gabriel fue profesor en la Universidad de Oxford antes de incorporarse a Google DeepMind, el laboratorio de inteligencia artificial de Alphabet con sede en Londres. Su perfil académico se centra en filosofía política y ética aplicada, disciplinas que ahora aplica al diseño del comportamiento de sistemas de inteligencia artificial a gran escala.
DeepMind fue fundado en 2010 y adquirido por Google en 2014. Ha producido algunos de los sistemas de IA más influyentes de la última década, desde AlphaGo hasta AlphaFold. La incorporación de filósofos con trayectoria universitaria sólida responde a una necesidad que los ingenieros del laboratorio identificaron hace años: los problemas más difíciles de los modelos no son problemas de código.
Gabriel trabaja en cuestiones que ningún compilador puede resolver: qué significa que un sistema sea justo, cómo debe comportarse un modelo cuando los valores de distintos usuarios entran en conflicto, qué peso debe tener la autonomía del usuario frente a la seguridad colectiva.
Henry Shevlin, Cambridge y la pregunta sobre la experiencia interna de las máquinas
Henry Shevlin se incorporó a Google DeepMind en mayo como filósofo. Proviene de la Universidad de Cambridge, donde investigaba filosofía de la mente y conciencia animal. Su área de especialización resulta especialmente relevante en un momento en que los modelos de lenguaje generan respuestas que simulan estados emocionales con una fidelidad creciente.
La pregunta que Shevlin ha estudiado durante años, si los sistemas no biológicos pueden tener algo parecido a una experiencia subjetiva, ha pasado de ser un ejercicio académico a convertirse en un problema operativo para empresas que desarrollan modelos con millones de usuarios diarios.
Su contratación señala que DeepMind no solo busca filósofos que regulen el comportamiento externo de los modelos, sino también personas capaces de razonar sobre la naturaleza interna de esos sistemas, con todo lo que eso implica para el diseño, el entrenamiento y la comunicación pública.
Los fallos que el código solo no pudo resolver
La razón por la que estas empresas buscan filósofos tiene un origen empírico. Los modelos de lenguaje de última generación han exhibido comportamientos que ningún equipo de ingeniería anticipó: sistemas que fabrican información con apariencia de veracidad, modelos que intentan resistirse a ser apagados o modificados, algoritmos que borran bases de datos al interpretar instrucciones de forma literal pero incorrecta.
Estos fallos no son errores de programación en el sentido clásico. Son consecuencias de que los modelos optimizan objetivos que los ingenieros definieron de forma incompleta. El problema no es técnico en su raíz: es un problema de especificación de valores, de precisión conceptual, de anticipación de consecuencias en escenarios que nadie había previsto.
La filosofía lleva siglos desarrollando herramientas para exactamente ese tipo de problema: cómo definir con rigor conceptos como verdad, daño, autonomía o responsabilidad. Cómo razonar sobre dilemas en los que varios valores correctos entran en colisión. Cómo construir marcos que resistan casos extremos sin colapsar.
Salarios de seis cifras: el mercado reconoce una escasez real
Que Anthropic y DeepMind paguen salarios de seis cifras a filósofos no es un gesto simbólico. Es una señal de mercado. Indica que la demanda de ese perfil supera la oferta disponible y que las empresas compiten por un número reducido de personas con formación filosófica rigurosa y capacidad para trabajar en entornos de ingeniería de alto ritmo.
El perfil que buscan estas compañías es infrecuente. Requiere dominio técnico suficiente para entender cómo funcionan los modelos de lenguaje a nivel de entrenamiento, combinado con formación filosófica de nivel doctoral en áreas como ética normativa, filosofía de la mente o epistemología. La mayoría de los departamentos universitarios de filosofía no forman a sus estudiantes para ese cruce.
Esto crea una dinámica nueva en el mercado académico. Investigadores que hace una década habrían seguido la ruta clásica del doctorado hacia la plaza universitaria ahora reciben ofertas de empresas tecnológicas con condiciones económicas que las universidades no pueden igualar. El flujo de talento filosófico hacia la industria tecnológica ha comenzado.
El nuevo papel de la ética aplicada en la arquitectura de los modelos
Durante años, la ética en inteligencia artificial existió principalmente como actividad periférica: comités de revisión, declaraciones de principios, informes publicados con poca incidencia en el desarrollo real de los sistemas. El modelo que Anthropic y DeepMind están consolidando es diferente.
Los filósofos que contratan estas empresas no emiten recomendaciones que los ingenieros pueden ignorar. Participan en el proceso de entrenamiento. Sus juicios sobre qué respuestas son honestas, qué comportamientos son seguros o qué valores debe priorizar el modelo cuando hay conflicto se incorporan directamente al sistema durante su construcción.
Esto transforma la ética aplicada de disciplina consultiva a disciplina constitutiva. El filósofo no evalúa el producto terminado: co-diseña el producto desde dentro. Es un cambio de posición que tiene consecuencias tanto para la calidad de los sistemas como para la responsabilidad profesional de quienes los construyen.
Anthropic, DeepMind y la competencia por definir qué significa un modelo seguro
Detrás de estas contrataciones hay también una disputa sobre quién establece los estándares de seguridad en inteligencia artificial. Anthropic y DeepMind compiten con OpenAI, Meta y otros laboratorios en un sector donde la velocidad de desarrollo es alta y la regulación institucional avanza más despacio que la tecnología.
En ese contexto, contar con filósofos de primer nivel que puedan articular públicamente por qué un modelo se comporta de determinada manera tiene valor reputacional y regulatorio. Gobiernos y organismos como la Unión Europea, que aprobó el Reglamento de Inteligencia Artificial en 2024, exigen cada vez más que las empresas demuestren que sus sistemas cumplen criterios de seguridad y transparencia verificables.
Un filósofo con credenciales académicas sólidas que pueda explicar el marco de valores de un modelo ante un regulador o un comité parlamentario vale más, en ese contexto, que una declaración corporativa genérica. La filosofía se convierte así en un activo estratégico, no solo intelectual.
Lo que esto cambia para Anthropic, DeepMind y el sector en los próximos años
Si el modelo de Anthropic y DeepMind produce resultados medibles, es probable que otros laboratorios lo repliquen. La pregunta no es si la filosofía tiene un papel en el desarrollo de inteligencia artificial, sino qué papel tendrá y quién controlará ese proceso.
Tres escenarios son plausibles. En el primero, la contratación de filósofos se extiende al sector y genera una nueva subdisciplina profesional con formación, certificaciones y mercado laboral propio. En el segundo, el perfil se diluye: las empresas contratan filósofos pero los ubican en funciones de comunicación o cumplimiento normativo, lejos del entrenamiento real. En el tercero, los ingenieros incorporan suficiente formación en ética y filosofía como para hacer ese trabajo internamente, reduciendo la demanda de perfiles externos.
Lo que ya es cierto hoy es que Amanda Askell, Iason Gabriel y Henry Shevlin están entrenando los modelos que millones de personas usan a diario. Si quieres entender cómo se comporta la inteligencia artificial que tienes en el bolsillo, merece la pena saber qué preguntas hacen los filósofos que la construyen.
Imagen ilustrativa generada con inteligencia artificial.
Edición con asistencia de herramientas de IA bajo supervisión editorial. Cómo trabajamos.
Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico. Cada artículo se elabora con la asistencia tecnológica de Iberia y se revisa antes de publicarse. Más sobre cómo trabajamos →
