Robert O’Callahan trabajaba en Google DeepMind en Nueva Zelanda diseñando herramientas para chips que abarataron y aceleraron la inteligencia artificial. Ahora dice que ese trabajo ya no puede justificarlo y ha dimitido.
El investigador que construyó la IA más rápida y decidió parar
O’Callahan publicó su decisión el 25 de septiembre de 2026. Su argumento central es directo: «apuntar a la ASI en el futuro próximo es intrínsecamente irresponsable». ASI son las siglas en inglés de inteligencia artificial superinteligente, un sistema que superaría la capacidad cognitiva humana en todos los ámbitos.
La paradoja de su trayectoria es relevante: su propio trabajo en herramientas de diseño de chips contribuyó a hacer la IA más barata y más rápida. Es decir, aceleró exactamente aquello que ahora considera peligroso. Esa contradicción es la que, según él mismo explica, lo llevó a salir.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
No es el primer investigador de DeepMind en marcharse por razones similares, aunque O’Callahan reconoce que muchos de sus colegas comparten sus preocupaciones en privado y raramente las expresan en público.
Siete riesgos concretos, no uno genérico
O’Callahan no habla de un peligro vago. Enumera siete vectores de daño específicos: rendición cognitiva, psicosis y soledad inducidas por la IA, concentración de poder, disrupción económica, riesgos de ciberseguridad, falta de responsabilidad y lo que llama una «tasa de cambio demasiado elevada».
El concepto de rendición cognitiva merece atención. Se refiere al proceso por el que las personas delegan en sistemas de IA decisiones o razonamientos que antes ejercían por sí mismas, con la consiguiente pérdida de esa capacidad. Si usas la IA para redactar, analizar o decidir de forma sistemática, el músculo que antes hacía ese trabajo se atrofia.
Su balance final, expresado en sus propios términos: apostaría a que los daños de la IA superan a sus beneficios.
Yudkowsky, Soares y la distancia calculada de O’Callahan
En su declaración, O’Callahan enlaza el ensayo «If Anyone Builds It», firmado por Eliezer Yudkowsky y Nate Soares, dos figuras asociadas al movimiento del altruismo eficaz. El texto sostiene que construir una IA superinteligente conduce inevitablemente a la catástrofe.
O’Callahan enlaza el documento pero no respalda esa tesis de inevitabilidad. La distinción importa: su posición es que el riesgo es «real pero incierto», no que el desastre sea seguro. Es una diferencia de grado que lo separa del determinismo de Yudkowsky y Soares.
El altruismo eficaz, movimiento al que pertenecen ambos autores, ha recibido críticas por priorizar la filantropía sobre la redistribución estructural. Un memorando de la Casa Blanca citado por Axios lo describe como un grupo marginal de tipo sectario y señala al CEO de Anthropic, Dario Amodei, como la cara pública del «doomismo» en IA, término con el que se etiqueta a quienes predicen consecuencias catastróficas de la tecnología.
La cultura interna de DeepMind según O’Callahan
Una de las afirmaciones más concretas de O’Callahan no habla de riesgos externos, sino de lo que ocurre dentro de la organización: muchos de sus colegas en DeepMind comparten sus preocupaciones pero raramente hablan en público.
Si eso es exacto, el problema no es solo técnico ni regulatorio. Es también un problema de incentivos internos: investigadores que ven riesgos y no los verbalizan porque las condiciones laborales o culturales no lo facilitan. O’Callahan no desarrolla ese punto, pero su mención no es accidental.
Él mismo anuncia que a partir de ahora quiere dedicarse a trabajo «inequívocamente prohumano», sin precisar en qué consiste.
Qué implica para ti la salida de O’Callahan de DeepMind
Esta dimisión no cambia los planes de Google DeepMind ni detiene ningún proyecto. Pero sí abre tres preguntas prácticas para cualquiera que use o evalúe herramientas de IA hoy.
Primero: si un ingeniero que aceleró el desarrollo de la IA considera que esa aceleración fue un error, vale la pena preguntarse qué aplicaciones de IA estás adoptando por inercia y cuáles por necesidad real. La velocidad de adopción no es un argumento de calidad.
Segundo: el concepto de rendición cognitiva que describe O’Callahan es medible en tu propio uso. ¿Hay tareas que antes resolvías solo y ahora no intentas sin asistencia de IA? Esa dependencia no es buena ni mala por definición, pero conviene identificarla.
Tercero: el hecho de que investigadores con acceso directo a los sistemas más avanzados expresen dudas en privado, según O’Callahan, y solo algunos lo hagan en público, es información relevante para calibrar cuánto peso dar a las declaraciones oficiales de las grandes empresas del sector sobre seguridad y alineación.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
- Google DeepMind: agentes IA se delatan entre sí al hacer trampa
- Google DeepMind: evaluación doble ciego para benchmarks de IA
- Demis Hassabis deja de dirigir Google DeepMind: «Siento que la AGI está al alcance de la mano»
Fuente original: the-decoder.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
