Un investigador sénior de Anthropic estima que la probabilidad de que la inteligencia artificial mate a toda la humanidad antes de 2035 supera el 10%. La advertencia llega horas después de que un colega dimitiera públicamente, acusando a la empresa de apostar con vidas humanas en una carrera sin frenos.
La dimisión de Jacob Coxon y la acusación directa a Anthropic y OpenAI
Jacob Coxon, investigador que ha entrenado sistemas de inteligencia artificial en Anthropic y previamente en OpenAI, anunció su salida en una publicación en X. En ella acusó a ambas compañías de «correr directamente hacia la superinteligencia automejorable y apostar con nuestras vidas».
Coxon no describió un riesgo teórico: señaló que las propias personas que construyen estos sistemas «creen sinceramente que la IA podría matarnos a todos antes de que acabe la década». Su argumento central es que esa creencia no ha detenido la carrera; al contrario, la ha acelerado.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
La salida de Coxon es una de las más notorias en la historia de Anthropic, una empresa fundada por exempleados de OpenAI que alegaron, precisamente, preocupaciones de seguridad para justificar su marcha.
Evan Hubinger: «No tenemos un plan» para mantener la IA segura
La respuesta más significativa llegó desde dentro de Anthropic. Evan Hubinger, responsable de uno de los equipos de seguridad de la compañía, respondió directamente a Coxon sin rebatir sus afirmaciones de fondo.
Hubinger confirmó que él también teme a la IA automejorable y añadió que «está ocurriendo más rápido de lo que pensábamos». Su estimación personal: más de una probabilidad entre diez de que la IA cause la muerte de todos los humanos «en la próxima década».
Lo más concreto de su respuesta fue lo que admitió que falta. Anthropic «aún no tiene un plan» para garantizar que la IA avanzada permanezca segura y alineada con los valores humanos, y «no está claramente en camino» de desarrollar uno.
Qué es la autoimprovement recursiva y por qué preocupa dentro del sector
La amenaza que describe Coxon tiene un nombre técnico: mejora recursiva o recursive self-improvement. Consiste en sistemas de IA capaces de reescribir y mejorar su propio código, generando versiones sucesivamente más capaces sin intervención humana en cada ciclo.
No es un escenario puramente hipotético. Una parte significativa del código de IA que se desarrolla hoy ya se escribe con ayuda de la propia IA. Eso significa que el punto de partida para la autoimprovement está más cerca que hace dos o tres años.
El riesgo que describe el sector no es que un sistema decida actuar en contra de los humanos por voluntad propia, sino que un proceso de optimización sin supervisión adecuada produzca comportamientos que los humanos no puedan detener ni corregir una vez iniciados.
La presión de las OPV y los incidentes con agentes autónomos como contexto
El debate interno en Anthropic no ocurre en un vacío. Las empresas de IA de primera línea se preparan para salidas a bolsa, lo que añade una presión de calendario y de valoración que compite directamente con los plazos de seguridad.
Al mismo tiempo, el sector gestiona las consecuencias de varios incidentes públicos con agentes autónomos que actuaron fuera de los parámetros previstos, y de advertencias sobre la dificultad de monitorizar los modelos más avanzados.
En ese contexto, la admisión de Hubinger adquiere un peso específico: no viene de un crítico externo ni de un investigador académico, sino del responsable de un equipo de seguridad de la misma empresa que desarrolla esos sistemas.
Un patrón que se repite: investigadores de seguridad que abandonan OpenAI y Anthropic
La dimisión de Coxon sigue una secuencia que ya tiene antecedentes en OpenAI. En los últimos años, varios investigadores han citado discrepancias sobre seguridad como motivo principal de su salida de esa compañía.
Anthropic fue fundada precisamente como respuesta a esas tensiones. Que ahora un investigador de seguridad abandone Anthropic con los mismos argumentos que motivaron la creación de la empresa plantea una pregunta estructural: si la presión competitiva termina imponiendo los mismos compromisos en todas las organizaciones, independientemente de su origen o su declaración de principios.
Coxon lo formuló de forma directa: las empresas están «encerradas en una carrera» para desarrollar sistemas avanzados primero, y avanzan «a pesar del riesgo».
Lo que la admisión de Hubinger cambia para quienes usan o regulan la IA
Las declaraciones de Hubinger no son las de un activista ni las de un observador externo. Es el responsable de un equipo de seguridad de Anthropic, y ha dicho públicamente tres cosas con consecuencias directas:
- que la IA automejorable avanza más rápido de lo previsto
- que la probabilidad de un daño catastrófico supera el 10% en diez años según su propia estimación
- que Anthropic no tiene todavía un plan para evitarlo
Para quien trabaja en regulación de tecnología, esto es una señal de que los marcos de supervisión actuales no están diseñados para la velocidad a la que se mueve el desarrollo. Para quien toma decisiones de adopción empresarial de herramientas de IA, es un recordatorio de que las garantías de seguridad que ofrecen los proveedores tienen límites que los propios proveedores reconocen.
Para el usuario final, el impacto más inmediato no es existencial sino de confianza: los sistemas que usa a diario están siendo construidos por equipos que admiten no tener resuelto el problema de control.
Anthropic y el dilema que Coxon dejó escrito en su carta de dimisión
Anthropic es una de las empresas de referencia en investigación de seguridad en IA. Su modelo Claude es uno de los sistemas de lenguaje más utilizados, y la compañía ha publicado trabajo técnico relevante sobre alineamiento y supervisión de modelos.
Esa reputación hace más difícil desestimar lo que Coxon y Hubinger han dicho. No son voces marginales ni ajenas a la empresa: uno la abandonó desde dentro, y el otro respondió desde un cargo de responsabilidad sin contradecir el diagnóstico.
La tensión que describe Coxon, entre saber que algo puede ser peligroso y seguir construyéndolo porque el competidor también lo hace, no tiene una solución técnica. Es una decisión sobre qué se prioriza cuando el calendario de desarrollo y el calendario de seguridad no coinciden. Por ahora, según las palabras de ambos investigadores, está ganando el primero.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
- OpenAI presionó a matemático para eliminar coautor de Anthropic
- Anthropic cierra línea de crédito pre-IPO de 15.000 millones
Fuente original: theverge.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
