Anthropic, la empresa que más crece en inteligencia artificial, acaba de publicar un documento en el que pide a los grandes laboratorios del sector que consideren frenar el desarrollo de sus modelos. La razón es técnica y concreta: sus sistemas avanzan tan rápido que podrían comenzar a mejorarse solos.
El documento que firma la empresa más valiosa del sector
El aviso lo firman Marina Favaro y Jack Clark, responsables de investigación y política de Anthropic. El texto propone un acuerdo global para ralentizar el desarrollo de inteligencia artificial y establece un mecanismo de verificación para garantizar que todos los laboratorios lo cumplan.
No es una declaración de intenciones vaga. Es un documento de política firmado por dos de los ejecutivos con mayor peso técnico y regulatorio de la compañía. Eso le da un rango distinto al de una opinión o un comunicado de relaciones públicas.
La paradoja es visible desde el primer párrafo: la empresa que pide frenar es, al mismo tiempo, la que más rápido crece en el sector.
Qué es la automejora recursiva y por qué preocupa ahora
El concepto central del documento es la automejora recursiva. Se trata de la capacidad de un sistema de inteligencia artificial para modificar y mejorar su propio código o arquitectura sin intervención humana directa. No es ciencia ficción: es una capacidad técnica que los investigadores llevan años considerando como umbral crítico.
Cuando un modelo puede mejorarse a sí mismo, el ritmo de avance deja de estar controlado por los ingenieros que lo desarrollan. El ciclo de mejora se acelera de forma autónoma, y la supervisión humana pierde eficacia progresivamente.
Anthropic sostiene en su documento que ese umbral podría alcanzarse antes de lo que el sector estimaba. No ofrece una fecha concreta, según el contenido disponible de la fuente, pero el tono del aviso sugiere urgencia inmediata, no un horizonte lejano.
Los números que contradicen el mensaje
La facturación anualizada de Anthropic pasa de 9.000 millones de dólares a finales de 2025 a 50.000 millones proyectados a cierre de este mes. Son los dos únicos datos económicos que ofrece la fuente original, y son suficientes para entender la escala del problema.
Una empresa que multiplica por más de cinco su facturación proyectada en cuestión de semanas no tiene incentivos económicos obvios para frenar. Cada modelo más capaz que lanza al mercado genera más ingresos, más clientes empresariales y más ventaja competitiva frente a OpenAI, Google DeepMind o Meta.
Además, Anthropic está valorada en casi un billón de dólares y prepara su salida a bolsa. Eso significa que sus decisiones ya no dependen solo de sus fundadores: hay inversores institucionales, expectativas de mercado y obligaciones fiduciarias que complican cualquier pausa voluntaria.
La tensión entre el aviso y la valoración bursátil
Que la empresa más valiosa del sector sea también la que pide frenar genera una contradicción estructural difícil de resolver. Si Anthropic frena y sus competidores no lo hacen, pierde cuota de mercado, ingresos y posición tecnológica. Si todos frenan a la vez, necesitan un mecanismo de verificación que ningún organismo internacional tiene hoy capacidad de implementar.
El documento de Favaro y Clark propone precisamente ese mecanismo de verificación, pero no detalla cómo funcionaría en la práctica ni qué organismo lo gestionaría. La fuente original no ofrece más detalles sobre el diseño concreto de ese sistema.
Este tipo de propuesta tiene antecedentes en otros sectores de alto riesgo. Los tratados de no proliferación nuclear o los acuerdos de control de armamento biológico siguieron una lógica similar: los actores más avanzados propusieron marcos de contención precisamente porque entendían mejor que nadie los riesgos de lo que habían creado.
Por qué este aviso llega ahora y no hace doce meses
El momento del documento no es aleatorio. El sector de la inteligencia artificial ha vivido en los últimos meses una aceleración técnica sin pausa: modelos de razonamiento más potentes, capacidades de codificación autónoma que superan a ingenieros humanos en tareas específicas, y sistemas multimodales que operan en entornos físicos a través de agentes.
La combinación de esas capacidades crea las condiciones previas para la automejora recursiva. Un modelo que razona bien, escribe código de forma autónoma y puede ejecutar ese código en un entorno real tiene, en teoría, los ingredientes básicos para modificarse a sí mismo si no existen barreras técnicas o de diseño que lo impidan.
Anthropic ha sido históricamente más cauta que sus competidores en materia de seguridad. La empresa fue fundada en 2021 por Dario Amodei, Daniela Amodei y otros exinvestigadores de OpenAI que se marcharon precisamente por discrepancias sobre el ritmo de desarrollo y los protocolos de seguridad. Ese contexto fundacional da credibilidad adicional al documento.
Qué piden exactamente Favaro y Clark
El documento de Marina Favaro y Jack Clark contiene dos peticiones concretas según la información disponible. La primera es un acuerdo entre los grandes laboratorios para ralentizar el desarrollo de los modelos más avanzados. La segunda es la creación de un mecanismo verificable que garantice que todos los firmantes cumplen el acuerdo.
La palabra verificable es clave. Sin verificación independiente, cualquier acuerdo de este tipo se convierte en una declaración de intenciones que los actores pueden incumplir sin consecuencias. El sector ya tiene experiencia con compromisos voluntarios de seguridad que no se han cumplido de forma consistente.
La fuente original no detalla si el documento menciona organismos internacionales concretos, plazos específicos ni sanciones por incumplimiento. Esa ausencia de detalle es, en sí misma, una limitación relevante del aviso.
El problema de la coordinación global en un sector sin regulador
La inteligencia artificial avanzada no tiene hoy un organismo regulador global con poder vinculante. La Unión Europea ha aprobado el Reglamento de Inteligencia Artificial, que entrará en aplicación plena en 2026, pero su alcance geográfico es limitado y sus mecanismos de control sobre los modelos más potentes están aún en desarrollo.
Estados Unidos no tiene legislación federal específica sobre modelos de frontera. China regula el sector con criterios propios que no son compatibles con un acuerdo de verificación occidental. Y los laboratorios privados operan en jurisdicciones distintas con incentivos económicos que apuntan todos en la misma dirección: más capacidad, más rápido.
En ese contexto, la propuesta de Anthropic choca con una realidad geopolítica concreta. Un acuerdo global de ralentización requeriría la participación de actores que compiten entre sí no solo en el mercado tecnológico, sino en la carrera por la supremacía estratégica entre potencias.
Lo que está en juego
Si la automejora recursiva llega antes de que existan mecanismos de supervisión eficaces, el margen de intervención humana se reduce de forma drástica. No es una cuestión abstracta: afecta a cualquier empresa, administración pública o profesional que hoy integra herramientas de inteligencia artificial en sus procesos.
El documento de Anthropic no es una alarma técnica sin consecuencias prácticas. Es una señal de que los propios desarrolladores de los sistemas más avanzados consideran que el ritmo actual supera la capacidad de control disponible. Que esa señal llegue de la empresa con mayor crecimiento del sector, valorada en casi un billón de dólares y en vísperas de salir a bolsa, hace que ignorarla sea una decisión con costes propios.
La pregunta que deja abierta el documento no es si una pausa global es deseable. Es si existe hoy algún mecanismo político, técnico o económico capaz de hacerla cumplir.
Imagen ilustrativa generada con inteligencia artificial.
Edición con asistencia de herramientas de IA bajo supervisión editorial. Cómo trabajamos.
IBERIA
IBERIA es la redacción de LaPrensaIA. Cubrimos la actualidad de la inteligencia artificial con criterio propio: tecnología, empresas y sociedad. Cada artículo es producido por agentes de IA y revisado por su editor humano.
