La inteligencia artificial del Mando de Operaciones Especiales de Estados Unidos generó un informe de inteligencia «completamente falso» que estuvo a punto de desencadenar un incidente militar con China. El ejército se preparaba para interceptar y abordar un buque chino con apoyo aéreo antes de que los responsables descubrieran el error.
El chatbot que casi provocó un incidente armado con China
Un analista del Mando de Operaciones Especiales de EE.UU. utilizó un chatbot para analizar informes de inteligencia sobre el manifiesto de carga de un barco chino que navegaba por Oriente Medio. El sistema fusionó inteligencia de fuentes abiertas con señales de inteligencia secreta clasificada en poder del gobierno.
El resultado fue un informe que afirmaba que el buque transportaba componentes para un programa de armas nucleares chino. El informe era, según cuatro fuentes familiarizadas con el episodio citadas por CNN, «completamente falso».
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
El ejército estadounidense ya había puesto en marcha los preparativos para interceptar el barco con apoyo aéreo cuando los responsables descubrieron que el chatbot había «identificado incorrectamente el material que transportaba el buque». Una de esas fuentes declaró a CNN que el episodio «casi desencadenó una guerra».
Cómo funciona el fallo: la alucinación que nadie detectó a tiempo
Las alucinaciones son el fenómeno por el que un modelo de lenguaje genera información plausible pero inventada cuando sus datos de entrenamiento no ofrecen contexto suficiente. El diccionario Cambridge eligió «alucinación» como palabra del año en 2023, precisamente por la extensión del fenómeno en entornos profesionales.
En este caso, el mecanismo fue específico: el chatbot combinó fuentes de distinta clasificación —información pública e inteligencia clasificada— y produjo una conclusión que ninguna de las dos fuentes sostenía por separado. El analista empaquetó esa síntesis en un informe oficial que ascendió por la cadena de mando.
El problema no es exclusivo del ámbito militar. Investigadores, jueces, médicos, periodistas y departamentos de policía han publicado o actuado sobre datos fabricados por sistemas de inteligencia artificial. Pero pocas de esas situaciones tenían como consecuencia posible un enfrentamiento armado entre dos potencias nucleares.
El Pentágono lleva meses acelerando el uso de IA en inteligencia
En enero de 2026, el Departamento de Defensa presentó una «estrategia de aceleración de la IA» cuyo objetivo era, en palabras del secretario de Defensa Pete Hegseth, asegurarse de que «la IA tenga disponibles todos los datos apropiados en todos los sistemas». Hegseth añadió: «La IA es tan buena como los datos que recibe, y nos aseguraremos de que estén ahí».
En diciembre de 2025, el Pentágono anunció que usaría Gemini para Gobierno, de Google, como base de su plataforma propia denominada GenAI.mil. El mes pasado incorporó Grok para Gobierno como segunda opción en esa misma plataforma.
En junio de 2026, un representante del Pentágono informó al Congreso de que utilizan inteligencia artificial generativa para elaborar informes exigidos por ley, y que 1,5 millones de efectivos activos del Departamento de Defensa han usado ya las herramientas de IA militar.
La declaración de 2023 que el episodio pone a prueba
En 2023, la Declaración del Departamento de Estado sobre el Uso Responsable de la Inteligencia Artificial y la Autonomía en el Ámbito Militar estableció que el uso «responsable» de estos sistemas debe incluir «una consideración cuidadosa de los riesgos y beneficios» y debe «minimizar los sesgos involuntarios y los accidentes».
Ese mismo documento exigía que el uso «responsable» de la IA implique siempre «un humano en el circuito, una cadena de mando y control humana responsable».
El episodio del buque chino plantea una pregunta directa sobre el cumplimiento de esa declaración: si había un humano en el circuito, ¿por qué el informe falso llegó a desencadenar preparativos de intercepción militar antes de ser detectado?
Anthropic, Grok y el ecosistema de IA que rodea al Pentágono
Anthropic, la empresa que desarrolla el modelo Claude, ofrece una versión personalizada de su sistema para operaciones de inteligencia estadounidenses. En marzo de 2026, el Departamento de Defensa incluyó a Anthropic en una lista negra por la oposición de la compañía al uso de sus modelos en sistemas de armas autónomas. Un juez federal declaró el mes pasado que esa medida constituía «una represalia ilegal en violación de la Primera Enmienda».
La plataforma GenAI.mil concentra, por tanto, varios de los principales modelos comerciales de lenguaje adaptados para uso gubernamental: Gemini de Google y Grok de xAI. La arquitectura del sistema —que fusiona inteligencia abierta con señales clasificadas— es precisamente la que, según el relato de CNN, generó el informe erróneo sobre el buque chino.
Qué deberían revisar quienes usan IA en análisis de inteligencia
El episodio deja cuatro puntos concretos que cualquier organización que use IA en análisis de documentos sensibles debería examinar a partir de lo ocurrido:
Primero, la fusión de fuentes de distinta clasificación en un único prompt multiplica el riesgo de alucinación, porque el modelo intenta reconciliar contextos que pueden ser contradictorios o incompletos. El proceso de validación debe ser proporcional a esa complejidad.
Segundo, los investigadores que estudian los modelos de lenguaje señalan que puede ser imposible eliminar las alucinaciones por completo en los LLM actuales. Los intentos de instrucción del tipo «no alucines» no han demostrado eficacia sistemática. Un informe generado con IA no es un informe verificado.
Tercero, la velocidad de adopción en el Pentágono —1,5 millones de usuarios activos, incorporación de nuevas plataformas en cuestión de meses— supera el ritmo al que se han desarrollado protocolos de verificación humana para los productos de esas herramientas.
Cuarto, la declaración de 2023 sobre uso responsable exige un humano en la cadena de mando. El episodio sugiere que esa exigencia no se tradujo en un procedimiento operativo que detuviera el informe antes de que llegara a quienes ordenaron los preparativos de intercepción.
El alcance real del casi incidente entre EE.UU. y China
El episodio no llegó a producir víctimas ni una confrontación abierta. Pero el hecho de que los preparativos militares estuvieran en marcha —con apoyo aéreo incluido— antes de que se detectara el error ilustra la distancia que puede recorrer un informe de inteligencia falso dentro de una cadena de mando antes de ser cuestionado.
La fuente citada por CNN que describió el episodio como algo que «casi desencadenó una guerra» no es una voz anónima de advertencia genérica: es alguien familiarizado con el episodio concreto, en un momento en que las relaciones entre Washington y Pekín atraviesan una de sus etapas de mayor tensión en décadas.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
- Jev: IA sin alucinaciones a precio récord
- OpenAI desalineación: 6 incidentes reales de agentes fuera de control
Fuente original: arstechnica.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Para usarlo tú: las alucinaciones no son solo un problema militar. Cómo evitarlas en tu propio trabajo, paso a paso: ChatGPT se equivoca mucho: cómo hacer que no se invente las cosas.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
