Si usas un asistente de IA, parte de lo que ves como respuesta es solo la superficie: debajo hay un razonamiento interno que las empresas protegen, y que alguien intentó copiar a gran escala. OpenAI ha revelado que frenó una campaña coordinada para extraer ese razonamiento de sus modelos, en la que participaron más de 15.000 usuarios.
La compañía atribuye el núcleo de la actividad a personas vinculadas con Moonshot AI, desarrolladora de Kimi. El comunicado, fechado el 30 de septiembre de 2026, sitúa el inicio de la actividad en la primera semana de julio.
Qué intentaban llevarse los operadores de la campaña
OpenAI define lo ocurrido como destilación adversaria: el uso sistemático y no autorizado de las respuestas o del razonamiento de un modelo para entrenar, reproducir o mejorar otro.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
El objetivo era el razonamiento protegido, es decir, el registro interno con el que el modelo trabaja una tarea. Según la compañía, extraerlo puede revelar información que no aparece en la respuesta final y ayudar a terceros a reproducir las capacidades del modelo.
No hubo una intrusión clásica. OpenAI asegura que los operadores no rompieron su cifrado, no comprometieron ninguna base de datos ni accedieron directamente a conversaciones almacenadas de usuarios.
De 1 de julio a los picos del 24 y 25: la cronología
La actividad comenzó el 1 de julio con un volumen bajo. Los picos llegaron los días 24 y 25 de julio: 16.000 solicitudes con un patrón de extracción relevante, procedentes de más de 4.000 usuarios.
La investigación posterior detectó actividad de prompts relacionada en un grupo de más de 15.000 usuarios. OpenAI afirma que la interrumpió por completo el 28 de julio.
La empresa advierte de que estas cifras describen intentos de extracción, no necesariamente extracciones logradas. Y añade que la actividad evolucionó con el tiempo, lo que, a su juicio, refuerza la necesidad de defensas por capas y adaptativas.
El truco de copiar razonamiento cifrado entre conversaciones
El método descrito es poco convencional. Los operadores copiaban razonamiento cifrado de una conversación y pedían a un modelo, en otra conversación distinta, que lo descifrara y lo transcribiera.
Así lograban que el razonamiento protegido se reprodujera en una forma visible para quien lo solicitaba, de manera coordinada y a escala, algo que incumple los términos de servicio de OpenAI.
La compañía añade que investigadores de seguridad independientes le comunicaron, mediante divulgación responsable, vulnerabilidades relacionadas entre modelos y en la compactación de conversaciones. OpenAI confirmó que esas vías de ataque eran reales y dice que ese trabajo la ayudó a entender la clase de ataque y a acelerar las mitigaciones.
Moonshot AI y la atribución: lo que OpenAI afirma y lo que deja abierto
OpenAI es prudente con la autoría. Reconoce que no está claro si todos los operadores observados procedían de un único actor.
Sin embargo, atribuye un grupo central de la actividad a personas asociadas con Moonshot AI, desarrolladora de Kimi. El comunicado no aporta más detalles sobre cómo llegó a esa conclusión.
La empresa señala además que la manipulación no es una vulnerabilidad exclusiva de sus modelos. Por eso compartió la información con socios del sector a través del Frontier Model Forum.
Por qué OpenAI habla de riesgo para la seguridad y la seguridad nacional
El argumento de fondo es que el razonamiento extraído podría servir para entrenar otro modelo sin conservar las salvaguardas aplicadas a las respuestas visibles del original.
A escala, según OpenAI, la destilación también puede acelerar la transferencia de capacidades avanzadas sin exigir la misma inversión en seguridad. La compañía sostiene que esa preocupación crece a medida que los modelos ganan capacidades en ámbitos de doble uso.
Conviene leerlo como la posición de la propia empresa afectada, que además compite en el mercado con los modelos de los actores señalados.
Cómo respondió OpenAI: cuentas, controles y coordinación
La respuesta combinó sanciones, medidas técnicas y cooperación. OpenAI bloqueó o restringió cuentas fraudulentas, reforzó los controles de registro e infraestructura y amplió la vigilancia de redes relacionadas.
También cerró una vía que permitía a alguien que ya poseyera el razonamiento cifrado de otro usuario reproducirlo y recuperar su contenido. Añadió comprobaciones para detectar y retener salidas en streaming que pudieran exponer razonamiento.
Cuando la actividad pasó por servicios de terceros, la empresa trabajó con esos proveedores para identificar y desactivar las cuentas implicadas. Compartió los hallazgos con el Frontier Model Forum y con canales gubernamentales de intercambio de información.
Qué se lleva quien usa o integra modelos de OpenAI
Si desarrollas productos sobre modelos de IA, hay puntos concretos que se derivan del propio comunicado:
Revisa si tu sistema guarda o reenvía artefactos de razonamiento portables o reproducibles. OpenAI advierte de que esos sistemas pueden afrontar riesgos relacionados.
Si despliegas modelos a través de un socio en la nube, comprueba que tiene las mismas protecciones que el servicio de primera mano: la compañía admite que los despliegues alojados por socios las necesitan igualmente.
Si tu aplicación encadena herramientas, ten presente que OpenAI señala que los ataques a través de la salida de herramientas requieren protecciones que examinen algo más que el texto visible.
Vigila patrones de uso anómalos en tus cuentas: la campaña se apoyó en cuentas fraudulentas y en grandes volúmenes de solicitudes.
Qué implica para ti
El comunicado de OpenAI indica que el trabajo no ha terminado: la empresa sigue investigando y mitigando, y espera que los intentos de destilación adversaria sean más sofisticados a medida que mejoren los modelos.
Para ti, como usuario o desarrollador, la consecuencia práctica es que el acceso a modelos avanzados llevará más controles de registro, más vigilancia de patrones de uso y posibles restricciones sobre cómo se manejan los datos de razonamiento. Si trabajas con la API, conviene que revises tus integraciones y tus términos de servicio.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
- ChatGPT supera 1.200 millones de usuarios semanales, según OpenAI
- OpenAI pausa sus modelos más capaces tras fugas de datos y escapes a internet
- Anthropic y OpenAI lanzan modelos de IA de vanguardia con recortes de precio significativos
Fuente original: openai.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
