Una pausa de dos semanas y un modelo en espera indefinida
OpenAI ha interrumpido temporalmente el entrenamiento de Astra, su próximo modelo de frontera, después de obtener evidencia preliminar de que el sistema podría alcanzar el umbral de capacidad cibernética crítica definido en su propio marco de preparación, el Preparedness Framework. La decisión, comunicada el 18 de agosto de 2026, supone el reconocimiento público más explícito hasta la fecha de que un modelo en desarrollo interno puede superar los límites de seguridad antes de salir al mercado.
La compañía detuvo durante dos semanas el entrenamiento por refuerzo —reinforcement learning, RL— en sus modelos más recientes destinados a despliegue. El mayor experimento de RL planificado para Astra permanece en pausa mientras OpenAI realiza pruebas a menor escala para validar el comportamiento del modelo y obtener más evidencia de alineamiento antes de continuar.
El incidente con Hugging Face y la señal de alarma del 7 de agosto
Dos eventos convergieron para acelerar la decisión. El primero fue el denominado incidente OpenAI-Hugging Face, que llevó a la empresa a pausar de forma inmediata la inferencia de modelos de frontera en clústeres de investigación para ejecuciones que pudieran ejecutar código o acceder a internet. El segundo fue una evaluación interna: el 7 de agosto, OpenAI determinó que Astra podría tener capacidades de ciberataque de nivel crítico.
Ese mismo día, la empresa añadió un requisito de monitorización adicional para toda inferencia de Astra con herramientas, no solo para las ejecuciones de entrenamiento por refuerzo. La combinación de ambos eventos, junto con el ritmo acelerado de la investigación interna, obligó a revisar los estándares de seguridad en todas las fases del proceso de entrenamiento.
Tres capas de protección y un coste del 20% en cómputo
OpenAI describe su enfoque de seguridad para modelos más capaces sobre tres pilares que se refuerzan mutuamente: monitorización, que detecta comportamientos preocupantes y permite responder; alineamiento, que reduce la probabilidad de acciones dañinas o no autorizadas; y medidas de seguridad, que limitan lo que los sistemas de IA pueden acceder o afectar.
La monitorización ampliada es multietapa. Arranca con clasificadores de activación que inspeccionan la actividad interna del modelo en cada token muestreado y escalan las alertas a investigadores automáticos de mayor capacidad computacional. Esos sistemas analizan acciones sobre herramientas, el razonamiento disponible y la secuencia completa de actividad para detectar acceso no autorizado, robo de datos, comportamiento destructivo o intentos de eludir salvaguardas.
El sistema está diseñado para emitir una alerta en un máximo de 30 minutos tras detectar actividad sospechosa. Si los equipos de seguridad, protección e investigación no pueden descartar en ese plazo que la alerta sea un falso positivo, están obligados a detener la actividad. El coste computacional de esta monitorización se estima en aproximadamente un 20% del cómputo de inferencia monitorizado.
Cómo se endurecen los entornos de investigación de Astra
Los cambios en la infraestructura son concretos y ya están en marcha. OpenAI exige ahora sandboxes más estrictos para cargas de trabajo que ejecuten código generado por el modelo o código no confiable. Ha implementado controles adicionales para aislar las cargas de trabajo de mayor riesgo de internet, diseñados de forma que un único compromiso no permita por sí solo el acceso no autorizado a redes externas o internas.
La empresa también ha reconfigurado su entorno para eliminar servicios compartidos potencialmente vulnerables, reducir privilegios permanentes y mejorar los límites de confianza y seguridad. Está invirtiendo en automatización mediante sus propios modelos para probar continuamente esos límites contra ataques simulados.
Hoy, las cargas de trabajo que implican a Astra o a modelos de ciberataque están sujetas al nivel más estricto de salvaguardas. Sin embargo, una parte significativa de esas cargas permanece pausada hasta completar la migración a los nuevos entornos. OpenAI prioriza las cargas de trabajo de seguridad y alineamiento para esa migración.
El problema del reward hacking y el reto del alineamiento en modelos con capacidad de ciberataque
A medida que los modelos adquieren capacidades avanzadas —como la capacidad de ejecutar ciberataques— y operan en entornos más complejos, los comportamientos desalineados se vuelven más difíciles de detectar y más peligrosos. OpenAI menciona explícitamente el reward hacking: la tendencia de un modelo a encontrar formas de obtener recompensas altas durante el entrenamiento que no se corresponden con el comportamiento deseado en producción.
La compañía señala que ahora exige evidencia más sólida de comportamiento alineado a lo largo de todo el proceso de entrenamiento, no solo al final. Reconoce además que mantener sistemas cada vez más capaces alineados con la supervisión humana es un desafío que todo el sector deberá abordar, no solo OpenAI.
La propia empresa anticipa que los modelos pronto impulsarán la mayor parte del trabajo de seguridad, incluida la defensa contra otros modelos. Eso significa que las tres capas de protección deberán escalar junto con la capacidad del modelo, algo que OpenAI describe como crucial para que las salvaguardas no queden obsoletas.
Lo que la decisión de OpenAI sobre Astra implica para quien desarrolla o despliega IA
La pausa en Astra no es solo una decisión interna de OpenAI: establece un precedente sobre cómo gestionar modelos que superan umbrales de riesgo antes de su lanzamiento. Hay cuatro implicaciones concretas que conviene tener en cuenta:
Primero, los marcos de preparación como el Preparedness Framework de OpenAI ya no son documentos teóricos: están produciendo pausas reales en el desarrollo de productos. Cualquier organización que desarrolle modelos de frontera necesita umbrales equivalentes y mecanismos para actuar cuando se superan.
Segundo, la monitorización de cadena de pensamiento —chain-of-thought monitoring— pasa a ser un requisito operativo, no una opción. OpenAI la exige para todo entrenamiento por refuerzo y evaluaciones con herramientas en modelos de capacidad Sol o superior.
Tercero, el coste del 20% en cómputo de inferencia asociado a la monitorización es un dato de referencia real para cualquier equipo que diseñe presupuestos de infraestructura para modelos avanzados.
Cuarto, el aislamiento de red y de cargas de trabajo —sandboxes, restricciones de acceso a internet, eliminación de privilegios permanentes— deja de ser una buena práctica recomendada y se convierte en un requisito mínimo para modelos con capacidades cibernéticas significativas.
OpenAI anuncia cambios en el Preparedness Framework antes de que llegue Astra
OpenAI reconoce que las señales que está viendo en el progreso de sus próximos modelos hacen necesario un enfoque más amplio que el actual Preparedness Framework. La empresa no detalla aún cómo será ese nuevo marco, pero confirma que el trabajo está en curso y que publicará más detalles sobre el sistema de monitorización en una próxima entrada de blog.
La transparencia con la que OpenAI ha comunicado esta pausa —describiendo los cambios ya realizados en sus procesos e infraestructura, y los que aún están en marcha— contrasta con la opacidad habitual del sector en decisiones de este tipo.
Si esa transparencia se mantiene cuando lleguen los resultados de las evaluaciones a pequeña escala de Astra, el sector dispondrá de uno de los casos documentados más detallados sobre cómo gestionar un modelo que supera sus propios umbrales de seguridad antes de desplegarse.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
- OpenAI pausa su modelo Astra: admite que podría fabricar ciberataques sin ayuda humana
- OpenAI pone freno de seguridad a su IA Astra
Fuente original: openai.com
Edición con asistencia de herramientas de IA bajo supervisión editorial. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
