Si alguna vez has visto cómo se corta la luz de golpe al bajar un único interruptor general, sabes lo tranquilizador que resulta tener uno a mano. OpenAI acaba de contar que ha montado algo parecido para sus máquinas: se llama Control Room, y permite frenar un trabajo de sus modelos de IA en un máximo de 35 segundos.
Un interruptor central para todos los experimentos
Dentro de OpenAI, los investigadores lanzan todo tipo de trabajos con sus modelos: experimentos de entrenamiento, evaluaciones, procesamiento de datos. Control Room los conecta todos en un único sistema que los sigue de cerca y puede detenerlos si surge un problema de seguridad. Según la propia empresa, ya está funcionando en su infraestructura de investigación.
Cada trabajo recibe un número de identificación al arrancar, y la empresa exige que todos los que usan IA de forma autónoma estén asociados a un «caso de seguridad» aprobado. Piensa en una oficina donde cada visitante recibe una tarjeta con número y alguien puede anularla desde recepción.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenados por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
El freno está en el modelo, no en el código del investigador
Aquí viene lo curioso. Los trabajos los escriben los propios investigadores y ese código cambia constantemente, así que OpenAI no quiere depender de que cada uno lo haga bien. Por eso el control está en el motor que ejecuta el modelo: antes de contestar cada petición, el motor pregunta a Control Room si ese trabajo sigue autorizado.
Si alguien decide pararlo, Control Room lo marca como detenido. El trabajo puede seguir encendido y seguir pidiendo respuestas, pero el motor se las niega. Como cuando un camarero, en vez de echar al cliente, simplemente deja de servirle. Además, el motor sigue disponible para otros trabajos autorizados.
Quién aprieta el botón: una persona o un vigilante automático
La orden de parada puede venir de una persona o de un sistema de vigilancia. OpenAI explica que todos sus trabajos de entrenamiento más avanzados corren con un monitor, que es otro modelo de IA que inspecciona todo lo que hace el modelo que se está entrenando y levanta la alerta si detecta algo raro. La empresa cuenta que un incidente reciente relacionado con DNS, un sistema que traduce nombres de páginas web, lo detectó uno de estos monitores.
Si ese vigilante ve un problema, avisa a Control Room con el número del trabajo, y la siguiente petición de ese trabajo recibe un no por respuesta.
Por qué 35 segundos y no cero
La demora de 35 segundos viene de una memoria temporal que ayuda a manejar el enorme volumen de peticiones. OpenAI dice que trabaja para reducirla a cero y poder parar los trabajos al instante.
La empresa también presume de un diseño «a prueba de fallos»: si el propio Control Room se cae, por un error o porque alguien lo desactiva a propósito, el sistema deniega todas las peticiones hasta que vuelva a funcionar. Es decir, ante la duda, se apaga. Además, hace barridos continuos para comprobar que nadie lance motores por su cuenta sin este control activado.
Ojo: lo que cuenta OpenAI es una descripción de su propio sistema, publicada por la empresa. No hay verificación externa en el texto, y el sistema cubre su infraestructura de investigación. Los modelos que ofrece al público ya funcionan, según la compañía, con una gestión mucho más centralizada y con capacidad de retirarlos rápido si hace falta.
Qué implica para ti
Si usas ChatGPT o las herramientas de OpenAI, esto no cambia nada en tu pantalla: es una medida interna de la fase de investigación. Lo que sí te dice es que la empresa admite que necesita poder frenar a sus modelos rápido cuando algo no va bien, y que ha construido un mecanismo para ello.
La pregunta ahora es si esos 35 segundos llegarán de verdad a cero, como promete la empresa.
PD: el sistema está diseñado para seguir funcionando aunque el código de los propios investigadores esté roto o mal escrito.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
Fuente original: openai.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
