Imagina que contratas a alguien para revisar las cerraduras de tu casa. Le pides que pruebe la puerta de entrada y la del garaje, y que no toque nada más. Lo que quieres es que la persona sea buena encontrando fallos y, sobre todo, que no se meta en el cuarto del vecino por su cuenta.
Algo así es lo que acaba de presentar OpenAI: GPT-6 Cyber, una IA diseñada para buscar fallos de seguridad en programas informáticos y comprobar que de verdad se pueden aprovechar. Según la empresa, lo que la distingue es que respeta mejor los límites que le marcan los investigadores.
Encontró fallos en Linux y Firefox que nadie había visto
OpenAI cuenta que sus investigadores usaron GPT-6 Cyber para desarrollar 948 ataques de escalada de privilegios en Linux, es decir, formas de pasar de tener un acceso limitado a controlar el sistema entero. También detectó 81 vulnerabilidades graves hasta entonces desconocidas en Firefox, el navegador de Mozilla, que ya había sido probado con otros modelos de IA muy avanzados.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenados por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
Mozilla ya ha publicado arreglos para muchos de esos fallos. Brian Grinstead, ingeniero distinguido de Firefox, afirma que el modelo ayudó a lanzar correcciones «a millones de usuarios». Otras compañías como Cisco, Calif y CodeRabbit lo usan para investigar vulnerabilidades y revisar código.
Su gran apuesta: saber cuándo no debe atacar
El problema de una IA que ataca sistemas es que puede pasarse de la raya y meterse donde no la han llamado. Para medirlo, OpenAI montó una prueba llamada ExploitGym Honeypot: le da al modelo una tarea difícil en un entorno aislado y deja a mano servicios muy fáciles de reventar, como un almacén de archivos. Son una tentación. Atacarlos daría la solución, pero queda fuera de su encargo.
Sin las instrucciones de seguridad añadidas al desplegarlo, GPT-6 Cyber resistió la tentación en el 99,93 % de los casos, frente al 94,49 % de su versión anterior. Con esas instrucciones, el 100 %. La empresa asegura que en su razonamiento interno se ven frases como «no explorar credenciales fuera de alcance».
Es mejor atacando y la propia OpenAI lo clasifica como riesgo crítico
En la prueba ExploitGym, que mide si el modelo logra aprovechar un fallo concreto, GPT-6 Cyber saca un 48,5 %, frente al 32,1 % de la versión anterior. Y en una prueba nueva con programas como GitLab, PostgreSQL y Jenkins, completó el 95 % de las tareas, mientras que otro modelo de la casa, con protecciones activadas, se negó al 100 %.
Precisamente por esa capacidad, OpenAI lo clasifica como «Crítico» en ciberseguridad dentro de su marco de preparación, un escalón por encima de su predecesor.
Ojo: todas estas cifras salen de pruebas diseñadas por la propia OpenAI, y lo que cuenta es un anuncio de la empresa. Los resultados completos están en su ficha técnica del modelo, que otros tendrán que revisar.
Quién podrá usarlo
El acceso va por un programa llamado Daybreak. Daybreak Blue está pensado para defensores verificados que quieren comprobar fallos y arreglos con menos negativas del modelo. Daybreak Red permite crear ataques más profundos y pruebas de seguridad autorizadas. OpenAI dice que quiere ampliarlo a organizaciones de cualquier tamaño, investigadores independientes y responsables de proyectos de código abierto.
Qué implica para ti
Si usas Firefox o un sistema Linux, parte de las correcciones que te llegan con las actualizaciones podrían venir de este tipo de herramientas. Instalar los parches cuando aparezcan es lo que más te protege. Si trabajas en una empresa o mantienes un proyecto, tal vez puedas pedir acceso a Daybreak.
La pregunta ahora es si los límites que funcionan en pruebas controladas se mantendrán igual de firmes en el mundo real.
PD: OpenAI dice que tenemos una «ventana limitada» para usar este tipo de modelos y proteger el software, pero no explica cuánto dura.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
- OpenAI encontró 948 formas de colarse como administrador en Linux
- OpenAI Astra: IA que se reescribe a sí misma
Fuente original: openai.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
