Una IA halló 28 fallos en programas de robots en menos de dos días

Una IA halló 28 fallos en programas de robots en menos de dos días

Son las once de la noche, tu equipo de robótica da por buenas las pruebas de seguridad y mañana el robot sale a trabajar. Pero ¿y si el simulador donde lo probaron estaba manipulado y nadie lo sabía?

Esa es la inquietud detrás de un estudio de VicOne, una empresa de ciberseguridad especializada en vehículos y robots. Sus investigadores usaron inteligencia artificial para buscar fallos en programas que sirven para entrenar, probar y manejar robots. En menos de dos días encontraron 28 vulnerabilidades de tipo «zero-day», es decir, fallos que nadie conocía y para los que todavía no existe arreglo.

¿Dónde estaban esos fallos?

Los programas revisados son herramientas que usan los equipos que fabrican robots. Entre los proyectos afectados hay software desarrollado o mantenido por Google, NVIDIA y Meta, entre otros. Según VicOne, el 75 % de los hallazgos estaba en herramientas de desarrollo, entrenamiento, simulación o validación, o sea, en cosas que se usan antes de que el robot salga a la calle.

Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenados por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.

Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.

Para que te hagas una idea: es como si el problema no estuviera en la zapatería, sino en el taller donde se hacen las hormas. El zapato sale defectuoso y nadie sospecha del taller.

Un test aprobado que no vale nada

VicOne plantea tres escenarios posibles. En el primero, un equipo descarga un modelo ya entrenado y, al abrir un archivo malicioso, un atacante se cuela en el sistema de entrenamiento. El robot podría portarse bien en las pruebas rutinarias y fallar ante un objeto o una orden concretos cuando ya esté trabajando.

En el segundo, alguien importa una escena de simulación manipulada y altera las lecturas de los sensores o los resultados. El robot «aprueba» pruebas que deberían haber destapado un comportamiento peligroso. En el tercero, el atacante cambia archivos que influyen en cómo se mueve el robot o manda datos de mapa falsos que bloquean la pantalla del operador.

El botón de parada que dejó de funcionar

En una demostración aparte, los investigadores explotaron una vulnerabilidad para que la orden de parada remota de un robot no funcionara. Es el ejemplo más concreto del estudio: la protección existía, pero el software que la sostenía estaba comprometido.

Ojo: VicOne aclara que estas son consecuencias posibles, no demostradas para cada hallazgo. Todo depende del acceso del atacante, del diseño del sistema y de si hay otras protecciones. Además, la cifra de 28 puede cambiar cuando las empresas afectadas y las autoridades de vulnerabilidades la revisen, y algunos fallos aún no tienen número de seguimiento (CVE). Tampoco hay constancia de que se haya producido ningún ataque.

La parte incómoda: la velocidad

Si una IA localiza 28 fallos en menos de dos días, otra persona con las mismas herramientas podría hacerlo con malas intenciones. Cuando el fallo es nuevo y no tiene parche, los equipos disponen de muy poco margen para reaccionar.

Qué implica para ti

Si trabajas con robots, drones o automatización en una pyme o en una fábrica, lo primero es preguntar a tu proveedor qué herramientas de simulación y entrenamiento usa y si ha revisado estos hallazgos.

El contexto

Y no des por buena una prueba de seguridad sin comprobar que el botón de parada sigue funcionando incluso cuando el software de apoyo falla. Si solo eres usuario, por ahora no te afecta directamente, pero conviene saber que la seguridad de un robot empieza mucho antes de que llegue a tus manos.

PD: VicOne reconoce que el recuento final puede variar tras la revisión de los fabricantes y de las autoridades de vulnerabilidades.

Imagen ilustrativa generada con inteligencia artificial.

Más sobre esto en LaPrensaIA

Fuente original: spectrum.ieee.org

Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.