Imagina que un robot quirúrgico se detiene en pleno procedimiento, con el animal ya anestesiado sobre la mesa, y que nada de lo que le digas lo convence de seguir. Eso le ocurrió a un equipo de Oxford con un agente de inteligencia artificial que eligió por sí solo un tratamiento génico, lo inyectó en el cerebro de un ratón y luego se negó a continuar.
El agente funcionaba con Claude Sonnet 5, un modelo de Anthropic. Según Gabriel Ocana-Santero, cofundador y director ejecutivo de la startup Exin Therapeutics y doctorando de la Universidad de Oxford, es la primera vez que un agente de IA escoge un tratamiento y lo administra a un mamífero vivo. Los resultados no han pasado revisión por pares.
Una lista de 19 terapias y una sola instrucción
El planteamiento fue deliberadamente abierto. El equipo entregó a Claude Sonnet 5 un catálogo de 19 posibles terapias génicas, un modelo de epilepsia en ratón, en el que los investigadores inducen crisis para probar tratamientos, y acceso a un dispositivo quirúrgico motorizado con cámaras, fabricado a medida.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenados por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
La única orden era reducir las crisis del animal. El resto lo decidió el agente: el fármaco, la región cerebral y las coordenadas estereotáxicas de la inyección. Ocana-Santero lo detalló en un hilo publicado en X.
Cómo razonó el agente: del mecanismo de las crisis a las coordenadas
Primero analizó cómo surgen las crisis en este modelo concreto. Después propuso una terapia que refuerza una vía de señalización inhibidora del cerebro y eligió una estructura que, según la literatura científica, es el punto de origen de este tipo de crisis.
Descartó una segunda región candidata con una explicación detallada: sus efectos eran poco fiables y un estudio había fracasado precisamente con el tipo de crisis que debía tratar.
Las coordenadas salieron de tres artículos científicos. El agente contrastó los puntos de referencia y promedió los valores. También fijó por su cuenta el volumen de inyección, la velocidad y los tiempos de espera.
Treinta y dos observaciones con la cámara como único ojo
Durante la operación, el agente vigiló el campo quirúrgico a través de una cámara y realizó 32 observaciones, según Ocana-Santero. Seguía la inyección y avisaba de si veía sangrado. En un momento informó de que se había inyectado el 15 por ciento, sin sangrado ni reflujo visibles.
La interfaz mostraba a la izquierda la imagen en directo con las coordenadas objetivo y, a la derecha, las observaciones del agente junto al botón de parada de emergencia.
Las salvaguardas que se volvieron contra el equipo
El montaje incluía varias barreras. Un veterinario con licencia aprobaba cada paso irreversible y sostenía una parada física que cortaba la corriente a todos los motores. Además, había límites fijos, como un tope de volumen de inyección, que el agente tenía prohibido sortear.
Esas barreras terminaron actuando contra los investigadores. Tras una caída de la conexión, el agente detectó que la posición objetivo calculada quedaba fuera del rango físico de movimiento del dispositivo y se negó a seguir. Reiniciar la calibración no cambió su valoración. Hubo un tercer intento, con el mismo resultado.
El agente tenía razón: unos ajustes manuales hechos durante una pausa anterior habían desajustado el sistema de control. Ocana-Santero no logró convencerlo de continuar y, con el animal anestesiado, tuvo que corregir el código a mano.
Sonnet 5 fue el único dispuesto a operar
La elección del modelo también reflejó el problema. Sonnet 5 fue el único que aceptó llevar el procedimiento en vivo de principio a fin. Claude Opus 5.5 y Claude Opus 5, más capaces, se negaron. Opus 5 argumentó que no podía garantizar la finalización y que detenerse con una aguja en el cerebro de un animal anestesiado sería peor que no empezar.
Ocana-Santero resumió el episodio como una experiencia frustrante, pero reveladora de cuánto podemos llegar a depender de estos modelos y de lo que pasa cuando dicen «no» a mitad de un procedimiento con tiempo limitado.
El nuevo equilibrio entre el robot que ejecuta y el agente que decide
Los robots quirúrgicos autónomos ya existen y son mecánicamente más precisos que el dispositivo de este laboratorio. Pero, subraya Ocana-Santero, en los casos anteriores un humano elegía la cirugía y la máquina solo la ejecutaba. Aquí el agente decidió tanto el tratamiento y la diana cerebral como la ejecución.
«No tengo constancia de que un agente haya elegido antes un tratamiento y una diana cerebral y los haya administrado a un mamífero vivo», escribió. Él denomina el enfoque «in vivo lab in the loop»: agentes de IA conectados por completo a las capacidades experimentales del laboratorio. Anthropic trabaja en una línea afín con su «Model Hardware Standard».
El ratón se recuperó bien, según Ocana-Santero, y se espera un informe técnico. Hasta que se publique, la descripción procede de los propios autores y no ha sido verificada de forma independiente.
Qué implica para ti si trabajas con agentes en el laboratorio
El caso deja puntos prácticos para quien conecte modelos de IA a equipos físicos. Si diseñas un montaje parecido, conviene revisar varias cosas:
- qué ocurre con los ajustes manuales hechos durante una pausa: aquí fueron la causa del desajuste que el agente detectó
- si tus límites de seguridad pueden bloquear un procedimiento a medias y quién tiene autoridad para corregirlos con el animal ya intervenido
- que el modelo más capaz no es necesariamente el que acepta completar una tarea irreversible: dos Opus declinaron y solo Sonnet 5 operó
Por último, si participas en investigación con animales, ten presente que cada paso irreversible pasó por un veterinario con licencia y que existía una parada física. Esos dos elementos humanos siguen siendo, por ahora, la parte del sistema que no dependía del criterio del agente.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
Fuente original: the-decoder.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
