La agencia de tecnología digital de la Naciones Unidas ha puesto en marcha una iniciativa para establecer marcos y estándares globales que permitan verificar el comportamiento de los agentes de inteligencia artificial autónomos. El objetivo es llenar un vacío regulatorio que afecta a sectores tan sensibles como la banca, la sanidad y la administración pública en todo el mundo.
Agentes de IA sin supervisión humana: el problema que la ONU quiere resolver
Un agente de inteligencia artificial no es un chatbot que responde preguntas. Es un sistema que toma decisiones de forma autónoma, encadena acciones y opera sin que un humano apruebe cada paso. Puede decidir si un ciudadano recibe un préstamo, si una consulta médica se prioriza o si un currículum pasa el primer filtro de selección de personal.
Hasta ahora, no existían estándares globales que permitieran a gobiernos, empresas o ciudadanos comprobar si esos sistemas se comportan de forma fiable, justa y predecible. Cada organización aplicaba sus propios criterios, cuando los aplicaba. La iniciativa de la ONU entra directamente en ese vacío.
La agencia impulsora es ITU, la Unión Internacional de Telecomunicaciones, organismo especializado de las Naciones Unidas con sede en Ginebra y fundado en 1865, que desde hace años lidera la agenda digital internacional. Su rama de tecnología digital es hoy el principal foro intergubernamental para la gobernanza de la inteligencia artificial a escala global.
Qué propone la ONU y cómo funcionaría en la práctica
La iniciativa plantea desarrollar marcos de referencia y estándares técnicos que sirvan como criterios comunes para auditar agentes de IA. La idea es que un gobierno, una empresa reguladora o un organismo de control pueda aplicar esos criterios para verificar si un sistema autónomo cumple con requisitos mínimos de transparencia, trazabilidad y seguridad.
En la práctica, esto significaría que un banco que use un agente de IA para conceder o denegar créditos debería poder demostrar, con criterios homologados internacionalmente, cómo toma esas decisiones y qué salvaguardas tiene. Lo mismo aplicaría a un sistema hospitalario que priorice pacientes o a una plataforma pública de empleo que filtre candidatos.
El modelo se asemeja a lo que ya existe en otros sectores. Los medicamentos pasan por agencias reguladoras antes de llegar al mercado. Los aviones se certifican bajo estándares internacionales antes de volar. Los agentes de IA, que hoy toman decisiones con consecuencias directas sobre la vida de las personas, carecen de un equivalente global. La ONU quiere construirlo.
Por qué España, México, Argentina y Colombia están en el centro del debate
La iniciativa llega en un momento especialmente relevante para los países hispanohablantes. España, México, Argentina y Colombia están acelerando la adopción de inteligencia artificial en sus servicios públicos, desde la gestión tributaria hasta la atención sanitaria, pasando por los sistemas de justicia y los servicios sociales.
España aprobó en 2024 la creación de la Agencia Española de Supervisión de la Inteligencia Artificial, conocida como AESIA, con sede en A Coruña. Es el primer organismo de este tipo en la Unión Europea y está llamado a aplicar el Reglamento Europeo de IA, que entró en vigor en agosto de 2024. Sin embargo, sus competencias se limitan al territorio europeo y a los sistemas clasificados por la normativa comunitaria.
México, Argentina y Colombia no cuentan aún con marcos regulatorios específicos para la IA comparables al europeo. Para estos países, los estándares que impulse la ONU a través de la ITU pueden convertirse en la referencia práctica más accesible a corto plazo, especialmente para las administraciones públicas que ya despliegan estos sistemas sin un paraguas normativo claro.
El riesgo concreto de los agentes autónomos en banca y sanidad
Los sectores más expuestos son precisamente los que más han avanzado en la adopción de agentes de IA. En la banca, los sistemas de scoring crediticio automatizado llevan años operando, pero la nueva generación de agentes va más allá: puede negociar condiciones, gestionar reclamaciones y ejecutar operaciones sin intervención humana en tiempo real.
En sanidad, los agentes de IA ya se usan para triaje en urgencias, para priorizar listas de espera y para recomendar tratamientos. Un error sistemático en uno de estos sistemas, provocado por un sesgo en los datos de entrenamiento o por un fallo de diseño, puede afectar a miles de pacientes antes de que alguien lo detecte. Sin estándares de auditoría, ese fallo puede pasar desapercibido durante meses.
La administración pública añade otra capa de complejidad. Cuando un algoritmo decide si una familia recibe una ayuda social o si un ciudadano es convocado para una inspección fiscal, está ejerciendo poder público. La ausencia de estándares verificables convierte esa decisión en opaca para el propio ciudadano afectado y para los tribunales que pudieran revisarla.
El contexto global: por qué ahora y qué iniciativas ya existen
La ONU no llega a este debate sin antecedentes. En 2023, la Asamblea General aprobó por unanimidad una resolución sobre la gobernanza de la inteligencia artificial, respaldada por los 193 estados miembros, que reconocía la necesidad de marcos internacionales. Ese consenso político es el suelo sobre el que se construye la iniciativa actual.
Paralelamente, la OCDE mantiene desde 2019 sus propios principios sobre IA, y el G7 lanzó en 2023 el proceso de Hiroshima sobre IA con el objetivo de coordinar estándares entre las principales economías. Estados Unidos publicó en 2023 su Orden Ejecutiva sobre IA segura. La Unión Europea tiene su reglamento en vigor. Pero ninguno de estos marcos tiene alcance universal ni se aplica específicamente a los agentes autónomos como categoría diferenciada.
Ese es el espacio que la ITU quiere ocupar: un estándar técnico internacional, negociado multilateralmente, que pueda adoptarse tanto en Berlín como en Bogotá o en Nairobi. La legitimidad de la ONU como foro neutral es su principal activo en una conversación donde los intereses de Estados Unidos, China y la Unión Europea divergen con frecuencia.
La tensión entre velocidad de adopción y capacidad de control
El problema de fondo es una brecha que se ensancha cada trimestre. Las empresas tecnológicas despliegan agentes de IA a una velocidad que los marcos regulatorios no pueden seguir. OpenAI, Google DeepMind, Anthropic y decenas de compañías más pequeñas lanzan nuevas capacidades autónomas con ciclos de desarrollo de semanas, no de años.
Los procesos de estandarización internacional, por su naturaleza multilateral y consensuada, funcionan en plazos de años. La ITU tardó varios años en consolidar los estándares de telecomunicaciones móviles que hoy damos por sentados. El reto para esta iniciativa es encontrar una velocidad de trabajo que no quede obsoleta antes de producir resultados concretos.
Algunos países han optado por no esperar. La Unión Europea es el ejemplo más avanzado, con su Reglamento de IA que clasifica los sistemas por nivel de riesgo y exige auditorías previas para los de alto impacto. China tiene su propio marco regulatorio para sistemas de recomendación y generación de contenido. El riesgo de fragmentación regulatoria global es real, y es precisamente lo que la ONU quiere evitar con una referencia común.
Lo que la iniciativa de la ITU significa para empresas y ciudadanos en 2025
Si eres una empresa que despliega agentes de IA en servicios al ciudadano, la iniciativa de la ONU puede convertirse en los próximos años en el criterio de referencia que tus clientes institucionales y tus reguladores te exijan cumplir. No como obligación jurídica inmediata, sino como señal de confianza verificable en un mercado donde la reputación de los sistemas autónomos está en juego.
Si eres ciudadano, el impacto es más indirecto pero igual de real. Los estándares que la ITU desarrolle determinarán qué nivel de transparencia puedes exigir cuando una máquina tome una decisión que te afecte. Determinarán si tienes derecho a saber por qué un agente de IA denegó tu solicitud y qué mecanismo existe para impugnarlo.
El escenario más probable a corto plazo es una coexistencia de marcos: el europeo con fuerza jurídica vinculante dentro de la UE, los estándares de la ITU como referencia técnica global de adopción voluntaria, y las regulaciones nacionales de grandes potencias como China y Estados Unidos aplicadas en sus respectivas esferas de influencia.
Impacto en España y Latinoamérica
Para España y Latinoamérica, navegar entre esos tres planos será el desafío regulatorio central de los próximos años. La pregunta no es si los agentes de IA van a tomar decisiones que te afecten, sino bajo qué reglas lo harán.
Imagen ilustrativa generada con inteligencia artificial.
Edición con asistencia de herramientas de IA bajo supervisión editorial. Cómo trabajamos.
Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico. Cada artículo se elabora con la asistencia tecnológica de Iberia y se revisa antes de publicarse. Más sobre cómo trabajamos →
