Los jefes de OpenAI y Anthropic comparecieron ante el Consejo de Seguridad de la ONU el miércoles para pedir a los gobiernos del mundo que regulen la inteligencia artificial antes de que sea demasiado tarde. Fue la primera vez que el máximo órgano de seguridad internacional convocó a directivos tecnológicos para debatir este asunto.
Altman y Amodei en el Consejo de Seguridad: «Podríamos perder el control del futuro»
Sam Altman, director ejecutivo de OpenAI, fue directo: «Podríamos perder el control del futuro ante la IA». Su rival Dario Amodei, al frente de Anthropic, fue igual de explícito: «Si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto».
Ambos pidieron al Consejo de Seguridad que establezca salvaguardas antes de que la tecnología alcance un nivel de poder que la haga imposible de frenar. También reclamaron que ninguna empresa ni ningún país concentre en exclusiva el control sobre ella.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
Junto a ellos compareció Clément Delangue, director ejecutivo de Hugging Face, empresa conocida por alojar modelos de código abierto y herramientas de IA accesibles a desarrolladores de todo el mundo. Su conexión remota falló en varios momentos de la sesión.
Francia convoca, Reino Unido responde, Estados Unidos frena
Francia presidió la sesión. Su ministro de Asuntos Exteriores, Jean-Noël Barrot, comparó la situación actual con el nacimiento de la era atómica: «Al igual que con el átomo en su momento, la comunidad internacional debe regular ahora la IA para aprovechar su potencial y evitar lo peor».
El canciller británico Ed Miliband respaldó esa posición y anunció que cuando el Reino Unido presida el G20 el próximo año pondrá el control de la IA en el centro del debate, con el objetivo de acordar un conjunto único de estándares globales.
La postura de Washington fue la contraria. El asesor científico de la Casa Blanca, Michael Kratsios, dijo ante el Consejo que las preocupaciones sobre el control de la IA «no son razón para pausar su desarrollo ni para limitarlo con nuevas estructuras de gobernanza global».
China defiende el código abierto y advierte contra la «hegemonía digital»
El embajador chino ante la ONU, Fu Cong, rechazó cualquier marco regulatorio que pudiera restringir las opciones tecnológicas de los países. Advirtió contra «formar un pequeño club de nosotros contra ellos en el sector tecnológico y obligar a otros países a tomar partido», y señaló a potencias innominadas que, según él, buscan «hegemonía digital».
China defiende los modelos de código abierto como vía de acceso universal a la tecnología. Pekín y Washington compiten abiertamente por el liderazgo en IA, y esa rivalidad estuvo presente en cada intervención de la jornada.
El secretario del Tesoro estadounidense, Scott Bessent, había revelado el día anterior que ambos países discutieron un posible mecanismo de notificación para incidentes de IA con implicaciones en seguridad nacional, aunque sin detalles concretos.
Ucrania, los drones autónomos y la pregunta sobre quién decide matar
El presidente ucraniano Volodímir Zelenski, desde la Asamblea General, situó el debate en términos concretos: su país lleva cuatro años y medio en guerra y ya enfrenta sistemas que toman decisiones letales sin intervención humana.
«Ya existe la posibilidad real de que la IA, y no las personas, empiece a decidir lo que ocurre en el campo de batalla. Necesitamos la paz antes de llegar a ese punto», dijo Zelenski.
El día anterior, el secretario general de la ONU, António Guterres, había advertido sobre los «robots asesinos». El mes pasado, un dron ruso que aparentemente usaba IA tomó de forma autónoma una decisión de ataque que mató a tres personas en Ucrania.
Kentaro Toyama, profesor de tecnología de la información en la Universidad de Míchigan, fue tajante: «Los robots asesinos son técnicamente fáciles de construir, y son reales. No debemos hacernos ilusiones al respecto».
La científica de datos Rumman Chowdhury, cofundadora de la organización sin ánimo de lucro Humane Intelligence, reencuadró la pregunta: «Evoca a un villano de ciencia ficción, cuando la pregunta que quiero que el público se haga es mucho más concreta: ¿quién autorizó a una máquina a seleccionar y atacar un objetivo, bajo qué restricciones y quién responde del resultado?»
El mecanismo que Amodei pide y el acuerdo que todavía no existe
Amodei presentó tres peticiones concretas a los líderes mundiales: acordar que la IA no desarrolle armas biológicas, crear sistemas de verificación de las capacidades reales de los modelos y establecer estándares comunes para pruebas de seguridad y para situaciones de pérdida de control o uso indebido.
Son peticiones que implican transparencia por parte de las propias empresas que diseñan esos modelos, incluida la suya. Anthropic desarrolla Claude, uno de los asistentes de IA más utilizados en entornos profesionales y de investigación.
El embajador liberiano ante la ONU, Lewis G. Brown II, resumió la tensión de fondo: «No debemos permitir que el coste de la vacilación de hoy se convierta en la catástrofe de mañana».
Qué implica esto para ti
Si usas herramientas de IA en tu trabajo o en tu vida cotidiana, este debate tiene consecuencias directas sobre las reglas que las gobiernan, o sobre su ausencia.
Primero: no existe hoy ningún estándar global vinculante sobre lo que un modelo de IA puede o no puede hacer. Eso significa que las limitaciones que encuentras dependen de decisiones internas de cada empresa, no de una norma común acordada entre países.
Segundo: el bloqueo de Estados Unidos a cualquier nueva estructura de gobernanza global deja el campo libre a una regulación fragmentada, con estándares distintos en Europa, Asia y América. Si tu empresa opera en varios mercados, las obligaciones de cumplimiento pueden multiplicarse sin coordinación.
Tercero: la pregunta sobre quién autoriza una decisión autónoma de una máquina, y quién responde de sus consecuencias, no tiene respuesta legal clara en casi ningún país. Eso incluye usos civiles, no solo militares.
Imagen ilustrativa generada con inteligencia artificial.
Para usarlo tú: si te preguntas cuál de ellas te conviene para el trabajo del día a día, las probamos una a una en ChatGPT, Claude o Gemini: cuál conviene para trabajar en español.
Más sobre esto en LaPrensaIA
Fuente original: AP News
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
