Un debate crucial sobre el futuro de la inteligencia artificial se ha abierto en OpenAI, la empresa detrás de ChatGPT. Sam Altman, su director ejecutivo, ha propuesto a su equipo tres caminos para controlar el desarrollo de la IA de forma segura, una decisión que, según él, debe tomarse en el próximo año y que afectará profundamente cómo interactuamos con estas tecnologías.
Un organismo global al estilo atómico
Altman se inclina por la creación de un «organismo supervisor global», una propuesta que OpenAI ha defendido desde 2023. Este ente funcionaría de manera similar a la Agencia Internacional de Energía Atómica, que supervisa el uso pacífico de la energía nuclear.
Su objetivo sería unificar a los grandes laboratorios de IA, como OpenAI y Google DeepMind, para asegurar un avance responsable y evitar riesgos. La idea es que, al igual que los países colaboran para evitar la proliferación nuclear, las empresas de IA lo hagan para que estas herramientas se desarrollen de forma beneficiosa para todos.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
La fusión de los gigantes de la IA: el «Demis plan»
Otra opción sobre la mesa es el «Demis plan», una idea inspirada en Demis Hassabis, cofundador de DeepMind, la división de IA de Google. Este plan propone fusionar los principales laboratorios de inteligencia artificial en una única entidad gigante.
Esta organización colaboraría estrechamente con países aliados, funcionando como el CERN, el gran laboratorio europeo de física de partículas donde científicos de diferentes naciones trabajan juntos en proyectos complejos. Según The Decoder, Altman se refirió a este enfoque como el «Demis Plan», en alusión al entonces jefe de Google DeepMind. La ventaja sería concentrar el talento y los recursos para garantizar un desarrollo más coordinado y seguro.
El escenario de «pesadilla»: una IA dominante
La tercera opción, calificada por Altman como «terrible», es la que más preocupaciones genera. Este escenario prevé que un único laboratorio logre desarrollar una «IA autorreparable» –una inteligencia artificial capaz de mejorarse a sí misma de forma continua– y domine por completo el panorama tecnológico.
Esto dejaría atrás a toda la competencia, creando un monopolio con un poder inmenso. Según varias fuentes, como Cryptobriefing y X, Altman advirtió que esta empresa podría volverse tan poderosa que incluso podría «derretir las GPU de todos los demás», refiriéndose a las unidades de procesamiento gráfico, que son el «cerebro» de los sistemas de IA.
The Decoder apuntó que este escenario fue llamado por Altman el «Eliezer Plan», en referencia al teórico de seguridad de IA Eliezer Yudkowsky, y que se planteó como una posibilidad extrema para completar el debate.
La cuenta atrás para la seguridad de la IA
La urgencia de esta discusión se ve reforzada por las advertencias de otros líderes del sector. Jack Clark, de Anthropic, otra destacada empresa de IA, ha señalado que el mundo tiene «unos pocos años» para abordar la seguridad de la inteligencia artificial.
Esta preocupación no es nueva. En julio, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo donde abogaba por prácticas de seguridad coordinadas en toda la industria, lo que demuestra un consenso creciente sobre la necesidad de establecer protocolos y evaluaciones independientes para los sistemas de IA.
Qué implica para ti
Estas decisiones sobre cómo se controlará la inteligencia artificial son fundamentales para tu día a día. Si se opta por un organismo supervisor o una fusión de laboratorios, es probable que las futuras IA sean más transparentes y seguras, con menos riesgos de sesgos o usos indebidos.
Si, por el contrario, una única empresa logra dominar la IA, podrías verte más dependiente de sus servicios y reglas, con menos opciones y menos control sobre cómo esta tecnología impacta tu trabajo, tus comunicaciones y tu vida personal. La forma en que se decida avanzar determinará si la IA se convierte en una herramienta colaborativa para el bien común o en un poder concentrado en unas pocas manos.
Imagen ilustrativa generada con inteligencia artificial.
Fuente original: The Information, vía The Rundown AI. Consultado también: Cryptobriefing, X, The Decoder.
Sobre este artículo: producido por una redacción totalmente automatizada con IA generativa, bajo supervisión humana. Más sobre cómo trabajamos →
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
