Sam Altman, Elon Musk y Demis Hassabis respaldan la propuesta de Dario Amodei de instaurar supervisión independiente dentro de los laboratorios de inteligencia artificial. El consenso, inédito por quiénes lo firman, llega acompañado de la decisión de OpenAI de no salir a bolsa este año.
Tres líderes de la IA convergen en la necesidad de supervisión externa
Dario Amodei, consejero delegado de Anthropic, lleva semanas defendiendo que los laboratorios de IA deben someterse a evaluaciones independientes. Esta semana recibió el respaldo explícito de Sam Altman, CEO de OpenAI, y de Demis Hassabis, exdirector ejecutivo de DeepMind, además del apoyo de Elon Musk.
Los tres coinciden en un punto concreto: los laboratorios necesitan mecanismos de control externos a su propia estructura. No se trata de una posición genérica sobre la seguridad; es una propuesta operativa sobre quién audita a quién y desde dónde.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
Musk lleva años alertando sobre los riesgos de la IA, por lo que su adhesión no sorprende. El alineamiento de Altman y Hassabis con Amodei es el dato más significativo: son tres de los nombres con mayor peso en el desarrollo actual de sistemas de inteligencia artificial avanzada.
OpenAI descarta la salida a bolsa en 2026 por razones de seguridad
Altman confirmó a la revista Fortune que OpenAI no realizará una oferta pública de acciones este año. La razón declarada son las preocupaciones sobre seguridad. Según el propio Altman, esa decisión ya había sido comunicada internamente en junio.
Existe una segunda lectura posible: las cuentas de OpenAI no justifican en este momento una valoración bursátil competitiva, especialmente si se comparan con las de Anthropic. Ambas explicaciones pueden ser simultáneamente ciertas.
La decisión tiene consecuencias directas para los inversores que esperaban liquidez a través de una salida a bolsa, y también para el relato público de la empresa: posponer el IPO refuerza el discurso de que la seguridad precede a la rentabilidad financiera a corto plazo.
La voz discrepante: Peyman Milanfar y la inestabilidad del automejoramiento
No todos comparten el diagnóstico de Amodei. Peyman Milanfar, investigador de Google, rechaza la premisa sobre la que se apoya parte del debate: que un sistema de IA puede mejorarse a sí mismo de forma recursiva y acelerada.
Milanfar argumenta que la automejora recursiva es una suposición ingenua porque los bucles de retroalimentación son intrínsecamente inestables. Cuanto más se optimiza un sistema sobre sí mismo, más profundamente cae en puntos ciegos. Y la evidencia fiable, sostiene, solo proviene del mundo real, no de los resultados en pruebas de referencia.
Su conclusión es directa: «Los sistemas que se mejoran a sí mismos de forma fiable serán gobernados, amortiguados, lentos y acotados por márgenes que parecen un desperdicio. Porque la estabilidad es el límite de velocidad.» Desde esa lógica, el «límite de velocidad» que propone Amodei sería innecesario.
Qué implica este debate para quienes desarrollan o despliegan IA
El consenso entre Altman, Musk y Hassabis sobre la supervisión independiente abre al menos tres preguntas prácticas con consecuencias inmediatas:
Primero, quién ejerce esa supervisión. Si los propios laboratorios la reclaman, el siguiente paso es definir qué organismo, con qué metodología y con qué acceso real a los sistemas evaluaría su seguridad. Sin esa concreción, el respaldo es una declaración de intenciones.
Segundo, qué ocurre con los plazos de desarrollo. Una supervisión externa rigurosa implica tiempos de evaluación que compiten con los ciclos de lanzamiento. Para las empresas que integran modelos de terceros en sus productos, eso puede traducirse en retrasos o en incertidumbre sobre qué versiones de un modelo han sido auditadas.
Tercero, la posición de Milanfar introduce una variable técnica relevante: si los sistemas no se automejoran de forma estable, el argumento para una regulación de emergencia se debilita. Pero si los bucles de retroalimentación son inestables, el riesgo no desaparece; simplemente adopta una forma diferente, menos predecible.
Lo que Altman, Amodei y Milanfar dejan sobre la mesa
Para un equipo técnico, un inversor o un responsable de política tecnológica, este episodio deja puntos concretos que conviene seguir:
El IPO de OpenAI queda descartado para 2026, según declaró Altman a Fortune. Cualquier modelo de negocio que dependiera de esa liquidez debe revisarse.
El respaldo de tres figuras centrales del sector a la supervisión independiente aumenta la probabilidad de que este requisito aparezca en marcos regulatorios próximos, tanto en Estados Unidos como en la Unión Europea.
Detalles técnicos
La objeción técnica de Milanfar sobre la automejora recursiva no ha recibido respuesta pública de Amodei ni de los otros tres. Esa ausencia es en sí misma informativa: el debate sobre los mecanismos reales de riesgo sigue abierto y sin consenso técnico.
Si trabajas con modelos de IA de terceros, la pregunta práctica no es si habrá supervisión, sino cuándo y bajo qué forma llegará, y si los modelos que usas hoy habrán pasado por ese proceso cuando llegue.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
- Sam Altman se reúne con Trump y senadores: ¿Qué dirá sobre la IA?
- Sam Altman: «Estamos en la singularidad»
Fuente original: the-decoder.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
