Darío Amodei advierte: el peligro real de la IA llega cuando nadie quiere hablar de él
El CEO de Anthropic publicó un ensayo en el que sostiene que en 2026 el mundo está considerablemente más cerca del riesgo real de la inteligencia artificial que en 2023, precisamente porque el debate público ha virado hacia el optimismo acrítico y los gobiernos toman decisiones en modo euforia.
El péndulo que Amodei lleva años señalando
Entre 2023 y 2024, el miedo dominó la conversación sobre IA. Las predicciones catastrofistas coparon redes y titulares con lenguaje de ciencia ficción. El efecto fue predecible: saturación, polarización y, finalmente, agotamiento colectivo.
En 2025 y 2026 el péndulo se fue al extremo contrario. Ahora manda el optimismo, la oportunidad y la narrativa de que frenar la tecnología es un error. Amodei argumenta que ese giro cultural es tan peligroso como el pánico anterior, porque la tecnología no ajusta su ritmo a lo que está de moda en el debate político.
Anthropic, la empresa que fundó Amodei tras salir de OpenAI, desarrolla el asistente de inteligencia artificial Claude y se ha posicionado desde su origen como una compañía centrada en la seguridad de los sistemas de IA. Su apuesta no es frenar el desarrollo, sino construirlo con marcos de evaluación de riesgos explícitos.
Qué dice el ensayo y por qué incomoda al sector
El argumento central de Amodei es sencillo y molesto a partes iguales: las decisiones políticas que se toman en momentos de euforia tecnológica pueden ser tan dañinas como las que se toman en momentos de pánico. En ambos casos, el criterio que guía la decisión no es la evidencia, sino el clima emocional del momento.
Pocos líderes del sector se atreven a escribir esto cuando sus propias empresas se benefician del optimismo inversor y regulatorio. Que el CEO de una de las compañías más influyentes en el desarrollo de modelos de lenguaje avanzados lo publique de forma explícita es, en sí mismo, una señal.
El ensayo no detalla métricas ni umbrales técnicos concretos. Su valor es de otro tipo: es un documento de posicionamiento institucional que Anthropic puede invocar cuando los reguladores, los inversores o los gobiernos pregunten dónde estaba la empresa cuando se tomaron ciertas decisiones.
El ciclo de pánico y euforia como problema de gobernanza
Lo que Amodei describe no es solo un fenómeno mediático. Es un problema estructural de gobernanza tecnológica. Cuando el debate público oscila entre el apocalipsis y la panacea, los marcos regulatorios que se construyen en esos momentos quedan marcados por el sesgo del ciclo.
Una regulación redactada en 2023, bajo el peso del miedo, tiende a ser reactiva y centrada en prohibiciones. Una redactada en 2026, bajo el optimismo dominante, tiende a ser permisiva y a aplazar las salvaguardas. Ninguna de las dos responde necesariamente a lo que la tecnología requiere en ese momento concreto.
Anthropic lleva años defendiendo públicamente que la postura correcta es la misma en los dos extremos del ciclo: prudencia basada en evidencia, independientemente de lo que sea conveniente políticamente.
España, México, Argentina y Colombia: la IA ya opera sin marcos claros
El ensayo de Amodei tiene implicaciones directas para el mundo hispanohablante. En España, México, Argentina y Colombia, la inteligencia artificial ya está siendo desplegada en sectores como la salud, la justicia y la administración pública, en muchos casos sin marcos regulatorios específicos que definan responsabilidades, auditorías o criterios de reversibilidad.
Eso significa que decisiones sobre diagnóstico médico asistido, evaluación de riesgo en procesos judiciales o gestión automatizada de prestaciones sociales se están tomando con herramientas cuya supervisión institucional es, en el mejor de los casos, incipiente.
El argumento de Amodei aplica aquí con precisión: si esas decisiones de despliegue se están tomando ahora, en el momento de mayor euforia del ciclo, la probabilidad de que los marcos de control lleguen tarde es alta.
Qué debería vigilar quien toma decisiones sobre IA en 2026
A partir del diagnóstico de Amodei, hay cuatro cuestiones concretas que cualquier organización o gobierno que esté desplegando IA debería tener sobre la mesa:
Primero, si el marco de evaluación de riesgos que se está usando fue diseñado durante el ciclo del miedo o durante el de la euforia, porque ambos sesgos producen marcos inadecuados.
Segundo, si existe un mecanismo de reversibilidad real: qué pasa cuando el sistema falla, quién responde y con qué plazo.
Tercero, si la decisión de desplegar se tomó porque había evidencia de que el sistema funcionaba de forma segura en ese contexto, o porque era lo que se esperaba políticamente en ese momento.
Cuarto, si hay una revisión programada del despliegue con criterios técnicos independientes, no solo con indicadores de rendimiento operativo.
Anthropic y el coste de decir lo incómodo en el momento equivocado
Hay una tensión evidente en la posición de Amodei. Anthropic compite directamente con OpenAI, Google DeepMind y Meta en el desarrollo de modelos de lenguaje de gran escala. Todas esas empresas operan en un entorno donde el optimismo regulatorio les beneficia comercialmente.
Publicar un ensayo que pide más cautela precisamente cuando el viento sopla a favor requiere una convicción institucional sostenida, o una estrategia de largo plazo que apueste por la credibilidad como activo diferencial frente a los competidores.
Probablemente las dos cosas a la vez. Lo que el ensayo deja claro es que Anthropic ha decidido que su posición pública no va a cambiar según el ciclo. Si eso le cuesta negocio a corto plazo o le genera ventaja regulatoria a largo, es la pregunta que define su modelo de empresa tanto como sus modelos de lenguaje.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
Publicado originalmente por Gizmodo.
Edición con asistencia de herramientas de IA bajo supervisión editorial. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
