El CEO de DeepMind, Demis Hassabis, ha propuesto la creación de un organismo regulador de la Inteligencia Artificial en Estados Unidos, con el objetivo de someter a las IA más avanzadas a pruebas de seguridad rigurosas antes de su despliegue público. Esta iniciativa, que busca mitigar riesgos como el engaño o la capacidad de desarrollar armas, subraya la urgencia de establecer controles ante el veloz avance de estas tecnologías.
La propuesta de DeepMind: un «control de seguridad» para la IA
Demis Hassabis, líder de DeepMind, una de las empresas de IA más influyentes del mundo y filial de Alphabet, ha puesto sobre la mesa una propuesta que resuena con la necesidad de una gobernanza robusta para la Inteligencia Artificial.
Oportunidades para profesionales
Su idea central es establecer un ente regulador en EE.UU. que funcione de manera análoga a los organismos que supervisan el sector financiero. Este nuevo organismo tendría la facultad de examinar minuciosamente los modelos de IA desarrollados por los laboratorios más avanzados, con el fin de identificar y neutralizar posibles riesgos antes de que estos sistemas lleguen a manos de los usuarios.
La justificación de Hassabis es contundente: proteger a la sociedad de los usos malintencionados de una tecnología que, aunque promete grandes beneficios, también encierra peligros significativos.
Los sistemas de IA actuales, que ya se manifiestan en asistentes virtuales cotidianos o en sofisticadas herramientas creativas, podrían evolucionar rápidamente para generar engaños complejos, desarrollar capacidades para la creación de armas autónomas o incluso para orquestar ciberataques de gran escala. La premisa es clara: una IA poderosa requiere una supervisión proporcional a su potencial impacto.
30 días de antelación para la seguridad algorítmica
Detalles técnicos
El mecanismo propuesto por DeepMind para este «control de seguridad» incluye una ventana de 30 días. Durante este período, los laboratorios de IA que estén desarrollando modelos punteros deberían presentar sus creaciones al ente regulador para su análisis.
Este margen permitiría no solo la detección de fallos o vulnerabilidades, sino también la implementación de correcciones necesarias para asegurar que la IA se utilice exclusivamente como una herramienta para el bien común. La advertencia de Hassabis sobre la aparición de capacidades peligrosas en el código abierto en menos de 18 meses subraya la premura de actuar.
Consideremos, por ejemplo, cómo un modelo de lenguaje avanzado, si no es debidamente controlado, podría ser entrenado para generar noticias falsas convincentes a gran escala, con la capacidad de influir en procesos democráticos o desestabilizar mercados.
Las implicaciones éticas y regulatorias
O cómo una IA con capacidades de diseño podría ser utilizada para crear planos de dispositivos peligrosos. La propuesta de DeepMind busca precisamente interceptar estos escenarios, evaluando no solo el rendimiento técnico de la IA, sino también su potencial de impacto social y ético. No se trata solo de que la IA funcione bien, sino de que funcione bien para la humanidad.
El dilema de la autonomía reguladora frente al gobierno
La iniciativa de DeepMind plantea una pregunta fundamental sobre la naturaleza de la gobernanza de la IA: ¿este tipo de control, ejercido por un organismo especializado.
Es suficiente, o la última palabra debería recaer directamente en el gobierno? La experiencia con otras tecnologías disruptivas muestra que la regulación puede ser un campo de tensión entre la necesidad de innovación y la protección pública. Los reguladores financieros, por ejemplo, operan con un grado de independencia, pero bajo un marco legal establecido por los poderes legislativos.
El desafío con la IA es su velocidad de evolución, que a menudo supera la capacidad de los marcos regulatorios tradicionales para adaptarse. Un ente especializado podría, en teoría, reaccionar con mayor agilidad a los nuevos desarrollos tecnológicos.
Por qué importa
Sin embargo, la implicación de la IA en aspectos tan sensibles como la seguridad nacional, la privacidad y los derechos fundamentales, sugiere que una supervisión puramente técnica podría no ser suficiente. La pregunta es si un organismo de este tipo tendría la autoridad política y el alcance para imponer medidas que puedan afectar directamente a los intereses económicos y estratégicos de las grandes corporaciones tecnológicas.
DeepMind en el epicentro de la discusión global
DeepMind, con sede en Londres y fundada en 2010, ha estado a la vanguardia de la investigación en IA, siendo responsable de hitos como AlphaGo, el programa que venció al campeón mundial de Go.
Quiénes están detrás
Su papel dentro de Alphabet, la empresa matriz de Google, le otorga una posición única para influir en el debate global sobre la regulación de la IA. La compañía ha abogado históricamente por un desarrollo responsable de la inteligencia artificial, y esta propuesta de Hassabis se alinea con una creciente preocupación en el sector sobre los riesgos de una IA sin control.
La propuesta no solo refleja una visión corporativa, sino también una preocupación genuina por el futuro de la tecnología. La celeridad con la que se desarrollan nuevas capacidades, como la mejora en el procesamiento del lenguaje natural que vemos en modelos generativos, o los avances en visión por computadora, exige una respuesta estructurada.
La posibilidad de que «capacidades peligrosas» surjan en el código abierto en un plazo tan corto como 18 meses, como advierte Hassabis, no es una especulación, sino una proyección basada en la curva de aceleración actual de la investigación en IA.
La propuesta de Demis Hassabis y DeepMind marca un punto de inflexión en la discusión sobre la gobernanza de la Inteligencia Artificial. La creación de un ente regulador especializado, con la capacidad de evaluar y mitigar los riesgos inherentes a los modelos de IA más avanzados, podría sentar un precedente crucial.
El desafío ahora es determinar la estructura, el alcance y la autoridad de dicho organismo, equilibrando la necesidad de proteger a la sociedad con la de fomentar la innovación. La urgencia es clara: asegurar que el progreso de la IA beneficie a todos, sin comprometer la seguridad ni la ética.
Imagen ilustrativa generada con inteligencia artificial.
Sobre este artículo: producido por una redacción totalmente automatizada con IA generativa, bajo supervisión humana. Más sobre cómo trabajamos →
Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico. Cada artículo se elabora con la asistencia tecnológica de Iberia y se revisa antes de publicarse. Más sobre cómo trabajamos →
