Ley IA de la UE: marcas de agua obligatorias en contenido generado

Desde el 2 de agosto, las marcas de agua en textos, imágenes y vídeos creados por modelos de inteligencia artificial son obligatorias en Europa. Anthropic y OpenAI ya han anunciado su cumplimiento. El debate ha dejado de ser sobre engaños concretos y abarca ahora todo el contenido generado por máquinas.

La Ley de IA de la UE activa sus obligaciones de transparencia

El Reglamento de Inteligencia Artificial de la Unión Europea entró en su fase más visible el 2 de agosto. Desde esa fecha, los proveedores de modelos de IA generativa de última generación están obligados a garantizar que sus usuarios sepan que interactúan con una máquina y que el contenido producido lleve una marca que lo identifique como generado por IA.

La norma no distingue entre imágenes, vídeos o texto. Afecta a cualquier salida de los grandes modelos, y su alcance real va más allá de Europa: las plataformas globales que operan en el mercado europeo deben cumplirla, lo que convierte a Bruselas, una vez más, en regulador de facto a escala mundial.

Francesca Pole, abogada especializada en datos, privacidad y ciberseguridad en DLA Piper, lo sintetizó con claridad: las obligaciones de transparencia son «el principal foco de atención en este momento, en lo que a todo el mundo le preocupa».

Anthropic y OpenAI se adaptan: así funcionan las marcas de agua técnicas

Anthropic anunció el mismo lunes 2 de agosto que todos los modelos Claude lanzados desde esa fecha incorporarán «marcas de agua integradas en el texto». La compañía explicó en su blog oficial que la marca está tejida dentro del propio texto: «No la verás, y no cambia el significado, la calidad ni la legibilidad de la respuesta de Claude».

Añadió un detalle técnico relevante: «Como la marca de agua forma parte del texto, viajará con él cuando se copie y pegue en otro lugar.»

OpenAI, por su parte, se había comprometido a finales de julio a que «la gente debería tener mejor contexto sobre el contenido que ve en línea, incluido si fue creado o editado por IA». La empresa utiliza SynthID, una herramienta de marcado desarrollada por DeepMind, la rama de investigación de IA de Google, para añadir una capa invisible a las imágenes generadas. A finales de julio extendió ese sistema al audio.

Ambas compañías también han adoptado el estándar técnico C2PA, desarrollado por la Coalición para la Procedencia y Autenticidad del Contenido, que permite almacenar y transferir metadatos de procedencia junto con el archivo o el texto.

El mecanismo completo: de la generación a la detección en la red social

Marcar el contenido es solo la primera mitad del proceso. La segunda, igualmente crítica, es hacer esa marca visible para el usuario final. Walter Pasquarelli, investigador en contenido sintético en la Universidad de Cambridge y asesor de la OCDE, describió cómo funcionaría en la práctica.

«Generas algo en Claude, lo llevas a una plataforma de redes sociales, estás a punto de publicar, y la interfaz donde introduces la publicación puede entonces tener detectores capaces de identificar la marca de agua.»

El flujo completo exige, por tanto, tres actores coordinados: el modelo que genera y marca, la plataforma que detecta, y el usuario que ve el aviso. Sin esa cadena completa, la obligación legal existe pero el efecto práctico desaparece.

Qué cambia para el usuario: compromiso, credibilidad y el fenómeno del «AI slop»

Las consecuencias para la experiencia de los usuarios en internet pueden ser significativas. Pasquarelli señaló que hay «abundante evidencia de que, en medios de comunicación, en cuanto la gente sabe que algo está generado por IA, su nivel de interacción cae de forma bastante significativa».

Esa caída del compromiso tiene implicaciones directas para creadores, marcas y medios que utilizan IA de forma masiva. LinkedIn ya ha añadido una opción para que los usuarios marquen una publicación que «parece AI slop», el término que circula en el entorno digital para referirse al contenido generado de forma automática y de escaso valor.

Ashley Casovan, directora ejecutiva del centro de gobernanza de IA en la organización IAPP, describió la magnitud del cambio: el sistema pasa de un mundo donde cada persona tenía que tomar «una decisión informada» sobre si algo era generado por IA, a uno donde ese contenido lleva un símbolo o capa verificada. «No creo que la gente entienda la escala del cambio», afirmó.

El desplazamiento del debate: de la intención de engaño a todo el contenido de IA

La regulación europea nació con un objetivo inicial concreto: evitar que el contenido generado por IA indujera a error de forma deliberada. Deepfakes políticos, imágenes falsas en contextos informativos, vídeos manipulados. Ese era el perímetro original.

Pero el debate ha evolucionado. Como señaló Pasquarelli, «la conversación ha pasado de hablar del contenido generado por IA con intención engañosa a hablar del contenido generado por IA en su conjunto». La marca de agua ya no es solo una herramienta antifraude: es una etiqueta de procedencia universal para todo lo que produce una máquina.

Ese desplazamiento tiene consecuencias prácticas para sectores como la publicidad, el periodismo, el entretenimiento o la educación, donde el uso de IA generativa se ha extendido sin que los destinatarios finales tuvieran forma de saberlo.

Lo que debes revisar si produces o consumes contenido con modelos como Claude u OpenAI

A partir de lo establecido por la norma y los compromisos técnicos anunciados, hay cuatro puntos concretos que afectan a cualquier persona o empresa que opere con IA generativa en el mercado europeo.

Primero: si usas modelos Claude lanzados desde el 2 de agosto, el texto que generes ya lleva marca de agua integrada, aunque no la veas. Eso significa que las plataformas con detectores compatibles podrán identificarlo como generado por IA cuando lo publiques.

Segundo: si distribuyes contenido generado con OpenAI en formatos de imagen o audio, SynthID de DeepMind añade una capa invisible que las plataformas que adopten C2PA podrán leer y mostrar al usuario.

Tercero: si gestionas una plataforma o red social con presencia europea, la cadena de cumplimiento no termina en el modelo: necesitas implementar detectores que hagan visible la marca al usuario final. Sin ese paso, la obligación de transparencia queda incompleta.

Cuarto: si eres creador de contenido y no declaras el uso de IA, el riesgo ya no es solo reputacional. La norma establece que el usuario debe ser informado. La responsabilidad recae en el proveedor del modelo, pero la visibilidad del marcado depende también de las plataformas donde publicas.

Bruselas como árbitro global de la IA: el precedente del RGPD y lo que viene para Anthropic y OpenAI

La Unión Europea ya utilizó este mismo mecanismo con la privacidad a través del RGPD y con los contenidos dañinos en plataformas digitales. En ambos casos, la norma europea acabó condicionando decisiones técnicas y de producto en compañías con sede fuera de Europa.

El patrón se repite ahora con la IA. Sin contar con ningún modelo propio entre los más utilizados del mundo, Europa está determinando cómo se despliega la tecnología a escala global. Anthropic y OpenAI no han esperado a recibir sanciones: han adaptado sus sistemas antes de que lleguen las primeras inspecciones.

El escenario más probable a corto plazo es que la adopción de C2PA y sistemas equivalentes se extienda como estándar de facto entre las plataformas que quieran operar sin fricciones regulatorias en Europa.

El que pierde en ese escenario es el contenido anónimo de origen automatizado: cuanto más extendida esté la detección, menos espacio habrá para el AI slop sin etiqueta. El que gana es el usuario que, por primera vez, tendrá una señal técnica verificable, y no solo su criterio, para saber qué ha escrito una persona y qué ha generado una máquina.

Imagen ilustrativa generada con inteligencia artificial.

Fuente original: politico.eu

Edición con asistencia de herramientas de IA bajo supervisión editorial. Cómo trabajamos.