Anthropic reveló públicamente que Moonshot, una startup de inteligencia artificial, redirigió en secreto las solicitudes de sus usuarios a través de Claude, el modelo de IA de la propia Anthropic, sin que esos usuarios supieran que sus datos estaban siendo procesados por un sistema distinto al que creían usar.
Moonshot presentaba tecnología propia; detrás operaba Claude
Los usuarios de Moonshot interactuaban con la plataforma bajo la impresión de que la tecnología que respondía sus consultas era desarrollada por la propia compañía. En realidad, esas peticiones se enrutaban hacia Claude, el modelo de lenguaje de Anthropic, sin que mediara ningún aviso ni consentimiento explícito.
El mecanismo es técnicamente sencillo: una aplicación de IA puede actuar como capa visual mientras delega el procesamiento real a un modelo externo vía API. El usuario ve la interfaz de Moonshot; quien procesa el texto es Claude. La diferencia entre ambas capas es invisible para quien escribe.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
Anthropic optó por hacerlo público en lugar de resolverlo en silencio
Lo que distingue este caso no es solo la práctica en sí, sino la decisión de Anthropic de denunciarlo abiertamente. La compañía, que desarrolla y comercializa Claude, detectó que Moonshot utilizaba su modelo de esta forma y eligió comunicarlo de manera pública, según informaron Rachel Metz, Maggie Eastland y Jordan Robertson en Bloomberg.
Esa decisión convierte el episodio en un registro visible para el sector. Otros proveedores de modelos podrían haber gestionado situaciones similares de forma interna, sin que trascendiera. Anthropic no lo hizo así.
Qué datos personales estaban en juego en cada consulta a Moonshot
Cuando un usuario escribe en una aplicación de IA, el texto que introduce puede contener información personal, profesional o confidencial: preguntas sobre salud, borradores de contratos, datos financieros, conversaciones privadas. Si ese texto se procesa en un sistema distinto al declarado, el usuario no puede evaluar qué política de privacidad se aplica realmente a sus datos.
En el caso de Moonshot, los usuarios asumían que sus datos quedaban dentro del entorno de esa compañía. La realidad era que Anthropic, un tercero, también los procesaba. Eso implica que dos políticas de uso de datos distintas, y dos conjuntos de condiciones legales distintos, estaban activos sin que el usuario lo supiera.
El precedente que Anthropic fuerza sobre todo el mercado de aplicaciones de IA
El mercado de aplicaciones de IA funciona en gran parte sobre modelos de terceros. Muchas startups construyen productos sobre APIs de OpenAI, Anthropic, Google o Meta sin desarrollar modelos propios. Eso no es irregular en sí mismo: es un modelo de negocio extendido.
Lo que sí resulta problemático, según se desprende del caso, es hacerlo sin informar al usuario final. La denuncia de Anthropic instala una pregunta concreta sobre cualquier aplicación de IA del mercado: ¿quién procesa realmente los datos que introduces?
Hasta ahora, esa pregunta no tenía mecanismo de respuesta pública. La decisión de Anthropic de señalar a Moonshot por su nombre crea un antecedente que otros proveedores de modelos pueden seguir o ignorar, pero ya no pueden desconocer.
Qué debería comprobar quien usa aplicaciones de IA tras el caso Moonshot
Este episodio tiene consecuencias prácticas para cualquier persona que use herramientas de IA, especialmente en entornos profesionales. Hay tres puntos concretos que se derivan directamente de lo ocurrido.
Primero, verificar qué modelo procesa realmente los datos. Muchas aplicaciones lo declaran en sus condiciones de uso o en su documentación técnica. Si no aparece esa información, es una señal de opacidad.
Segundo, leer la política de privacidad de la aplicación que se usa, no solo la del modelo subyacente. En el caso de Moonshot, existía una brecha entre lo que el usuario veía y lo que ocurría en el procesamiento real. Esa brecha puede existir en otras plataformas.
Tercero, considerar qué tipo de información se introduce en herramientas cuya arquitectura técnica no está documentada públicamente. Datos sensibles, confidenciales o sujetos a regulación específica, como los de salud o los financieros, merecen un nivel de verificación mayor antes de procesarse en cualquier sistema de IA.
El caso Moonshot y Anthropic en el debate regulatorio sobre transparencia en IA
La regulación de la inteligencia artificial en la Unión Europea, a través del AI Act, contempla obligaciones de transparencia para los sistemas de IA que interactúan con personas. Una de ellas es precisamente que el usuario sepa con qué sistema está interactuando. El caso de Moonshot ilustra exactamente el tipo de opacidad que esa regulación busca prevenir.
La denuncia pública de Anthropic no resuelve el problema estructural, pero lo hace visible. Si otros proveedores de modelos adoptaran una práctica similar de notificación pública cuando detecten usos no declarados de sus sistemas, el ecosistema de aplicaciones de IA tendría un mecanismo de control que hoy no existe de forma sistemática.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
Fuente original: bloomberg.com
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
