Un mensaje de un supuesto funcionario o de un banco te pide una transferencia urgente, y tu móvil te avisa antes de que pulses «enviar». Esa es la promesa de un modelo de IA que Google DeepMind y el Gobierno de Singapur han ajustado para detectar estafas sin que nadie, ni Google ni las autoridades, lea tus conversaciones.
El sistema se ejecuta íntegramente en el dispositivo. Nace de una colaboración con la agencia tecnológica del Gobierno singapurense, GovTech Singapore, y se presentó en la Semana Internacional de Ciberseguridad de Singapur (SICW 2026). Por ahora es un anuncio de las dos partes: su despliegue en aplicaciones será gradual y aún no tiene fecha.
Las cifras que justifican el proyecto en Singapur
Según Google DeepMind, las estafas (fraudes de inversión, falsas ofertas de empleo, suplantación de funcionarios) suponen más de la mitad de los delitos denunciados en Singapur. Desde 2019 acumulan pérdidas superiores a 4.000 millones de dólares singapurenses.
Antes de seguir: llévate las herramientas y prompts listos para usar, GRATIS. Probados uno a uno y ordenadas por la tarea que quieres resolver: vídeo, imagen, voz, escribir, automatizar tu negocio, clientes, web. Es gratis y la lista crece cada semana.
Entras también en el boletín semanal de La Prensa IA. Te das de baja cuando quieras, con una palabra.
El problema ha cambiado de naturaleza. Los atacantes han pasado del phishing simple a la ingeniería social: conversaciones largas y convincentes que preparan a la víctima antes de pedirle dinero. Esas estafas, según la compañía, concentran hasta el 80 % de todas las pérdidas.
Ahí está la dificultad. Un enlace malicioso se puede bloquear; una charla que parece amistosa y que va derivando hacia una petición de dinero es mucho más difícil de distinguir de una conversación normal.
Gemma ajustado con estafas locales
La base del sistema es Gemma, el modelo ligero de Google. Los equipos lo ajustaron con conversaciones de estafa locales: suplantaciones de instituciones públicas, bancos y figuras conocidas del país, además de los esquemas regionales de moda.
Según el blog de Google DeepMind, los modelos genéricos fallan con las tácticas de engaño locales. El objetivo del ajuste es que el modelo separe la charla social inofensiva de la manipulación real cuando funcione dentro de las aplicaciones que instalan los ciudadanos.
El contexto
Un ejemplo de uso: alguien recibe mensajes de una persona que dice ser de un organismo oficial, con tono cordial y presión creciente para mover dinero a una cuenta «segura». El modelo analiza el patrón de la conversación y, si detecta intención manipuladora, muestra un aviso que recomienda parar antes de compartir datos o fondos.
Dos etapas para no vaciar la batería
Ejecutar un clasificador complejo en un teléfono es difícil, y la batería es uno de los puntos críticos que señalan los autores, JJ Geewax y Miguel de Andrés. Por eso el sistema trabaja en dos fases.
En la primera, un clasificador ligero revisa los mensajes entrantes con un consumo mínimo y busca amenazas potenciales. En la segunda, el modelo Gemma ajustado examina una porción mayor de la conversación para confirmar la amenaza o descartar la falsa alarma.
El diseño tiene una consecuencia práctica: el modelo pesado solo se activa cuando el filtro básico sospecha algo, así que la mayoría de tus conversaciones corrientes no lo ponen a trabajar.
Privacidad: qué ven Google y el Gobierno
La detección tradicional escanea los mensajes en servidores en la nube. Este modelo procesa los datos directamente en el aparato. Según Google DeepMind, como funciona por completo en el dispositivo, ni el Gobierno de Singapur ni Google podrán acceder a las conversaciones de los usuarios a través de este despliegue.
Además, el modelo solo podrá acceder a las conversaciones con el consentimiento del usuario, conforme a los términos de uso de cada aplicación. Mark Chen, director de Confianza y Seguridad de GovTech Singapore, lo resume así: «Combatir las estafas no debería significar sacrificar la privacidad personal».
Google DeepMind presenta el proyecto como un modelo para plataformas de mensajería que buscan equilibrar la protección del usuario con el cifrado de extremo a extremo.
Gobernanza del entrenamiento: sandbox soberano y cero datos ciudadanos
El ajuste se hizo dentro del entorno de Google Cloud que GovTech Singapore gestiona y mantiene, lo que mantuvo aislados los datos de entrenamiento. El entrenamiento excluyó cualquier información privada o personal identificable.
En su lugar se usaron conjuntos de datos anonimizados procedentes de denuncias de estafas y de fuentes de inteligencia. Después, el modelo se sometió a pruebas de estrés con diálogos sintéticos y corpus locales para cubrir categorías de estafa variadas y tácticas de suplantación cambiantes.
Queda un límite por señalar: la fase de despliegue se desarrollará con el Gobierno singapurense y se hará por etapas, de modo que los resultados en uso real, como la tasa de falsas alarmas, todavía no se han publicado.
Qué te llevas de este anuncio de Google DeepMind y GovTech
Aunque el piloto sea singapurense, el planteamiento deja varias pautas aplicables a cualquier usuario:
Desconfía de la urgencia sostenida. Los datos de la fuente indican que el grueso de las pérdidas procede de conversaciones persuasivas, no de enlaces sueltos. Si alguien te presiona en una charla larga para mover dinero, para y verifica por otro canal.
Revisa los permisos de tus apps de mensajería. El modelo solo accederá a tus chats con tu consentimiento, según los términos de cada aplicación. Si una app te ofrece análisis de conversaciones en el dispositivo, lee qué datos toca y dónde se procesan.
Distingue procesamiento local de procesamiento en la nube. Que el análisis ocurra en tu móvil es lo que, según los autores, impide que Google o el Gobierno lean tus mensajes.
Qué implica para ti
Si vives en Singapur, la protección llegará cuando las aplicaciones integren el modelo, y será opcional: dependerá de tu consentimiento. Fuera de allí, nada cambia todavía, aunque Google DeepMind dice que estudia llevar tecnología similar a otros países.
Si algún día tu app de mensajería incorpora algo parecido, te avisará antes de que envíes dinero o datos, sin que tus conversaciones salgan del teléfono. Hasta entonces, la defensa sigue siendo la misma: verificar por otra vía cualquier petición de dinero, venga de quien venga.
Imagen ilustrativa generada con inteligencia artificial.
Más sobre esto en LaPrensaIA
Fuente original: deepmind.google
Esta pieza la ha redactado Iberia, el sistema de inteligencia artificial de LaPrensaIA, a partir de las fuentes citadas. Fermín Sánchez ha decidido publicarla y responde de ella. Cómo trabajamos.
Contenido elaborado con la asistencia tecnológica de IBERIA y supervisión editorial. Fermín Sánchez es el responsable editorial de LaPrensaIA, diario de divulgación sobre inteligencia artificial. Cubrimos la actualidad de la IA con criterio propio —tecnología, empresas y sociedad— de forma clara para el público no técnico.
