¿Puede una IA descubrir que te están engañando mientras chateas? La respuesta la tiene Google
Juan Carlos Vallejo 
Una conversación aparentemente normal puede terminar con una cuenta bancaria vacía. El delincuente no siempre necesita enviarte un enlace sospechoso ni instalar un programa malicioso. A veces le basta con ganarse tu confianza durante varios mensajes hasta convencerte de transferir dinero, revelar una contraseña o compartir información personal.
Google DeepMind y la Agencia de Tecnología del Gobierno de Singapur (GovTech Singapore) desarrollaron un modelo de inteligencia artificial que busca identificar ese tipo de manipulación mientras ocurre la conversación. La propuesta utiliza una versión especializada de Gemma, la familia de modelos abiertos de Google, para reconocer posibles estafas directamente desde el dispositivo.
Leer más: ¿Qué es Muse Wonder, qué puede hacer y cómo utilizar la nueva IA de Meta?
La diferencia frente a los sistemas convencionales de seguridad merece atención. Mientras muchas herramientas buscan enlaces fraudulentos, archivos peligrosos o remitentes sospechosos, esta tecnología intenta comprender cómo se construye un engaño a través de varios mensajes.
El problema tiene una dimensión económica considerable. Según las cifras citadas por Google, Singapur acumula pérdidas superiores a 4.000 millones de dólares singapurenses por estafas desde 2019. Además, los fraudes representan más de la mitad de los delitos denunciados en ese país.
Los delincuentes han perfeccionado una estrategia que aprovecha una vulnerabilidad difícil de corregir mediante actualizaciones de software: la confianza humana.
La IA ya no busca únicamente mensajes sospechosos, también intenta reconocer intenciones
Imagina que recibes un mensaje de alguien que asegura trabajar en tu banco. La conversación comienza con información aparentemente legítima, continúa con una advertencia sobre movimientos extraños y termina solicitando una transferencia para proteger tus ahorros.
Cada mensaje, considerado individualmente, podría parecer inofensivo. La amenaza aparece cuando se analiza la secuencia completa.
Precisamente allí interviene el modelo desarrollado por Google DeepMind y GovTech Singapore.
Su funcionamiento contempla dos niveles de análisis. Primero, un clasificador ligero examina los mensajes entrantes y descarta aquellos que no presentan señales de riesgo. Si encuentra indicios sospechosos, activa una segunda evaluación mediante Gemma, que revisa una parte más amplia de la conversación.
Cuando identifica patrones compatibles con una estafa, el sistema puede generar una advertencia para que el usuario reconsidere sus acciones antes de entregar dinero o información sensible.
Esta arquitectura también responde a una limitación práctica. Mantener un modelo de inteligencia artificial analizando continuamente todas las conversaciones podría aumentar el consumo energético del celular. Al reservar el procesamiento más exigente para situaciones sospechosas, los desarrolladores buscan reducir ese impacto.
Leer más: Colombianos podrán estudiar IA gratis con Google: requisitos para postularse
Sin embargo, detectar una intención fraudulenta es considerablemente más complejo que identificar un enlace malicioso.
Una solicitud urgente de dinero puede corresponder a una emergencia auténtica. Una conversación que parece cordial puede ocultar una manipulación cuidadosamente preparada. El sistema tendrá que distinguir ambas situaciones sin generar tantas falsas alarmas que los usuarios terminen ignorándolas.
Google informó que entrenó el modelo con información anonimizada procedente de reportes de estafas y fuentes de inteligencia sobre fraude, además de someterlo a pruebas con conversaciones sintéticas.
El anuncio no proporciona cifras públicas suficientes sobre precisión, falsos positivos o rendimiento en condiciones reales que permitan evaluar de forma independiente su eficacia.
¿Quién protege tus conversaciones cuando una IA comienza a analizarlas?
La segunda cuestión importante es la privacidad.
Google asegura que el procesamiento ocurre directamente en el dispositivo, sin necesidad de enviar las conversaciones a sus servidores ni a los del Gobierno de Singapur.
El acceso a los mensajes dependerá del consentimiento del usuario y de las condiciones de la aplicación que incorpore la tecnología.
Esta decisión resulta especialmente relevante porque los mensajes personales pueden contener información financiera, familiar, laboral y médica. Un sistema diseñado para proteger al usuario también podría convertirse en una herramienta de vigilancia si no existieran límites sobre el tratamiento de esos datos.
El proyecto contempla una implementación gradual y, según sus responsables, utiliza un modelo que puede operar localmente sin entregar el contenido de los chats a Google o al Gobierno mediante su funcionamiento.
No obstante, ejecutar la inteligencia artificial en el celular no resuelve automáticamente todas las preocupaciones. También importan los permisos de las aplicaciones, la transparencia sobre las alertas y los mecanismos para comprobar que el sistema respeta las condiciones anunciadas.
Para Colombia, donde los intentos de suplantación mediante mensajes, llamadas y aplicaciones de mensajería representan un problema de seguridad digital, la investigación plantea una posibilidad interesante.
Una herramienta capaz de reconocer tácticas de manipulación adaptadas al lenguaje colombiano podría ayudar a identificar modalidades como falsos asesores bancarios, ofertas laborales fraudulentas o solicitudes de dinero mediante suplantación de identidad.
Pero esa aplicación todavía es hipotética. Google no ha anunciado una versión para Colombia ni ha confirmado su integración generalizada en WhatsApp u otras plataformas de mensajería.
El modelo también necesitaría adaptarse a las expresiones, instituciones y modalidades delictivas de cada país. Una estafa construida alrededor de una entidad pública de Singapur no necesariamente utiliza los mismos recursos que una suplantación bancaria en Bogotá.
La colaboración presentada durante la Singapore International Cyber Week 2026 todavía debe superar una prueba decisiva: demostrar que puede identificar fraudes reales sin confundir conversaciones legítimas con ataques.
Por ahora, el anuncio representa un desarrollo tecnológico y no una función que los usuarios colombianos puedan activar inmediatamente.
La pregunta que deja esta investigación es hasta qué punto una inteligencia artificial podrá reconocer el engaño antes que la propia víctima, especialmente cuando los delincuentes también utilizan estas herramientas para construir mensajes cada vez más convincentes.
Acerca del autor
Redacción Teleprónter 
