Redacción Teleprónter 
Las voces clonadas y los videos creados con inteligencia artificial están cambiando la manera de cometer fraudes y manipular información. Alberto Arébalos, exdirectivo de Google y Facebook, analiza en su nuevo libro por qué las empresas deben aprender a verificar incluso aquello que parece auténtico.
Una reunión de trabajo, varias personas conectadas por videollamada y una instrucción para transferir dinero. Todo parecía transcurrir con normalidad. El problema era que los participantes no eran quienes aparentaban ser y la conversación había sido fabricada con inteligencia artificial.
El empleado que recibió la orden terminó transfiriendo 25 millones de dólares. La reunión era falsa, pero el dinero salió de una cuenta real.
El caso abre Reputación en la era de la realidad sintética, el nuevo libro de Alberto Arébalos, periodista argentino que trabajó en Reuters y posteriormente ocupó cargos de comunicación en Cisco, Google y Facebook.
El autor utiliza este episodio para explicar una amenaza que ya no depende únicamente de las noticias falsas. Las herramientas de inteligencia artificial permiten reproducir rostros, voces y situaciones con suficiente precisión para que una persona tome decisiones basándose en acontecimientos que nunca sucedieron.
Durante décadas, una grabación de voz o un video podían servir para respaldar una denuncia, confirmar una declaración o demostrar que alguien había participado en una reunión. Ahora esos mismos formatos también pueden utilizarse para construir una versión falsa de los hechos.
Arébalos advierte que el engaño resulta especialmente efectivo cuando no presenta situaciones extravagantes, sino hechos que encajan con lo que sabemos de una persona o una organización.
“Cuanto más, cuanto lo falso está más cerca de lo real, más fácil es creérselo”, explica.
Un directivo que aparentemente solicita una transferencia, un funcionario que anuncia una decisión o una persona conocida que pide ayuda económica pueden resultar convincentes si el mensaje coincide con lo que el destinatario espera escuchar.
Y no siempre se necesita una tecnología sofisticada.
MileniumGroup, la compañía de comunicación que dirige Arébalos, enfrentó recientemente dos episodios de suplantación. En uno de ellos, un cliente recibió un documento con el membrete de la empresa y una dirección de correo casi idéntica a la original. El mensaje solicitaba cambiar la cuenta bancaria para realizar un pago de aproximadamente 25.000 dólares.
El cliente hizo la transferencia sin confirmar la instrucción. Según Arébalos, posteriormente tuvo que pagar nuevamente a la compañía, aunque se desconoce si recuperó el dinero enviado a la cuenta fraudulenta.
En otra ocasión, una directiva de la organización en Buenos Aires recibió un mensaje de WhatsApp aparentemente enviado por su jefe. El texto anunciaba que la empresa estaba siendo vendida y solicitaba ingresar a un enlace para proporcionar información.
La empleada sospechó porque había dos detalles que no correspondían a los hábitos de Arébalos: no daba instrucciones operativas por WhatsApp y tampoco se comunicaba en inglés con su equipo.
La diferencia entre ambos episodios estuvo en la verificación. Mientras el primer destinatario confió en la apariencia del documento, la segunda persona comprobó si el mensaje correspondía a una comunicación habitual.
No se ha establecido que estos dos intentos utilizaran inteligencia artificial, pero muestran cómo la suplantación aprovecha la confianza y cómo las nuevas herramientas pueden ampliar sus posibilidades.
El problema también está dentro de las organizaciones. Muchas empresas acostumbran a sus trabajadores a responder inmediatamente cuando reciben una instrucción de un superior, incluso si involucra información confidencial o dinero.
Arébalos considera que esa cultura de obediencia puede facilitar los engaños. Por eso propone establecer mecanismos de confirmación mediante canales previamente acordados y permitir que los empleados cuestionen las órdenes sospechosas.
La responsabilidad, sostiene, no debería recaer únicamente sobre quien recibe el mensaje. Si una compañía no capacita a sus trabajadores ni establece procedimientos de seguridad, difícilmente puede responsabilizarlos por completo cuando ocurre un fraude.
Su advertencia también alcanza a las empresas tecnológicas que desarrollan y distribuyen estas herramientas.
Arébalos, quien trabajó en Google y Facebook, considera que las plataformas no necesariamente tienen los mismos intereses que sus usuarios. Gran parte de su negocio depende de mantener a las personas conectadas y consumiendo contenido, algo que no siempre favorece la circulación de información confiable.
Aun así, no propone rechazar la inteligencia artificial. Reconoce que puede mejorar procesos, acelerar tareas y crear nuevas actividades económicas, como sucedió con internet.
Lo que cuestiona es la idea de que la tecnología pueda sustituir completamente el juicio humano.
Los modelos de lenguaje, explica, procesan enormes cantidades de información y generan respuestas mediante cálculos probabilísticos. Aunque sus resultados pueden parecer extraordinarios, no deben confundirse con la capacidad humana de interpretar una situación y decidir qué hacer.
“Parecen mágicos, pero realmente no son inteligentes en los términos de inteligencia que puede discernir”, sostiene.
La advertencia adquiere otra dimensión cuando se trata de información pública. Una grabación fabricada puede circular como evidencia de una declaración inexistente, mientras que una grabación auténtica puede ser cuestionada bajo el argumento de que fue generada con inteligencia artificial.
Para Arébalos, este problema también obliga a los medios de comunicación a recuperar la verificación como parte fundamental de su trabajo.
Su experiencia como periodista incluye diez años en Reuters, donde fue corresponsal en Colombia entre 1989 y 1992 y posteriormente editor para América Latina. Desde esa trayectoria cuestiona que algunas redacciones intenten competir con las redes sociales a costa de reducir la investigación y la comprobación de los hechos.
La velocidad con la que circula una información no garantiza su autenticidad. Y una publicación compartida miles de veces puede seguir siendo falsa.
El propósito de Reputación en la era de la realidad sintética es precisamente advertir a directivos y profesionales de la comunicación sobre una amenaza que, según su autor, muchas organizaciones todavía subestiman.
Las herramientas para fabricar imágenes, audios y videos seguirán evolucionando. Lo que no debería cambiar es la necesidad de comprobar quién está detrás de una instrucción, de dónde proviene una información y si aquello que parece haber sucedido ocurrió realmente.
Porque una videollamada puede mostrar rostros conocidos y reproducir voces familiares sin que ninguna de esas personas esté participando en ella.
Acerca del autor
Matheo José Dager De La Hoz 
