La IA está poniéndose cada vez más realista y las nuevas herramientas generativas podrían engañar incluso al más experto. Y eso es lo que casi le ocurre a un analista de Microsoft, Gmail.
Sam Mitrovic, consultor de seguridad de Microsoft, comentó sobre su experiencia con una nueva «llamada de estafa de IA súper realista» y advierte que todos los s de cuentas de Gmail podrían ser atacados.
Lo primero fue que al abrir su bandeja de Gmail, se encontró con un mensaje que le pedía que restaurara su cuenta de correo, junto con un enlace de confirmación.
Inmediatamente después, Mitrovic recibió un llamado telefónico, que supuestamente provenía de Google directamente. No contestó en esa oportunidad.
Pasó una semana y nuevamente sonó el teléfono: Al otro lado estaba la voz estadounidense de un supuesto empleado de soporte de Google, quien le informó que se había detectado actividad sospechosa en su cuenta de Gmail. Al parecer, alguien de Alemania había iniciado sesión en los últimos siete días y había descargado los datos de su cuenta.
Mitrovic hizo lo que muchas personas hacen cuando se encuentran en este tipo de situación: buscó el número de teléfono en Google. Para su sorpresa, en realidad conducía a una página de negocios de Google, lo que reforzaba la impresión de que se trataba de una llamada genuina del propio Google.
Sin embargo, Mitrovic como analista de seguridad se dio el tiempo de revisar bien su cuenta de Gmail y para su sorpresa estaba todo bien, por lo tanto no había amenaza. Ahí fue cuando detectó que se trataba de una técnica de clonación de voces usando IA para engañar al .
El verdadero indicio para Mitrovic fue cuando la persona que llamó saludó y, después de no obtener respuesta, volvió a saludar. «En este punto, lo lancé como una voz de IA, ya que la pronunciación y el espaciado eran demasiado perfectos», dijo Mitrovic.
Vale la pena leer el blog original de Mitrovic, ya que contiene muchos más detalles técnicos y trabajo de detective sobre este caso.
