Fraude con un Deepfake: el lado oscuro de la inteligencia artificial

7 1.066

En los últimos años, las noticias falsas han sido una preocupación importante. Se cree que las llamadas fake news han tenido peso en procesos electorales tan destacados como las elecciones presidenciales de Estados Unidos en 2016 y el referéndum sobre la salida del Reino Unido de la Unión Europea el mismo año.

Ahora hay otro tipo de fake que preocupa al mundo: los Deepfake (una combinación de Deep learning y fake). Deepfake es una técnica de inteligencia artificial que permite editar videos y audios falsos de personas que aparentemente son reales. Para hacerlo, se utilizan las redes generativas antagónicas (RGAs), que son una clase de algoritmo que pueden crear nuevos tipos de datos a partir de otros conjuntos que ya existen.

Por ejemplo, una RGA puede analizar miles de grabaciones de la voz de una persona, y a partir de este análisis, puede crear un audio totalmente nuevo que suena igual y que utiliza el mismo lenguaje.

Las preocupaciones acerca de esta tecnología radican en la posibilidad de utilizarla para difundir vídeos y grabaciones falsas de políticos y de otros personajes públicos relevantes. Por ejemplo, un Deepfake de un político dando un discurso racista podría influir en unas elecciones, o incluso incitar la violencia.

Deepfake y el cibercrimen

Aunque, de momento, los Deepfakes no han causado ningún problema en el mundo de la política, ya hemos visto su primer uso en el mundo de la ciberdelincuencia.

En agosto de este año, se reveló que un cibercriminal había utilizado la tecnología Deepfake para defraudar 220.000€ a una empresa. El fraude empezó en marzo de este año, cuando el estafador creó un Deepfake que imitaba la voz del CEO de la empresa matriz de la empresa donde trabaja la víctima.

La víctima, el CEO de una empresa energética, recibió una llamada que parecía ser de su jefe. En la llamada, el jefe pedía una trasferencia ‘urgente’ de 220.000€ a un proveedor húngaro, y decía que la cantidad se reembolsaría. La víctima fue engañada para que creyera que la voz era la de su responsable directo: tenía un leve acento alemán, al igual que su jefe, para hacer más creíble la estafa.

Una vez que fue confirmada la transacción, los estafadores volvieron a llamar, pidiendo otra trasferencia urgente, que la víctima, empezando a sospechar que se trataba de una estafa, se negó a realizar.  Según los informes, los fondos fueron de Hungría hasta México, antes de ser transferidos a cuentas en otros sitios.

Aunque el llamado ‘fraude de voz’ no es nada nuevo, este incidente es el primero que aprovecha la tecnología Deepfake. De hecho, entre 2013 y 2017, los incidentes de ‘vishing’ (voice phishing) crecieron un 350%. Los expertos de ciberseguridad temen que este incidente pueda ser el principio de una nueva tendencia de cibercrimenes que utilizan la inteligencia artificial de esta manera.

Las ciberestafas: una amenaza creciente

Los esfuerzos de los cibercriminales para estafar a las empresas han aumentado significativamente. La cantidad de dinero perdido en las estafas BEC duplicó entre 2017 y 2018, y no dejamos de ver noticias relacionadas con esta modalidad de la ciberdelincuencia. Hace poco 281 personas fueron detenidas por llevar a cabo estafas de este tipo, y hace poco Toyota anunció que un subsidiario de la empresa había perdido 37 millones de dólares en un fraude.

La inteligencia artificial para el bien y para el mal

Aunque el ejemplo que hemos visto aquí demuestra que la inteligencia artificial puede utilizarse para llevar a cabo cibercrimenes, también puede ser utilizada para pararlos. Algoritmos de Deep learning  y el Machine learning son importantes para automatizar la detección de anomalías y de ciberamenazas que puedan vulnerar los sistemas informáticos de cualquier tipo de organización.

Los cibercriminales no dejarán de innovar para buscar nuevas maneras y técnicas para entrar en las redes de organizaciones, robar los datos de empresas y sustraer dinero. Por eso, es esencial mantenerte al día sobre todas las nuevas tendencias en materia de la ciberseguridad.

También podría gustarte

Diseño de Páginas Web prosinet.com

7 Comentarios
  1. Pablo Galindo (@pabglindo) dice

    Fraude con un Deepfake: el lado oscuro de la inteligencia artificial: https://t.co/4lScSE3T5T. #Cloud #CloudComputing

  2. Lyra IT (@Lyra_IT) dice

    Fraude con un Deepfake: el lado oscuro de la inteligencia artificial https://t.co/5PHuMvxvrl https://t.co/DPJf2ojvTi

  3. Jairo Iglesias (@Jairo_Church) dice

    Fraude con un Deepfake: el lado oscuro de la inteligencia artificial https://t.co/Oe3naM5UK0 https://t.co/zeSUhQ4ZCu

  4. StackedCloud (@StackedCloud) dice

    Fraude con un Deepfake: el lado oscuro de la inteligencia artificial: En los últimos años, las noticias falsas han… https://t.co/YSWtsizcYQ

  5. Miguel Ángel Gombau (@magombau) dice

    Fraude con un Deepfake: el lado oscuro de la inteligencia artificial https://t.co/IyeacEviqt

  6. Fraude con un Deepfake: el lado oscuro de la inteligencia artificial https://t.co/9JBYYeNEPn #Infosec

  7. EXEVI (@exevi) dice

    Fraude con un Deepfake: el lado oscuro de la inteligencia artificial https://t.co/ghQxIOjZTS

Deja tu comentario sobre esta noticia

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.