Folosirea tehnologiei deepfake este una dintre amenințările periculoase la adresa securității online?

Deepfake se numără printre tehnologiile moderne, bazate pe Inteligența Artificială, care permit manipularea imaginilor, clipurilor audio sau videoclipurilor pentru a obține rezultate care par reale. În 2024, nivelul de utilizare al acestei tehnologii este atât de ridicat, încât, în ciuda costurilor reduse de generare a unui deepfake, de numai 1.33 dolari, valoarea fraudei de acest tip ajunge la 1 trilion de dolari.

Atât de periculoasă a devenit această modalitate de manipulare a imaginilor și videoclipurilor, încât Google și-a perfecționat instrumentele IA pe care le folosește pentru a detecta imaginile false. Totuși, în anumite cazuri, precum înlocuirea lui Michael J. Fox și Christopher Lloyd cu Tom Holland și Robert Downey Jr în „Back to the Future”, rezultatele sunt foarte amuzante.

Numai că, utilizarea imaginilor celebrităților fără acordul lor, chiar și în scopuri distractive, echivalează cu afectarea drepturilor de proprietate intelectuală. În acest fel ar fi foarte simplu să creezi reclame pentru furnizorii de jocuri iGaming, precum casino Ice, folosindu-te de vedete din lumea cinematografiei. De aceea, în 2024, deepfake este în majoritatea cazurilor o tehnologie cu un potențial dăunător securității online.

Cât de periculoasă este tehnologia deepfake în 2024?

Peste 68% dintre organizațiile care activează în mediul online sunt îngrijorate de posibilitatea ca infractorii cibernetici să folosească deepfake-uri pentru a le pune în pericol integritatea. În comparație cu anii trecuți, de exemplu, cu 2020, când 96% din conținutul generat prin intermediul acestei tehnologii avea legătură cu un context sexual, cele mai noi deepfake-uri sunt legate de politică.

Un exemplu în acest sens este reprezentat de crearea în 2023 a unor imagini care prezentau o explozie la Pentagon, ceea ce a determinat Casa Albă să se implice în lupta contra utilizării în scopuri ilicite a acestei tehnologii. Însă, tehnologia deepfake a început să fie folosită și pentru crearea unor imagini și videoclipuri false legate de alegerile electorale. Platformele de social media, precum Facebook și X au intensificat eforturile de blocare a promovării unui astfel de conținut.

Au fost implementate filtre speciale bazate pe Inteligența Artificială, care să identifice și să elimine imaginile și videoclipurile cu conținut și informații dăunătoare postate pe aceste rețele. La rândul lor, utilizatorii serviciilor acestor platforme au fost informați despre apreciarea, redistribuirea și repostarea de conținut generat de IA în scopuri de dezinformare în contextul alegerilor electorale.

Atacurile îndreptate împotriva unor personalități din diverse domenii

Printe primele atacuri de tip deepfake au avut că destinatari directorii executivi ai unor mari companii. Unul dintre aceste cazuri a avut loc în 2019, atunci când CEO-ul unei companii energetice din Marea Britanie a fost informat de către omologul său din Germania că trebuie să efectueze un transfer în valoare de 243.000 de dolari într-un cont dintr-o instituție bancară din Ungaria.

Atât de bine a fost executat deepfake-ul încât acesta a imitat inclusiv timbrul vocal specific CEO-ului din Germania. În 2022, unul dintre cele mai periculoase deepfake-uri a fost creat pentru a-l induce în eroare chiar pe directorul de comunicații al platformei cu criptomonede Binance Pay, Patrick Hillman. Au fost folosite imagini ale acestuia preluate din diverse interviuri și apariții televizate și implementate în cadrul unei videoconferințe pe Zoom.

În 2023 a fost creată o întreagă video conferință deepfake pentru a induce în eroare un angajat de la departamentul financiar care a fost convins să transfere suma de 25 de milioane de dolari în contul indicat de pseudo-directorul financiar al companiei. Calitatea deepfake-urilor este din ce în ce mai bună, astfel că este foarte dificil să le dovedești fără ajutorul Inteligenței Artificiale.

Instituțiile financiare – următoarea țintă majoră a atacurilor bazate pe deepfake?

În ultimii ani, numărul videoclipurilor online din categoria deepfake a crescut cu 900%. Este vorba despre hărțuire online, răzbunare, escrocherii legate de criptomonede, atacuri la persoane publice, prezentarea de informații defăimătoare false și atacuri la adresa instituțiilor financiare. Tehnologia deepfake perturbă măsurile de autentificare și verificare prin intermediul comenzilor vocale, ceea ce crește exponențial riscurile de expunere a informațiilor financiare.

Pe lângă expunerea comenzilor de autentificare vocală, infractorii cibernetici au comis furturi de identitate și au creat documente false pentru a obține acces în mod neautorizat la conturile unor clienți, cărora le-au sustras sume de bani sau în ale căror nume au solicitat și obținut imprunuturi ilegale. Conform specialiștilor din domeniul securității cibernetice, noii tehnologii deepfake ii sunt necesare doar 15 secunde pentru a clona vocea umană și pentru a genera conținut audio cu un nivel realist foarte precis.

Peste 78% dintre atacurile de phishing deepfake sunt derulate prin intermediul emailului, iar printre cele mai căutate sectoare în 2024 sunt serviciile profesioniste, îngrijirea și sănătatea, media online și criptomonedele. Rețelele de socializare sunt utilizate pentru promova astfel de deepfake-uri, numai în 2023 fiind identificate peste 500.000 de videoclipuri și clipuri audio din această categorie.

Este cât se poate de clar că tehnologia deepfake a depășit nivelul de divertisment, îndreptându-se către cea de amenințare la adresa securității online, iar cea mai bună dovadă este creșterea numărului de atacuri deepfake cu 3000% în anul precedent.