Educați-vă angajații pentru recunoașterea materialelor Deepfake

Deepfake este o formă de inteligență artificială (AI) care poate fi folosită pentru a crea imagini, sunete și videoclipuri false convingătoare. Termenul „deepfake” combină conceptul de deep- learning cu ceva fals. Deepfake compilează imagini și sunete false și le unește folosind algoritmi de învățare automată. Ca urmare, creează oameni care nu există și evenimente care nu s-au întâmplat de fapt. Tehnologia deepfake este folosită în special în scopuri nefaste, cum ar fi inducerea în eroare a publicului prin răspândirea de informații sau propagandă false.

În ce scop e folosită aceasta tehnologie?

• Exscrocherii și farse
• Manipulare electorală
• Inginerii Sociale – convingând-ui pe oameni că persoane de încredere le cer să facă ceva ce nu e real, cum ar fi să transfere niște bani unui presupus furnizor.
• Acțiuni de dezinformare – teorii conspiraționiste, teorii incorecte cu privire la aspect politice sau sociale.
• Furtul de identitate - atacatorii folosesc tehnologia pentru a crea documente false sau a falsifica vocea victimei lor, ceea ce le permite să creeze conturi sau să cumpere produse pretinzând că sunt acea persoană.

Deepfake-urile pot fi identificate prin recunoașterea activității neobișnuite sau a mișcării nenaturale:

Mișcarea nenaturală a ochilor - Lipsa mișcării ochilor este un semn bun de deepfake. Replicarea mișcării naturale a ochilor este o provocare, deoarece ochii oamenilor îl urmăresc de obicei și reacționează la persoana cu care vorbesc.Lipsa clipirii este, de asemenea, un defect al videoclipurilor falsificate. Replicarea acțiunii naturale și umane a clipirii obișnuite este dificilă cu tehnologia deepfake.

Expresii faciale lipsite de naturalețe.Forma a corpului nenaturală - Dacă corpul unei persoane nu pare să aibă o formă naturală, atunci cel mai probabil este fals. Tehnologia deepfake se concentrează în mare măsură pe fețe, mai degrabă decât pe întregul corp, ceea ce duce la forme nenaturale ale corpului.

Parul ciudat- Imaginile false nu pot genera caracteristici individuale realiste, cum ar fi părul încrețit sau dezordonat.

Culori ale pielii lipsite de naturalețe.

Mișcări sacadate și imagini distorsionate atunci când oamenii se mișcă sau își întorc capul.Tonurile nenaturale ale pielii, imaginile deepfake sunt, de asemenea, predispuse la decolorare, umbre greșite și iluminare neobișnuită.

Sincronizare proastă a buzelor - Videoclipurile deepfake vor include probabil o sincronizare buzelor care nu se aliniază cu cuvintele rostite de persoanele din videoclip.Un “produs“ asemanător este shallowfake. De exemplu, este editat un discurs al unei personalități politice facându-i vocea neclară, aspect ce sugerează ca era beată.

Sunt luate măsuri pentru a combate deepfake-urile și pentru a preveni partajarea online a imaginilor și videoclipurilor. Facebook a angajat cercetători de la universități pentru a-l ajuta să construiască un detector de deepfake. Twitter are politici de prevenire a conținutului fals și lucrează pentru etichetarea imaginilor false care nu sunt eliminate imediat. YouTube a promis, de asemenea, că va bloca orice conținut deepfake legat de alegerile și recensământul din 2020 din SUA. Multe dintre soluțiile oamenilor de știință au devenit rapid ineficiente pe măsură ce tehnologia atacatorilor evoluează și creează rezultate mai convingătoare. Exista programe de filtrare care funcționează și pentru a preveni deepfake-urile. Programul companiei de inteligență artificială DeepTrace acționează în același mod ca un filtru antivirus sau de spam și redirecționează conținutul fals într-o zonă de carantină, în timp ce Reality Defender, de la AI Foundation, își propune să eticheteze conținutul manipulat înainte ca acesta să poată face vreun rău.

Una dintre cele mai bune modalități de a preveni deepfake-urile este ca angajații să înțeleagă semnele imaginilor și videoclipurilor false. Cele mai bune practici corporative includ consilierea utilizatorilor cu privire la semnele revelatoare ale atacurilor cibernetice și ale activității online frauduloase.