Identificarea deepfake-urilor nu este o sarcină ușoară; dimpotrivă, devine tot mai complicată cu fiecare moment care trece.
Tehnologia a fost întotdeauna o unealtă cu două fețe. Există aspecte pozitive, dar și posibilități de utilizare negativă.
Deși frazele de mai sus ar putea părea poetice, ele descriu realitatea Inteligenței Artificiale (IA) într-un mod evident.
Deepfake-urile sunt o astfel de aplicație a IA care permite crearea de videoclipuri, imagini și înregistrări audio extrem de realiste, adesea greu de distins de cele autentice chiar și pentru observatori experimentați.
Ce sunt Deepfake-urile?
Simplu spus, deepfake-urile sunt materiale media falsificate, generate cu ajutorul unor aplicații disponibile pe computere sau telefoane mobile. Aceste aplicații utilizează algoritmi specializați pentru a înlocui anumite părți din materialul original cu altele, creând astfel o aparență de realitate.
Astfel, scopul este de a convinge sau a distra publicul cu aceste creații sintetice.
În trecut, crearea unor videoclipuri atât de convingătoare era un proces foarte dificil. Acum, tot ce este necesar este un calculator cu o placă grafică performantă și câteva zile de lucru.
Citește și: Aplicații Deepfake pentru a crea cele mai bune meme
Cu toate acestea, nu este suficient doar atât pentru a produce o clonă perfectă a vocii, expresiilor faciale și a altor detalii.
Totuși, procesul devine din ce în ce mai facil odată cu perfecționarea algoritmilor și creșterea puterii de calcul a hardware-ului modern.
Drept urmare, vom întâlni din ce în ce mai multe deepfake-uri.
De aceea, având în vedere posibilele abuzuri, este esențial să fim vigilenți și să le putem diferenția de realitate.
Cum să depistăm Deepfake-urile?
Nu toate deepfake-urile sunt realizate cu aceeași atenție la detalii. De aceea, nu toate tehnicile de identificare funcționează în toate situațiile. Unele conțin indicii evidente de falsificare, în timp ce altele necesită o observare atentă sau chiar folosirea unor instrumente IA de specialitate.
Nuanța pielii
Acesta este primul aspect la care ar trebui să fim atenți. Zona prelucrată, de obicei fața, va avea mici diferențe de culoare în comparație cu restul părților vizibile ale corpului.
În imaginea de mai sus, cel din stânga provine dintr-un videoclip fals în care președintele ucrainean, Volodimir Zelenski, își îndemna trupele să se predea Rusiei.
Nimeni nu a fost înșelat de această încercare neîndemânatică de copiere și lipire, fiind imediat identificată ca un deepfake.
Expresiile faciale
Acesta este un indiciu important, în special atunci când amatorii încearcă să imite experții în crearea de deepfake-uri. Creațiile lor se confruntă adesea cu mișcări nefirești ale buzelor, lipsite de pauzele specifice vorbirii umane, ceea ce le demască ca fiind false.
Unii algoritmi au funcții care simulează pauzele de respirație, dar chiar și în aceste cazuri se pot observa opriri și mișcări identice ale capului, care urmează un tipar mecanic, greu de ignorat.
Clipirea este un alt aspect care poate dezvălui un deepfake. Ea se desfășoară în cicluri (conform programării algoritmului), ceea ce o face să pară mai puțin naturală atunci când este comparată cu un videoclip real al aceleiași persoane.
Un alt indiciu este mișcarea ochilor. Inteligența artificială, fiind o mașină lipsită de emoții și distrageri, pare adesea mai concentrată decât un om obișnuit în timp ce vorbește.
În concluzie, deepfake-urile sunt mai ușor de detectat, dacă nu sunt realizate cu perfecțiune (aproape) absolută.
Textura și imperfecțiunile pielii
Cum ne putem da seama dacă acesta nu este adevăratul Morgan Freeman?
Un aspect pozitiv al videoclipului prezentat este calitatea înaltă. Poți schimba rezoluția la cea mai bună calitate (4k, dacă este disponibilă) pentru a observa cu atenție eventualele semne ale prelucrării artificiale.
Cu cât ecranul este mai mare, cu atât mai bine. Alternativ, poți face o captură de ecran și să mărești imaginea pentru a identifica eventualele anomalii.
Poți observa imperfecțiunile pielii? Aici cedează algoritmii, în fața micilor detalii, oricât de avansate ar fi tehnologiile.
Pielea pare ușor neregulată, iar reproducerea părului facial (și a celui de pe cap) nu este naturală, având un aspect „lipit”.
Acest lucru te va ajuta să analizezi mai eficient și exemplele următoare:
Se poate distinge clar pielea artificială, mai ales în zona mustății, a bărbii și a liniei părului.
Bărbia, sprâncenele, fața (cea reală fiind mai subțire), nasul etc. – compară-le cu fotografia reală (din dreapta), și diferența devine evidentă.
Pentru a sublinia, compararea cu o imagine reală facilitează identificarea falsului.
Detalii subtile
Sunt multe lucruri care se întâmplă în timpul vorbirii. Fiecare persoană are propriul său stil, care influențează mișcarea buzelor, limbii, bărbiei, obrajilor etc., într-un mod unic.
În plus, tehnologia deepfake nu a reușit încă să imite perfect detaliile din interiorul gurii în timpul vorbirii. De exemplu, în deepfake-ul lui Obama nu se pot distinge dinții inferiori individuali (mandibulari).
Tot ceea ce vedem este o bandă albă în partea de jos, fără nicio mișcare a limbii.
Vizionați orice înregistrare autentică a lui Obama și veți observa că el este mult mai expresiv, cu mult mai multe mișcări faciale decât această replică AI.
În plus, se poate observa că videoclipul în sine nu este foarte clar. Calitatea este slabă, fiind comprimată pentru a ascunde realitatea sau din cauza limitărilor tehnice.
Tranzițiile
O limitare a procesului de creare a deepfake-urilor este generarea lor cadru cu cadru. Fiecare cadru trebuie verificat cu atenție pentru a se asigura că tranziția este perfectă.
Din acest motiv, cele mai convingătoare videoclipuri deepfake sunt adesea limitate în ceea ce privește mișcările faciale. Acestea arată doar fețe din față, fără perspective laterale, deoarece tranzițiile dintre diferite unghiuri pot dezvălui punctele slabe ale creației.
Observă acest cadru dintr-un deepfake al lui Tom Cruise:
Dacă încetinești videoclipul și observi cu atenție intervalul dintre 35 și 40 de secunde, vei observa anumite zone neclare în timpul tranziției de la profil la față.
Acestea sunt, fără îndoială, cele mai dificil de ascuns și cele mai utile indicii pentru a demasca astfel de creații AI.
Iată, așadar, câteva sfaturi care te pot ajuta să identifici deepfake-urile și să limitezi dezinformarea. Rezumând:
| 1. | Verifică diferențele de nuanță ale pielii. |
| 2. | Caută sincronizarea nefirească a buzelor, mișcări robotice sau lipsa clipirii etc. |
| 3. | Mărește imaginea pentru a observa dacă textura pielii, reproducerea părului etc. sunt naturale. |
| 4. | Compară expresiile faciale și stilul de vorbire cu înregistrări autentice. |
| 5. | Verifică dacă există versiuni de înaltă calitate ale înregistrării. |
| 6. | Efectuează o căutare rapidă pe Google pentru a verifica dacă este o înregistrare falsă. |
| 7. | Observă dimensiunile generale ale feței și compară-le cu cele reale. |
| 8. | Încetinește videoclipul pentru a detecta tranziții imperfecte. |
| 9. | Analizează detaliile din interiorul gurii pentru a vedea dacă par naturale. |
| 10. | Distribuie și cere prietenilor și familiei să-și dea cu părerea în caz de îndoială. |
Descoperirea Deepfake-urilor 101
Deepfake-urile nu sunt perfecte!
Deși am vorbit doar despre deepfake-urile video, materialele audio create de AI suferă de limitări similare. Și, chiar dacă mașinile devin din ce în ce mai performante, ele vor rămâne mereu în urma omului.
Totuși, învățarea nu este completă fără a pune și în practică cunoștințele dobândite. În acest sens, am realizat acest ghid despre ce sunt deepfake-urile și cum să le creăm.