Tendința actuală este de a acorda încredere deplină conținutului video și audio. Cu toate acestea, avansul inteligenței artificiale a permis recrearea cu o precizie uluitoare a feței sau vocii oricui. Astfel a apărut deepfake-ul, o formă de uzurpare a identității, care poate fi folosită atât în scopuri umoristice, cât și pentru dezinformare sau conținut pornografic.
O analiză a deepfake-urilor cu Nicholas Cage sau a materialului video PSA deepfake realizat de Jordan Peele demonstrează clar că ne confruntăm cu tehnologii noi și neobișnuite. Chiar dacă aceste exemple par relativ inofensive, ele ridică întrebări importante despre viitor. Vom mai putea oare avea încredere în materialele video și audio? Vom putea trage la răspundere persoanele pentru acțiunile lor de pe ecran? Suntem oare pregătiți pentru proliferarea deepfake-urilor?
Deepfake-urile: O Tehnologie Nouă, Accesibilă și în Continuă Ascensiune
Tehnologia deepfake este relativ recentă, dar a evoluat rapid într-un fenomen fascinant și, în același timp, îngrijorător. Termenul „deepfake”, inventat pe un forum Reddit în 2017, descrie procesul de recreare a aspectului sau vocii unei persoane cu ajutorul inteligenței artificiale. În mod surprinzător, aproape oricine poate crea un deepfake folosind un computer personal, câteva programe specializate și câteva ore de muncă.
Poate părea greu de crezut, dar imaginea din stânga este un deepfake.
Ca în cazul oricărei tehnologii noi, deepfake-urile sunt înconjurate de confuzii. Un exemplu elocvent este videoclipul „Beat Pelosi”, care a fost inițial considerat un deepfake. În realitate, deepfake-urile sunt generate de inteligența artificială și sunt concepute pentru a uzurpa identitatea. Videoclipul menționat, în care Nancy Pelosi părea să vorbească neclar, era de fapt un videoclip autentic, care a fost doar încetinit și modificat pentru a crea efectul dorit.
Această diferență clarifică și distincția dintre deepfake-uri și efectele CGI, precum cele folosite pentru Carrie Fisher în Star Wars: Rogue One. În timp ce Disney a investit resurse considerabile în studierea și recrearea manuală a feței lui Carrie Fisher, un entuziast cu acces la programe deepfake poate realiza același lucru gratuit, într-o singură zi. Inteligența artificială a transformat acest proces într-o activitate simplă, ieftină și incredibil de convingătoare.
Procesul de Creare al unui Deepfake
Asemenea unui elev într-o clasă, inteligența artificială are nevoie să „învețe” cum să-și îndeplinească sarcina. Acest lucru se realizează printr-un proces de încercare și eroare, denumit de obicei învățare automată sau învățare profundă. Un algoritm de inteligență artificială, programat să treacă primul nivel din Super Mario Bros, va repeta jocul de nenumărate ori, până când va identifica strategia optimă pentru a câștiga. Creatorul algoritmului oferă câteva date inițiale, împreună cu anumite „reguli” pentru situațiile în care lucrurile nu merg conform planului. Restul muncii este realizată de AI.
Același principiu se aplică și în cazul recreării faciale deepfake. Desigur, recrearea fețelor nu este identică cu jocul video. Dacă dorim să creăm un deepfake cu Nicholas Cage în rolul gazdei Wendy Williams, am avea nevoie de următoarele:
Un videoclip de bază: Deepfake-urile funcționează cel mai bine cu videoclipuri clare și de bună calitate. Din acest motiv, cele mai convingătoare deepfake-uri sunt cele cu politicieni, care tind să stea nemișcați pe un podium, sub o lumină uniformă. Prin urmare, este necesar un videoclip cu Wendy stând nemișcată și vorbind.
Două seturi de date: Pentru ca mișcările gurii și ale capului să fie precise, avem nevoie de un set de date cu fața lui Wendy Williams și un set de date cu fața lui Nicholas Cage. Dacă Wendy se uită la dreapta, este necesară o imagine cu Nicholas Cage privind în dreapta. Dacă Wendy deschide gura, este necesară o imagine cu Cage deschizând gura.
Ulterior, AI-ul își va face treaba. Va încerca să creeze deepfake-ul în mod repetat, învățând din greșelile sale. Simplu, nu-i așa? Rezultatul va fi un videoclip cu fața lui Cage suprapusă peste cea a lui Wendy Williams.