Tindem să avem încredere în conținutul înregistrărilor video și audio. Dar cu inteligența artificială, chipul sau vocea oricui pot fi recreate cu o precizie maximă. Produsul este un deepfake, o uzurpare a identității care poate fi folosită pentru meme, dezinformare sau porno.
O privire la Nicholas Cage deepfakes sau a lui Jordan Peele deepfake PSA arată clar că avem de-a face cu noi tehnologii ciudate. Aceste exemple, deși relativ inofensive, ridică întrebări despre viitor. Putem avea încredere în video și audio? Putem trage oamenii la răspundere pentru acțiunile lor pe ecran? Suntem pregătiți pentru deepfake-uri?
Deepfake-urile sunt noi, ușor de realizat și cresc rapid
Tehnologia deepfake are doar câțiva ani, dar a explodat deja într-un lucru care este atât captivant, cât și neliniştitor. Termenul „deepfake”, care a fost inventat pe un fir Reddit în 2017, este folosit pentru a descrie recrearea aspectului sau a vocii unui om prin inteligența artificială. În mod surprinzător, aproape oricine poate crea un deepfake cu un computer prost, ceva software și câteva ore de muncă.
Credeți sau nu, imaginea din stânga este deepfake-ul.
Ca în cazul oricărei tehnologii noi, există o confuzie în jurul deepfake-urilor. Videoclipul „Beat Pelosi” este un exemplu excelent al acestei confuzii. Deepfake-urile sunt construite de AI și sunt făcute pentru a uzurpa identitatea oamenilor. Videoclipul „dunk Pelosi”, care a fost denumit deepfake, este de fapt doar un videoclip al lui Nancy Pelosi care a fost încetinit și corectat pentru a adăuga un efect de vorbire neclară.
Acesta este, de asemenea, ceea ce face deepfakery diferit de, să zicem, CGI Carrie Fisher din Star Wars: Rogue One. În timp ce Disney a cheltuit o mulțime de bani studiind chipul lui Carrie Fisher și recreând-o manual, un tocilar cu niște software deepfake poate fă aceeași treabă gratis într-o singură zi. AI face ca munca să fie incredibil de simplă, ieftină și convingătoare.
Cum să faci un Deepfake
La fel ca un elev într-o clasă, AI trebuie să „învețe” cum să-și îndeplinească sarcina intenționată. Face acest lucru printr-un proces de încercare și eroare în forță brută, denumit de obicei învățare automată sau învățare profundă. Un AI care este conceput pentru a finaliza primul nivel al Super Mario Bros, de exemplu, va juca jocul din nou și din nou până când va găsi cea mai bună modalitate de a câștiga. Persoana care proiectează IA trebuie să furnizeze câteva date pentru a începe lucrurile, împreună cu câteva „reguli” atunci când lucrurile merg prost pe parcurs. În afară de asta, AI face toată munca.
Același lucru este valabil și pentru recrearea facială deepfake. Dar, desigur, recrearea fețelor nu este același lucru cu a bate un joc video. Dacă ar fi să creăm un deepfake al lui Nicholas Cage care găzduiește spectacolul Wendy Williams, iată de ce ne-ar trebui:
Un videoclip de destinație: În prezent, deepfake-urile funcționează cel mai bine cu videoclipuri clare și curate de destinație. De aceea, unele dintre cele mai convingătoare deepfake-uri sunt ale politicienilor; ei tind să stea nemișcați pe un podium sub o lumină constantă. Deci, avem nevoie doar de un videoclip cu Wendy stând nemișcată și vorbind.
Două seturi de date: pentru ca mișcările gurii și ale capului să pară precise, avem nevoie de un set de date al feței lui Wendy Williams și un set de date al feței lui Nicholas Cage. Dacă Wendy se uită în dreapta, avem nevoie de o fotografie cu Nicholas Cage privind în dreapta. Dacă Wendy deschide gura, avem nevoie de o poză cu Cage deschizând gura.
După aceea, lăsăm AI-ul să-și facă treaba. Încearcă să creeze deepfake din nou și din nou, învățând din greșelile sale pe parcurs. Simplu, nu? Ei bine, un videoclip cu chipul lui Cage pe Wendy William’s