Što može učiniti deep fake, odnosno lažno ali uvjerljivo imitiranje osobe na način da joj imputiraš ono što osoba nije rekla, a sve izgleda stvarno i uvjerljivo? Internet je preplavljen takvim videima. Svaki ambiciozniji pojedinac to može napraviti bez ikakvoga problema. Hoću reći, to možete uz pomoć besplatnih ili jeftinih alata i s prosječnim računalom napraviti i vi. Izrađen s jeftinijim alatima deep fake se otkriva u mnogim detaljima, ali kad ga napravi znalac uz profesionalni alat onda je uvjerljivost ogromna. Pasivan konzument informacija ne može ništa primijetiti. Fizički, znači lice, stas, boja i ton glasa i dikcija su kao kod originala.
Stil govora, upotreba vokabulara i gestikulacije na tim krivotvorinama vrlo su vjerne originalu. Još kad se prouči i preslika idejni koncept i uvjerenje koje zastupa neka osobe, recimo utjecajni političar, javno angažirani znanstvenik ili YouTube komentator, a promijene se samo ciljane ključne informacije koje se žele odaslati, onda je puno lakše prevariti primatelja informacija. Oblik manje vještog deep fakea često možemo vidjeti ma reklamama čestim na društvenim mrežama, pa recimo neki poznati liječnik preporučuje te i te lijekove, poznati sportaš sportsku odjeću neke marke, a sve je lažno. Samo vaš račun s kojega plaćate za online nabavu nije lažan. Puno je na Internetu priča onih koji su nasjeli i ostali bez para ili su dobili nešto što ne odgovara reklamiranom proizvodu.
Najnoviji su primjer deep fake videa s Yanisom Varoufakisom. Imali su stotine tisuća pregleda, neki i preko milijun u prvih 12 sati, a zapravo njega nije bilo na videu. Bio je to lažni Yanis Varoufakis kojega je stvorila umjetna inteligencija, a gledatelji su bili uvjereni da je to on sve dok sam nije demantirao te uratke. On nije bilo tko, Yanis Varoufakis istaknuti je grčki ekonomist, političar i pisac, bivši ministar financija u Grčkoj i čovjek vrlo utjecajan u političkom svijetu, osnivač je pan europskog lijevog pokreta DiEM25 i član je Progresivne Internacionale s Bernijem Sandersom. Ima i svoj YouTube kanal. Dakle čovjek je ogromnog dosega i utjecaja među ljevicom.
Lažni videi s dvojnikom Yanisa Varoufakisa imali su milijune komentara. Ljudi su se uključili u diskusiju ne znajući da su prevareni. Deseci kanala prenosili su isječke s videa, prilagođavali su thumbnaile s dobrim mamcem da bi na poznatom ekonomistu priskrbili ogroman broj gledanja, lajkanja i komentara.
Varoufakis priča kako su ga zvali dobri znanci da mu čestitaju na hrabrosti i iskoraku koji je napravio u tim videima. I desničari koji ga ne vole odmah su prihvati njegovu novu argumentaciju i počeo im se sviđati. Varoufakis je kliknuo na te video da vidi o čemi svi pričaju, po kojoj konkretnoj izrečenoj misli su ga zapazili – kad ono lažnjak. Otkrio je u tim videima nekoliko minuta sebe koji nije on. Čuo je kako govori ono što nikada nije rekao niti bi to rekao, ali vrlo je slično onome kako on govori. Ista je i argumentacija kakvu on inače upotrebljava. Jedino što nije bilo isto to su ubačene sentencije koje on nikada nije rekao niti bi ih rekao. Izjavio je „Ne mogu ništa učiniti po tom pitanju. YouTube odbija ukloniti ove deep fakeove. A čak i ako to učine, ponovo se pojavljuju brže nego što ih mogu ugasiti. Pretpostavljam da svi moramo naučiti sumnjati u sve što vidimo i čujemo. Možda je ovo početak samospaljivanja društvenih mreža.“ Gorko se potom našalio, možda je moj dvojnik popularniji nego što sam ja.
Pisao je YouTubu, Googlu i Meti, ali dobio je odgovore koje generira umjetna inteligencija. Nije uspio doći do konkretne osobe iz sustava da razgovara sa živim čovjekom. Neke su kanale maknuli , ali ti su se kanali vrlo brzo regenerirali. Nazvao je to “techno-feudalnim” problemom Big Techa, gdje algoritmi favoriziraju klikanje, lajkove, komentare i engagement, profit iznad istine. Profit je smisao, a ne istina.
Umjetna inteligencija u pogonu tih kompanija vrlo brzo reagira ako netko povrijedi autorska prava pa bez dozvole kopira tuđe videe, ali kad se dogodi deep fake onda ulazimo u začarani krug labirinta sa zamršenim hodnicima iz kojih je nemoguće naći izlaz. Vjerojatno je i tu po srijedi ekonomski interes, biznis model.
Hoćemo li od sada moći vjerovati bilo kojoj informaciji koja se kao video pojavljuje na društvenim mrežama, pogotovo kad se radi o manje poznatim kanalima koji sve više preplavljuju medijski prostor kao i oni etablirani, veliki, glavnostrujaški mediji. Sve se čini da smo bespomoćni u tome, da je budućnost javnog informiranja crna, manipulativna, da nikome više ne možemo vjerovati ništa. I to zaista sve više postaje tako.
No, Yanis Varoufakis na sve to rekao je jednu filozofsku misao koja se čini kao rješenje. Rješenje koje zahtjeva angažman i društveni odgovornost koju bismo svi kao pojedinci ionako trebali imati umjesto da nas deep fejk, ili živi ljudi svejedno, varaju na svakom mjestu i život čine kaotičnim svijetom. Da ga parafraziram – ako smo došli do situacije u kojoj više nitko ne može vjerovati nikome i ne možemo znati je li to što netko govori baš to što je taj čovjek rekao, onda nam ne preostaje drugo nego da sami procjenjujemo vrijednost onoga što je netko rekao kroz meritum argumenta, a ne po tome koliko volimo ili ne volimo neku osobu i bez obzira na to koliko elokventno ili manje elokventno ta osoba, odnosno njen deep fake dvojnik govori.
I na kraju pitanje, prestaje li vrijeme kad su nam pojedini ljudi uzori i nastojimo slijediti njihove ideje i način kako vode ili interpretiraju svijet, i dolazi li vrijeme naših osobnih, punih i angažiranih sloboda u kojem ćemo bez straha i slobodno javno govoriti ono što mi sami kao nezarobljeni, neupregnuti pojedinci bilo čijim uzdama, mislimo i zagovaramo?
Nenad Predovan, urednik i voditelj YT podcasta Štokajča
