Era deepfakea: Umjetna inteligencija koristi voditelje vijesti za širenje lažnih priča
Deepfake vijesti za koje se čini da ih prenose vrhunski novinari i TV mreže postaju viralne širom interneta. To je prijelomna tačka za manipulisanje medijima, što stručnjaci vide kao problematično samo godinu dana uoči historijskih izbora.
Alexandra S. Levine, novinarka FORBES-a
“Sada intervjuiramo jedinog preživjelog u nedavnoj pucnjavi u školi: TikTokera Krishna Sahay”. Djelovalo je kao da je upravo to rekla voditeljica CBS Newsa Anne-Marie Green.
“To mora da je bilo apsolutno traumatizirajuće”, kazao je drugi voditelj Sahayju. “Šta je svima prolazilo kroz glavu u tim momentima?”
Sahay zastaje, prije nego što odgovori: “Pa meci, šta drugo?”
Zvijezda TikToka i YouTubea je među rastućim brojem korisnika društvenih medija koji angažuju generativnu umjetnu inteligenciju i drugi softver kako bi proizveli naizgled stvarne segmente vijesti od poznatih voditelja u velikim informativnim kućama – od Norah O'Donnell CBS Evening News do novinara CNN-a, BBC-a i šire. Zahvaljujući tehnologiji, voditelji izgledaju i zvuče kao stvarne verzije sami sebe. A zahvaljujući moćnim algoritmima platformi, senzacionalne priče i lažni naslovi s njihovim imenima i sličnostima (ili logotipom novinske kuće) postaju viralni pod krinkom vjerodostojnih vijesti.
Nedavno je pravi video dopisnice CNN-a Clarisse Ward koja se saginje kako bi se zaklonila od raketa u blizini granice između Izraela i Gaze postao viralan s lažnim zvukom koji potkopava njeno izvještavanje. Također je internetom kružio snimak suvoditeljice CBS This Morning Gayle King koji je stvorila umjetna inteligencija, promovišući proizvod koji nikada nije koristila niti za koji je čula. Deepfake voditelja CNN-ovog Andersona Coopera, u kojem kritikuje bivšeg predsjednika Donalda Trumpa također je nedavno postao viralan nakon što su ga Trump i njegov sin podijelili na platformi Truth Social i Twitteru. A Sahayjeve navodne vijesti — koje su mu pomogle da prikupi milionsku publiku — uključivale su više od desetak istaknutih voditelja iz niza TV mreža koji daju problematične komentare i intervjuišu kreatora dok se ruga pucnjavi u školi, terorističkim napadima 11. septembra, žrtvama silovanja i drugima kojima su kriminalci prozrokovali štetu.
U mnogim slučajevima, ovi izmišljeni segmenti u kojima se pojavljuju emiteri iz stvarnog života privlače više očiju nego legitimni isječci postavljeni na nalozima na društvenim mrežama novinskih organizacija. Jedan od Sahayjevih nedavnih deepfakesa Margaret Brennan iz Face The Nationa, na primjer, lajkovan je više od 300.000 puta na TikToku, dok je najpopularniji video objavljen istog dana na službenom TikTok nalogu Face The Nationa privukao samo 7.000 lajkova. Sahayu je zabranjen pristup TikToku jer je Forbes izvještavao o ovoj priči i on nije odgovorio na više zahtjeva za komentar i detaljnu listu pitanja. Iako je njegov TikTok nalog sada neaktivan, Sahayjeve dalekosežne video zapise je i dalje lako pronaći na platformi, ponovo ih postavljaju drugi korisnici, a određeni broj njih ostaje uživo na YouTubeu.
Većina velikih, mainstream platformi društvenih medija imaju politiku protiv deepfakesa. Glasnogovornica TikToka Ariane Selliers rekla je: “TikTok zahtijeva od kreatora da označe realističan sadržaj generiran umjetnom inteligencijom”, bilo naljepnicom ili u natpisu, i da TikTok “nastavlja da uklanja sadržaj koji može štetno obmanuti ili lažno predstavljati ljude”. (Većina Sahayjevih videa nije sadržavala takvo odricanje od odgovornosti.) TikTok zabranjuje deepfakese koji sadrže ličnost privatnih osoba i, kako navodi kompanija u svom pravilniku: “iako dajemo više slobode javnim ličnostima, ne želimo da one budu predmet zlostavljanja, ili da ljudi budu dovedeni u zabludu o političkim ili finansijskim pitanjima”. Glasnogovornica YouTube-a Elena Hernandez rekla je da “dugo imamo politiku vezano za dezinformacije kako bismo zabranili sadržaj koji je tehnički izmanipuliran ili fiksiran na način koji predstavlja ozbiljan rizik od ogromne štete”.
Glasnogovornica CNN-a Emily Kuhn odbila je komentarisati segmente deepfake vijesti, ali je rekla da je manipulirani zvuk u snimku CNN-ovog dopisnika u blizini granice između Izraela i Gaze “izmišljen, netačan i neodgovorno iskrivljuje stvarnost trenutka koji je CNN prenosio uživo, koji bi ljudi trebali sami gledati u potpunosti na pouzdanoj platformi”. O'Donnell, voditeljka CBS-a, nije odmah odgovorila na zahtjev za komentar, ali glasnogovornica CBS News-a April Andrews rekla je da “CBS svoja prava intelektualne svojine shvata veoma ozbiljno”. Glasnogovornik BBC-ja Robin Miller rekao je da “kad god saznamo za deepfake video, naši advokati poduzimaju mjere” i da “u svijetu sve većeg broja dezinformacija, pozivamo sve da provjere linkove i URL-ove kako bi bili sigurni da dobijaju vijesti iz pouzdanog izvora”
Nova era za deepfakes
Deepfakes i nižebudžetni “cheapfakes” nisu nikakve novine — i samo ovog mjeseca korišteni su u vezi sa brojnim poznatim osobama, od Toma Hanksa (čiji je AI dvojnik promovirao zubarski plan) do YouTube-ovog vrhunskog kreatora MrBeasta (koji je predstavljen kao da promoviše veliku kampanju poklanjanja mobitela iPhone 15). “Jesu li platforme društvenih medija spremne da se nose sa porastom AI deepfakesa?” upozorio je na Twitteru MrBeast, čije je pravo ime Jimmy Donaldson. “Ovo je ozbiljan problem”. (Informacija: Donaldson bi trebao postati član Forbesovog odbora kada se završi planirana prodaja kompanije.) Nadzorni odbor Facebooka također je ove sedmice najavio slučaj vezan za izmanipulirani video predsjednika Joea Bidena.
Ali lažne vijesti koje se oslanjaju na glasove i lica visokoprofiliranih novinara izgledaju kao noviji i potencijalno opasniji pristup. Ranije ove godine, analitička kompanija za društvene mreže Graphika objavila je istraživanje o “novom i prepoznatljivom obliku video sadržaja” koji je pronašla na Facebooku, Twitteru i YouTubeu: voditelji vijesti koje je generirala umjetna inteligencija koji su bili dio “prokineske političke spam operacije” (Kineski državni mediji su također eksperimentisali sa voditeljima vijesti sa vještačkom inteligencijom). I duži, produkcijski deepfake video snimci, poput nekih segmenata vijesti od Sahaya, nastavljaju da dobijaju na popularnosti na svim platformama.
“Morat ćemo ozbiljnije da se pozabavimo zaštitom prava ljudi čiji se lik i glas kooptiraju”.
Hany Farid, profesor na UC Berkeley i stručnjak za deepfake
“Video snimci voditelja vijesti su uvjerljiv alat za širenje dezinformacija”, rekao je Hany Farid, profesor na UC Berkeley's School of Information koji je svjedočio pred Kongresom o deepfakeu. “U mnogim slučajevima, voditelji su poznati gledateljima i njima se vjeruje, a čak i ako nisu, opći format vijesti je poznat i stoga im se više vjeruje”.
“Rezultati, iako još uvijek nisu savršeni, vrlo su dobri, posebno kada se gledaju na mobilnom uređaju i kada se gledaoci brzo kreću društvenim medijima”, dodao je Farid, čije se istraživanje fokusiralo na ljudsku percepciju i analizu slike. “Moraćemo ozbiljnije da se pozabavimo zaštitom prava ljudi čiji se lik i glas kooptiraju”.
Deepfakes se često koriste u “memovima” kako bi se ljudi nasmijali, a ekstremniji scenario – da bi se ovaj izmanipulirani sadržaj mogao koristiti za širenje pogrešnih ili dezinformacija s ciljem promjene toka izbora, inicijalnih javnih ponuda kompanija i drugih događaja s visokim ulozima – još se nisu pojavili. Ali izbori 2020. znatno su prethodili eksploziji umjetne inteligencije koju je započeo ChatGPT, koji je ranije ove godine postao jedna od najbrže rastućih potrošačkih aplikacija u historiji i doprinijeo je širokom usvajanju tehnologije i milijardama u financiranju AI startupova.
Sada, gotovo svako može koristiti jednostavan za korištenje, lako dostupan AI softver za pravljenje video zapisa ili audio zapisa javnih ličnosti (ili prosječnih ljudi) koji rade i govore stvari koje zapravo nikada nisu radili ili govorili. To je pojačalo strahove da će AI transformisati predstojeće izbore 2024. u haotičan Divlji zapad – zabrinutost koja je samo pojačana porastom dubokih lažnjaka koji se koriste kao naizgled pravi novinski izvještaji.
Najveća briga, prema advokatu Kevinu Goldbergu, stručnjaku za Prvi amandman na neprofitnoj organizaciji Freedom Forum sa sjedištem u DC-u, predstavlja to da bi se video snimci koji koriste stvarne voditelje vijesti u situacijama koje izgledaju realistično mogli koristiti kao “agresivni oblik dezinformacija… prava zabrinutost s kojom ćemo se morati suočiti s izlaskom na izbore 2024”.
Ali upozorio je da “također ne želimo da pretjeramo”.
“Da, ovdje postoji potencijal za štetu”, rekao je za Forbes. “Ali naš pravni sistem i naše društvo su više nego dobro opremljeni za rukovanje ovim novim medijem”.