ChatGPT se pretvorio u asistenta za špijuniranje društvenih mreža

Thomas Brewster, novinar FORBES-a

Većina ljudi koristi ChatGPT kako bi dobili odgovor na jednostavna pitanja, uređivali mailove ili za korisno (i beskorisno) programiranje. Međutim, kompanije koje se bave razvijanjem softvera za špijunažu trenutno istražuju mogućnosti kako ga iskoristiti i druge AI alatke u svrhe nadziranja ljudi na društvenim mrežama.

Na prezentaciji u Milipol konferenciji nacionalne bezbjednosti u Parizu, firma koja se bavi ovim online nadziranjem ‘Social Links’, demonstrirala je kako ChatGPT obavlja “analizu sentimenta”, gdje AI ispituje raspoloženje korisnika društvene mreže ili ukazuje na česte teme neke grupe. Ovo može pomoći predvidjeti da li će neka online aktivnost preći u fizičko nasilje i zahtijevati intervenciju policije.

Kompanija Social Links, koju je osnovao ruski biznismen Andrej Kulikova 2017. godine, sada trenutno ima urede u Nizozemskoj i New Yorku; prethodno, Meta je prepoznala ovu firmu kao špijunskog prikupljača podataka kasne 2022. godine, time uklonivši 3,700 Facebook i Instagram naloga koje je navodno koristila za prikupljanje podataka na ovim društvenim mrežama.

Kompanija negira povezanost s ovim nalozima, te da ova tvrdnja Mete nije naudila njenom razvoju: izvršni direktor prodaje Rob Billington rekao je da imaju više od 500 klijenata, od kojih je polovina u Evropi, te preko stotine u Sjevernoj Americi. Ovakva upotreba ChatGPT-a od strane Social Linksa dokazuje kako ova impresivna alatka iz 2023. može ohrabriti industriju špijunaže koja razmatra upotrebu umjetne inteligencije kao alatku za javnu bezbjednost.

“Nikada neće biti moguće učiniti AI nepristrasnim…”
Andy Martin, Cellebrite inžinjer

Prema višem političkom analitičaru udruge Američkih Građanskih Sloboda, Jay Stanleyu, upotreba AI alatki kao što je ChatGPT kako bi se povećalo nadziranje društvenih mreža će vjerovatno “nadmašiti praćenje individua na način koji je nemoguć s ljudima,” rekao je za FORBES.

To je problem, ne samo jer će ovakvo tehnološko prisluškivanje povećati nepreciznosti i pristrasnosti. Već će i zamrznuti diskusije na internetu jer će se svi osjećati “kao da ih neko gleda, ne od strane ljudi, već od AI agenata koji imaju mogućnost da prijave stvari ljudima koji vam mogu prirediti posljedice,” dodao je Stanley. ChatGPT-ev tvorac, OpenAI, nije odgovorio na zahtjeve za komentar. Politika upotrebe ChatGPT-a ne dozvoljava “aktivnosti koje narušavaju privatnost ljudi,” ubrajajući “praćenje ili nadziranje pojedinca bez njegove dozvole.”

“Mi se strogo držimo politike upotrebe OpenAI-a,” rekao je Hector Talavera, direktor za komunikaciju u Social Linksu. “Upotrebljavamo ChatGPT za analizu teksta, sužavanje sadržaja, prepoznavanje tema, klasifikaciju teksta kao pozitivnog, neutralnog ili negativnog, te procjena sentimenta za razne dijelove teksta.” (Također je ponovio jednu od prethodnih izjava, u kojoj kaže da firma nije imala veze s ruskom vladom i da je Kulikov osudio invaziju Rusije na Ukrajinu.)

Glasnogovornik za Metu, Ryan Brack, rekao je da imaju tim od preko stotinu ljudi koji su fokusirani na odbijanje nedozvoljenog prikupljanja podataka. “Sprovodimo naše mjere portiv nepriznatih prikupljača podataka, u ovo spada i pravno djelovanje, ukoliko prepoznamo da se išlo protiv naših uslova,” rekao je Brack.

Talavera Social Linksa rekao je da je Meta pogriješila prilikom povezivanja ove kompanije s uklonjenih 3700 naloga, dodavši da se ne bave masovnim prikupljanjem podataka s društvenih mreža. Naprotiv, korisnik se obrati Social Linksu da uzme objave koje su relevantne za njihovu istragu, koje korisnik kasnije analizira u okviru programa Social Linksa. Podaci se nakon toga pohranjuju na korisnikov kompjuter, ne na serveru Social Linksa. “Puno je lakše i efikasnije nego koristiti Google i web pretraživače, u osnovi, ista je stvar,” dodao je Talavera.

Ovo ipak preostaje moćan alat za nadziranje aktivnosti ljudi na internetu, ova firma ovo promoviše kao korisnim za praćenje tokova protesta. Prilikom konferencije, Social Links analitičar Bruno Alonso koristio je ovaj softver kako bi procijenio reakcije na internetu na nedavni kontroverzni potez trenutnog premijera Španije da da amnestiju političarima Katalonije koji su pokušali da ostvare nezavisnost 2017. godine.

Ovaj instrument je skenirao Twitter za objave koje sadrže ključne riječi i hashtagove, uključujući “amnestiju”, procesuirao ih je putem ChatGPT-a, koji je dalje ocijenio njihov sentiment pozitivnim, negativnim ili neutralnim, prikazujući rezultate na grafikonu. Ovaj instrument je također u mogućnosti pravljenja brzog sažetka i parčanja diskusija na velikim društvenim mrežama kao što je Facebook, odabirući teme o kojima se često priča.

Također je moguće tražiti za prepoznavanje lica ukoliko je instrument označio nekoga ko predstavlja “negativan” sentiment na društvenim mrežama, prema prezentaciji Alonsa. Korisnik može odabrati lice nekoga, upotrebom algoritama Social Linksa, tragati za poklapanjem diljem društvenih mreža, što pruža policiji dalji uvid u identitet pojedinca.

“Mogućnosti su stvarno beskrajne,” dodao je Alonso. Talavera je rekao da firma ne pohranjuje slike lica, međutim samo pretražuje internet za podudaranja sa slikom. Dodao je da je to slično Google ‘reverse image’ pretraživačem, ali Social Links koristi vlastiti softver za prepoznavanje lica te može pregledati javne grupe društvenih mreža i slike korisnika.

Demonstriranje ove alatke bilo je među najusredotočenijim na konferenciji umjetne inteligencije u Milipolu, to je bila velika trgovačka predstava gdje firme nude naoružanje i tehnologiju za nadziranje organima zakona i agencijama nacionalne bezbjednosti. Andy Martin, bivši britanski inžinjer izraelskog giganta za forenziku telefona, Cellebrite, rekao je da veći govorni modeli kao što je ChatGPT će biti korisni za sve vrste operacija policije, od pregledavanja povijesti telefonskih poziva do pronalasku anomalija kod ”životnog obrazca” pojedinca, sve do ”intervjua” gdje AI daje ispitivaču informacije tokom ispitivanja.

Upozorio je da policija mora biti transparenta po pitanju svoje upotrebe umjetne inteligencije zbog problema s pouzdanošću i pristrasnošću iste. “Nikada neće postojati način da se umjetna inteligencija učini nepristrasnom,” rekao je, ukazujući, kao što su i drugi, da tehnologije programirane od strane ljudi odslikavaju ljudsku sklonost griješenju.

Također: italijanska kompanija tehnologije za nadzor Cy4gate, čija nova alatka ‘Gens.AI’ pravi ubjedljivo realistične ljudske profile na društvenim mrežama s raznim osobinama. Ne samo da ovaj AI proizvodi realistične slike, već se također može pustiti u promet na platformama kao što su Facebook i Telegram kao autonomne AI persone. Ovakvi lažni profili se koriste od strane prikrivenih istraživača kako bi saznali više o pojedincima za koje se sumnja da se žele upustiti u kriminalne radne, iako ovim AI personama tipično upravljaju ljudi, a ne AI. Cy4gate tvrdi da su njihovi avatari dovoljno realistični “da bi se približilo meti i izgradila veza povjerenja” te izbjeglo otkrivanje. Jedan avatar kojeg je Forbes generirao putem Gens.AI te predstavio ga na Milipolu, ženska osoba u svojim ranim tridesetim godinama, lični trener, prisutna je na nekoliko društvenih mreža, uključujući Facebook, gdje je bila aktivna već od 2019. Meta zabranjuje tajne policijske naloge. Ubrzo nakon što je Forbes ukazao na ovaj nalog Meti, uklonjen je.

Kombiniranjem Social Linksa i Gens.AI vodi jako realnoj mogućnosti nekoj bizarnoj vrsti AI eho-komore, gdje AI softver za špijunažu na društvenim mrežama napravljen od strane jedne firme koristi se da nadzire AI persone stvorene od strane druge, s ChatGPT-em i ostalim logičkim mašinama. Ukratko, pojava kanibalizma umjetne inteligencije za svrhe špijunaže.