Gole slike slavnih žena fotošopirane umjetnom inteligencijom masovno se prodaju na internetu
EBay vrvi hiljadama pornografskih slika najmanje 40 slavnih osoba, uključujući Margot Robbie, Selenu Gomez i Jennu Ortegu, koje je fotošopirala i generirala umjetna inteligencija. Nakon što je Forbes o ovome obavijestio eBay, div online trgovine uklonio je stotine fotografija i suspendirao račune prodavača.
Prodavnica jednog dugogodišnjeg prodavača s više od 400 artikala, između ostalih uključivao je photoshopirane gole fotografije Taylor Swift, Selene Gomez, Katy Perry, Ariane Grande i Alexandrie Ocasio-Cortez, dok je drugi prodavač prodavao za 6,39 dolara, stotine golišavih slika generiranih umjetnom inteligencijom Jenne Ortege, Margot Robbie i Gal Gaddot.
Kompanije poput eBaya također profitiraju
Na platformi se također mogu vidjeti i AI-generirane seksualno sugestivne slike javnih osoba. Najmanje pet takvih slika je od Taylor Swift, poput one koja prikazuje pop zvijezdu u bikiniju s američkom zastavom, i koju za 5,60 dolara prodaje “najbolje ocijenjeni prodavač” na eBayu, koji je prodao više od 14.000 artikala. Ovaj prodavač na EBayu kotira kao jedan od “najuglednijih prodavača.” (Najbolje ocijenjeni prodavači dobivaju dodatne pogodnosti od eBaya kao što su viši rang u rezultatima pretraživanja i dobivanje financijskih pogodnosti, u skladu sa smjernicama programa.)
eBayev algoritam za preporuke također upućuje zainteresirane kupce na “slične sponzorirane artikle” od prodavača koji plaćaju eBayu postotak od njihove prodaje ako kupac klikne na predmet i kupi ga. Jedan takav prodavač, još jedan najbolje ocijenjeni prodavač, prodao je više od 2000 artikala na eBayu uključujući lažne pornografske slike poznatih ličnosti poput Jennifer Lawrence i Jennifer Anniston. Za neke lažne pornografske slike na eBayu nije jasno jesu li manipulirane umjetnom inteligencijom ili drugom vrstom softvera.
“Nisu u pitanju samo prodavači. Kompanije poput eBaya također profitiraju od seksualnog zlostavljanja temeljenog na slikama”, rekla je Lina Nealon, izvršna direktorica Nacionalnog centra za seksualno iskorištavanje. “Oni komodificiraju ženska tijela i to je nečuveno jer je to bez pristanka i znanja onih koji su prikazani.”
Iako eBay dopušta prodavačima objavljivanje slika koje prikazuju golotinju (sve dok je navedena pod kategorijama umjetnosti i kolekcionarskih predmeta), kao i golih slika lažnih ljudi koje je generirala umjetna inteligencija, “gole ili seksualno sugestivne slike javnih osoba koje je generirala umjetna inteligencija ili fotošopirale slike javnih osoba” su zabranjene, u skladu s politikom o artiklima za odrasle. Ipak, platforma je prepuna njih.
Slike koje krše pravila bit će uklonjene
Iako je eBay povukla stotine fotošopiranih i umjetnom inteligencijom generiranih golišavih fotografija slavnih osoba sa stranice i zabranila prodavače, ostavila je ipak seksualno sugestivne fotografije Taylor Swift izrađene umjetnom inteligencijom za koje se čini da krše njenu politiku. Predstavnik od Swift odbio je komentirati.
Kompanija je potvrdila da je “u procesu aktivnog ažuriranja pravila u vezi s deepfakeovima bez golotinje”, tako da je prodavačima kristalno jasno šta je, a što nije dopušteno na eBayu.
Glasnogovornica eBaya Trina Somera pojasnila je da njihova firma uz pomoć AI tehnologije i profesionalno obučenih eBay istražitelja pregleda tržište u cilju identificiranja i uklanjanja unosa koji krše eBayeva pravila o zabranjenim artiklima.
“AI generirane ili fotošopirane slike slavnih za odrasle koje krše pravila eBaya bit će blokirane ili uklonjene. Korisnici za koje se utvrdi da pokušavaju uvesti zabranjene predmete mogu se suočiti s posljedicama koje uključuju i trajnu suspenziju”, kazala je Somera.
Predstavnici Ortege, Gomez, Anniston, Lawrence, Perry, Grande, Robbie i Gaddot nisu odgovorili na zahtjev za komentar.
eBay nije jedina platforma na kojoj se šire pornografske slike generirane umjetnom inteligencijom. Reddit, X (bivši Twitter) pa čak i Etsy, što je Forbes prvi objavio, na sličan se način bore s najezdom seksualno eksplicitnih fotografija koje generira umjetna inteligencija. Krajem januara gole fotografije Taylor Swift koje je generirala umjetna inteligencija postale su viralne na X-u i imale višemilionske preglede. Ubrzo nakon toga, zakonodavci, uključujući kongresnicu Alexandriu Ocasio-Cortez, predstavili su Zakon o zabrani eksplicitnih krivotvorenih i fotošopiranih slika, koji će žrtvama duboko lažne pornografije bez pristanka, pružati pravne lijekoveu borbi protiv kreatora i distributera ovakvih sadržaja.
“Žrtve pornografskih lažnih sadržaja predugo su čekale da savezni zakon počinitelje pozove na odgovornost. Kongres treba djelovati kako bi pokazao žrtvama da neće biti ostavljene”, rekla je Ocasio-Cortez u saopćenju za javnost.
Potrebni su zakoni, i potrebni su brzo
Iako ne postoje savezni zakoni koji štite žrtve lažne pornografije, tri druga zakona također su predstavljena u Kongresu kako bi se riješio ovaj problem, kaže Nealon. Danas je Kongres raspravljao o tome kako porast pornografskih deepfakeova bez pristanka utječe na žene i djecu i koji se koraci mogu poduzeti za smanjenje štete.
“Zaista su nam potrebni savezni zakoni i potrebni su nam brzo jer, kao što je to često slučaj, tehnologija se kreće bržim tempom od naših zakonodavaca, a vidimo ovaj eksponencijalni porast s umjetnom inteligencijom i proliferacijom deepfakea”, rekla je Nealon za Forbes.
Osim što je prostor za hiljade grubo fotošopiranih golišavih fotografija poznatih osoba, eBay je dom desecima “AI-fotošopiranih” slika javnih osoba sa njihovim potpisima koje se prodaju po cijeni većoj od 10,95 USD.
“Prepustite se izvanrednoj jasnoći i detaljima ove fotografije poboljšane umjetnom inteligencijom, koji oduzimaju dah”, stoji u opisu gole slike Jennifer Lopez koja izgleda uključuje njen potpis. “Svaki zadivljujući izraz lica, svaki magnetski pogled besprijekorno je sačuvan, oživljavajući neusporedivi šarm i talent Jennifer Lopez u izuzetnim detaljima.” Lopez nije odgovorila na zahtjev za komentar.
Problem je raširen. Pretraživanje na eBayu za “slavne osobe” daje preko 2,3 miliona unosa, od kojih su mnogi seksualno sugestivni i pornografski. (Ista pretraga na Amazonu ne otkriva odmah AI pornografiju).
Sada sa olakšanim pristupom AI aplikacijama i softveru otvorenog koda koji bez odjeće može ostaviti svakog, umjetnom inteligencijom generirana pornografija brzo se širi, rekla je Nealon.
“Appleova aplikacija -trgovina zapravo sadrži nekoliko nuditičkih aplikacija. Upravo sam prošle sedmice pronašla jednu koja je ocijenjena za dob od 4 i više godina,” rekla je. “U međuvremenu, imate Microsoft GitHub, koji hostira neke od najozloglašenijih deepfake i sintetičkih tehnologija seksualno eksplicitnog materijala.”
Niko nije iznenađen
Osnovan 1995., eBay je 2023. zabilježio prihod od 10,1 milijardu dolara i ima tržišnu kapitalizaciju od oko 26 milijardi dolara. Internetsko tržište dom je za 132 miliona aktivnih kupaca i dvije milijarde popisa proizvoda — od patika i video igrica do vitaminskih dodataka i stolića za kafu. U septembru 2023. eBay je pokrenuo vlastite generativne AI alate koji mogu generirati naslove i opise proizvoda nakon što prodavači učitaju sliku artikla koji žele prodati. Alati su izgrađeni pomoću modela otvorenog koda i velikih jezičnih modela iz Microsoft Azure OpenAI. Internetsko tržište također je u januaru ove godine otpustilo 1000 radnika, 9% svoje radne snage.
Sophie Maddocks, istraživačica u Centru za rizične medije na Univerzitetu u Pennsylvaniji, rekla je da nije iznenađena što je postalo uobičajeno pronaći pornografske slike generirane umjetnom inteligencijom koje se pojavljuju na internetskim stranicama.
“Ako smanjimo prikaz i pogledamo dužu istoriju interneta, znamo da se seks prodaje i da se seksualizirane slike prodaju. I stoga ne mislim da je slučajnost da platforme poput eBaya hostiraju takav sadržaj,” rekla je Maddocks. “Postoji širi kontekst ove prakse, da ako ste slavna žena, mogu vas skinuti bez vašeg pristanka i da neko drugi može profitirati na vašem imidžu bez vašeg pristanka. I to se slijeva na sve.”
Autor: Rashi Shrivastava, Forbs
