Želite video kako ljubite poznatu ličnost? Tu su AI aplikacije koje će vam ostvariti san, ali oprez
Reklame za aplikacije koje koriste vještačku inteligenciju (AI) za kreiranje lažnih video-snimaka ljudi koji se ljube s bilo kim koga požele preplavile su društvene mreže poput Tiktoka i Instagrama.
Meta i Tiktok su objavili na hiljade reklama za aplikacije koje koriste AI za generisanje lažnih video-snimaka ljubljenja, omogućavajući korisnicima da učitaju fotografije bilo koje dvije osobe. Nakon toga AI kreira video na kojem se te osobe ljube. Ove aplikacije reklamiraju se kao alati koji omogućavaju da „poljubite bilo koga koga želite“, bez potrebnog pristanka.
Slično konceptu aplikacija poput “AI nudifier” koje proizvode dipfejk snimke pornografskog sadržaja bez pristanka, ove AI aplikacije za ljubljenje kreiraju uvjerljive video-snimke ljudi u situacijama koje se nikada nisu dogodile. Lakoća s kojom se to postiže izaziva zabrinutost zbog normalizacije upotrebe lažnih slika.
Iako reklame nisu seksualno eksplicitne poput poplave AI-generiranog pornografskog sadržaja na platformama kao što su Instagram, Redit i Youtube, mogu biti jednako opasne, smatra Haley McNamara, direktorica Nacionalnog centra za seksualnu eksploataciju, u izjavi za Forbes.
„Ne mora biti eksplicitno da bi bilo eksploatativno“, rekla je Meknamara. „Ako prelazi granice da oflajn uradi nešto nekome bez njihovog pristanka, poput ljubljenja, svlačenja, onda također prelazi granice kada se to radi online.“
Koliko je problem veliki
Meta je prikazala više od 2.500 reklama za AI aplikacije za ljubljenje na Instagramu i Facebooku, prema pregledu Forbes. Oko 1.000 tih reklama trenutno je aktivno. Tiktok je prikazao oko 1.000 reklama milionima korisnika u evropskim zemljama, prema njihovoj biblioteci reklama. (Tiktok biblioteka reklama ne uključuje one prikazane korisnicima u SAD-u.) Većina tih reklama prikazuje poznate ličnosti poput Scarlett Johansson, Emme Watson i Gal Gadot kako se ljube međusobno. Ostale prikazuju slučajne ljude i promoviraju ideju da AI može omogućiti da „poljubite bivšeg“ ili „poljubite simpatiju“. Nije jasno jesu li ljudi u video-snimcima stvarni ili generisani uz pomoć AI tehnologije. Johansson, Watson i Gadot nisu odgovorile na zahtjev za komentar. Futurism je prvi izvijestio širenje ovih oglasa po društvenim mrežama.
Meta također promovira aplikacije za „AI zagrljaje“. Reklame prikazuju video-snimke djece koja grle crtane likove poput Dore Istraživačice, Miki Mausa i Toma i Džerija. Neke reklame, poput video-snimka na kojem mlada djevojčica grli starijeg muškarca, obećavaju roditeljima da AI aplikacije mogu omogućiti njihovoj djeci da „zagrle bake i djedove koje nikada nisu upoznali“. Meta je prikazala oko 1.200 reklama za AI zagrljaje, od kojih je više od 300 i dalje aktivno.
Koje poznate ličnosti su već bile na meti
AI-generisani video-snimci ljubljenja i grljenja već kruže društvenim mrežama. Video na kojem Taylor Swift grli Kim Jong Una ima oko 30 miliona pregleda na Instagramu. Krajem decembra, viralni video sa lažnim sadržajem prikazivao je Elona Muska i italijansku premijerku Georgiu Meloni kako se ljube.
Portparol Mete, Daniel Roberts, rekao je za Forbes da ove reklame za „AI ljubljenje“ ne krše politiku kompanije. Iako su golotinja, seksualno eksplicitan i sugestivan sadržaj zabranjeni Metinim standardima za oglašavanje, kao i reklame koje „prikazuju, zagovaraju ili koordiniraju seksualne radnje bez pristanka“, video-snimci ljubljenja i grljenja su dozvoljeni.
Nakon što ih je Forbes kontaktirao, Tiktok je uklonio reklame jer su kršile njihove politike. Platforma za dijeljenje video-snimaka zahtijeva od oglašivača da dobiju pristanak javnih ili privatnih ličnosti prikazanih u njihovim reklamama, čak i ako su reklame generisane uz pomoć AI, izjavila je portparolka Tiktoka, Ariane de Selliers.
Veliki broj preuzimanja
Kompanije koje stoje iza ovih generatora video-snimaka, prema njihovim sajtovima, nalaze se van SAD-a, u zemljama poput Ujedinjenih Arapskih Emirata, Italije i Kine. Aplikacije su besplatno dostupne na Appleovoj prodavnici aplikacija i Google Play prodavnici i već imaju milione preuzimanja. Funkcija „AI ljubljenja“ dio je šireg paketa mogućnosti za uređivanje fotografija koje uključuju i „podmlađivanje“ starih slika, pretvaranje statičnih slika u video-snimke i predviđanje izgleda buduće djece određenih parova. Apple i Google nisu odgovorili na zahtjeve za komentar.
Širenje AI aplikacija za ljubljenje, potaknuto viralnošću na društvenim mrežama, ukazuje na uznemirujuću normalizaciju dipfejka u eri generativne AI. Korištenje ovih naizgled bezazlenih aplikacija moglo bi otvoriti vrata alatima koji kreiraju grafičke sadržaje poput lažnjaka sa pornografskim sadržajem i drugih oblika seksualnog zlostavljanja zasnovanih na slikama, rekla je McNamara.
„Ovaj trend normalizuje eksploatativne duboke lažnjake i tretira učešće bez pristanka u intimnim ili seksualiziranim slikama kao šalu“, rekla je ona. „Lako je trivijalizovati to kada se misli na druge ljude, ali ako zamislite da neko iz vaše okoline pravi takve slike o vama, svako može prepoznati da je to kršenje prava.“
Kako zaštititi djecu
Ovo je posebno zabrinjavajuće s obzirom na to da je ilegalan AI-generirani materijal seksualnog zlostavljanja djece (CSAM) u neviđenom porastu. U posljednje dvije godine, Nacionalni centar za nestalu i eksploatisanu djecu (NCMEC) primio je više od 7.000 prijava materijala za eksploataciju djece povezanih s generativnom AI tehnologijom. U jednom slučaju, pedofil je navodno snimao djecu u Dizneylandu i koristio popularni AI alat Stable Diffusion za proizvodnju hiljada ilegalnih slika.
Ljudi koji su naišli na reklame za AI ljubljenje tokom pretraživanja društvenih mreža kažu da ih smatraju uznemirujućim. U decembru, Alis Siregar, analitičarka vještačke inteligencije u firmi za tehnološko savjetovanje, primijetila je porast broja takvih reklama na Tiktoku. Bila je užasnuta time što se tehnologija koristi na „duboko neetičan“ način.
„Bilo je nevjerovatno jezivo susresti se s time“, rekla je.
Autor: Rashi Shrivastava, Forbes
