TikTok povlači AI opise videa nakon niza bizarnih grešaka i ismijavanja korisnika

Platforma TikTok počela je smanjivati korištenje svojih AI generisanih opisa videa nakon što su korisnici masovno ismijavali niz apsurdnih i netačnih sažetaka koje je umjetna inteligencija prikazivala ispod objava.

Funkcija pod nazivom „AI Overview“ testirana je među dijelom korisnika u SAD-u i na Filipinima, a cilj joj je bio automatski objasniti sadržaj videa ili ponuditi dodatni kontekst. Međutim, umjesto pomoći korisnicima, alat je ubrzo postao predmet sprdnje na društvenim mrežama.

Među najpoznatijim greškama našao se opis popularne TikTok zvijezde Charli D'Amelio, koju je AI predstavio kao „kolekciju borovnica s različitim preljevima“. U drugim slučajevima plesni nastupi i skečevi opisivani su kao osobe koje „udaraju same sebe čekićem po glavi“ ili „režu vodu posebnom tehnikom“.

Korisnici su screenshotove čudnih opisa masovno dijelili na društvenim mrežama i Redditu, dok su pojedini kreatori tvrdili da djeluje kao da TikTok „trola vlastite korisnike“.

TikTok je nakon reakcija priznao da je došlo do problema u sistemu i najavio ograničavanje funkcije. Kompanija sada tvrdi da će AI pregledi uglavnom služiti za prepoznavanje proizvoda prikazanih u videima, umjesto detaljnog opisivanja sadržaja.

Ovaj slučaj ponovo je otvorio pitanje pouzdanosti generativne umjetne inteligencije, posebno u situacijama kada sistemi pokušavaju automatski tumačiti sadržaj bez ljudske provjere.

Slične probleme ranije su imale i druge velike tehnološke kompanije. Google je prošle godine bio ismijan nakon što je njegov AI korisnicima savjetovao da „jedu kamenje“ i „lijepe pizzu ljepilom“, dok je Apple privremeno povukao alat za sažimanje vijesti nakon što je generisao lažne naslove za medije poput BBC News i The New York Times.

I kompanija OpenAI nedavno je priznala da njeni modeli ponekad proizvode neobične i izmišljene informacije, fenomen poznat kao „halucinacije“ umjetne inteligencije.

Stručnjaci upozoravaju da ovakve greške nisu samo zabavne, nego mogu postati ozbiljan problem kada se AI koristi u pravosuđu, državnim institucijama ili medijima, gdje netačne informacije mogu imati stvarne posljedice.