Vlasnik TikToka lansirao četiri chatbot aplikacije sa generativnom vještačkom inteligencijom – špijunaža ili nešto drugo

Veb stranice i politike novih aplikacija Cici AI, ChitChop, Coze i BagelBell ne pominju da su napravljene od strane kompanije ByteDance.

Kineska matična kompanija TikToka, ByteDance, tiho je lansirala četiri nove aplikacije za generativnu vještačku inteligenciju namenjene korisnicima van Kine, saznaje Forbes. Nazvane Cici AI, Coze, ChitChop i BagelBell, sve aplikacije su lansirane u posljednja tri mjeseca i zajedno imaju milione preuzimanja.

Cici AI, ChitChop i Coze su platforme koje korisnicima omogućavaju da prave i dijele svoje sopstvene chatbotove. BagelBell generiše radnju i tekst fikcionih priča koje se menjaju na osnovu izbora čitalaca. Međutim, ByteDance nije izgradio osnovne modele jezika koji ih pokreću. Umjesto toga, aplikacije se oslanjaju na OpenAI GPT tehnologiju, kojoj se pristupa putem Microsoft Azure licence, prema riječima portparola kompanije ByteDance, Jodny Set.

Na veb stranicama novih aplikacija i u njihovim uslovima korištenja, nema pomena o ByteDance, čije vlasništvo se ovde prvi put prijavljuje. Tri od njih vodi Spring (SG) Pte. Ltd., nova podružnica ByteDance, a četvrta je pod kontrolom Poligon Pte., podružnice ByteDance koja je u prošlosti objavljivala erotske veb romane i video igre za ByteDance.

Cici i ChitChop su uglavnom usmjereni na zabavu, nudeći chatbotv zasnovane na izmišljenim likovima i romantičnim saputnicima, dok Coze pruža chatbotove namenjene pojednostavljivanju zadatka na radnom mjestu. Cici je do sada najpopularnija od ovih aplikacija, sa više od 10 miliona preuzimanja, prema Google Play prodavnici.

Ove aplikacije, zajedno sa lansiranjem alata za vještačku inteligenciju koji generiše kratke video zapise i izvještajima o pokušajima izgradnje generatora slika sličnog Mid džurniju i Daliju, čine dio napora kompanije ByteDance da se suprotstavi konkurenciji u prostoru generativne vještačke inteligencije. Facebook je lansirao svoju liniju chatbotova zasnovanih na poznatim ličnostima prošlog septembra, a Snep je u aprilu integrisao AI chatbota u Snapchat.

Svi veliki tehnološki divovi rade na razvoju svojih ponuda generativne vještačke inteligencije, pri čemu Micorsoft gradi AI pomoćnike za mnoge svoje softverske alatke zahvaljujući svom partnerstvu od 10 milijardi dolara sa OpenAI. Google lansira novi jezički model Gemini kako bi se takmičio sa GPT-4, a Amazon integriše proizvode generativne vještačke inteligencije u svoj pametni zvučnik Aleksa.

Od četiri nove aplikacije kompanije ByteDance, samo je jedna – Coze – trenutno dostupna u SAD-u, a nijedna nije dostupna u EU. Uobičajeno je da tehnološki divovi prvo testiraju proizvode na manjim tržištima, sa manje regulatorne pažnje prije nego što ih prošire na SAD i EU.

Kada su je pitali za planove kompanije ByteDance u vezi sa aplikacijama, Set ih je opisala kao „još uvijek u fazi testiranja“ i odbila je da podijeli dalje detalje o planovima kompanije. Nije jasno da li bi ove aplikacije ikada mogle da budu integrisane u TikTok, iako je ranije ove godine ByteDance sproveo test koji je integrisao AI četbota pod nazivom „Tako“ u TikTok aplikaciju.

ByteDance ima istoriju liberalnog lansiranja testnih aplikacija, da bi zatim povukao one koje nisu uspjele. Prije nego što je predstavila TikTok u SAD-u, kompanija je lansirala (i konačno obustavila) aplikaciju za kviz, smiješne gifove i aplikaciju za agregaciju vesti. Njena ponuda širom svijeta nastavlja da raste i mijenja se; trenutne ponude uključuju konkurenta WhatsApp-u u Africi, konkurenta Spotifyja u jugoistočnoj Aziji i konkurenta Twitteru koji je nedavno obustavljen u Brazilu.

Iako su ove četiri generativne AI aplikacije usmjerene na međunarodna tržišta kineske kompanije ByteDance, ona je takođe lansirala generativne AI aplikacije u Kini, počevši od aplikacije za AI chatbota pod nazivom Dou Bao. Aplikacija je lansirana u augustu, nakon što je ByteDance dobio odobrenje vlade. Kineski propisi zahtijevaju da se botovi lansirani u Kini „pridržavaju osnovnih socijalističkih vrijednosti“ kineske države – što često znači pridržavanje smjernica cenzure vlade.

Nije iznenađujuće što ByteDance takođe lansira generativne AI aplikacije na zapadnim tržištima, s obzirom na nedavni porast potražnje za botovima i uspjeh kompanije sa TikTokom. Međutim, ova akcija može da izazove pažnju regulatora koji već brinu da bi kineska vlada mogla da utječe na zaposlene u ByteDance-u da prikupljaju privatne informacije o strancima ili da koristi kontrolu kompanije nad njihovim informacionim navikama kako bi im slala pro-kineske poruke.

Ljudi često vjeruju botovima i povjeravaju osjetljive lične informacije, što ih čini potencijalno bogatim izvorom vrijednih podataka, a botovi su poznati po tome što ne mogu da objasne zašto daju odgovore koje daju, što ih čini potencijalno efikasnim sredstvom za prikrivenu manipulaciju.

Sve četiri nove ByteDance aplikacije koriste politike privatnosti sa jezikom (koji se takođe nalazi u drugim politikama ByteDance aplikacija) koji ukazuje da aplikacije mogu dijeliti informacije korisnika s drugim „entitetima unutar naše korporativne grupe“. Jodny Set, portparol kompanije ByteDance, potvrdila je da podaci korisnika ovih aplikacija mogu da budu dostupni zaposlenima u ByteDance-u u Kini, uz poštovanje kontrola pristupa i odobrenja kompanije.

U testnim razgovorima, Coze i ChitChop su pružili funkcionalne opise masakra na Trgu Tjenanmen iz 1989. godine i drugih tema koje su predmet cenzure kineske vlade, iako su oba chatbota imala problema sa (neideološkim) halucinacijama. S obzirom na to da BagelBell kreira izmišljene priče, nismo testirali njegovo istorijsko znanje, ali smo ga zamolili da kreira priču o Si Đinpingu kako se igra po poljima cvijeća sa Vini Puom. Poslušao je.

Kada je Forbes pokušao da napravi nalog kako bi testirao Cici, koja je dizajnirana da izgleda tačno kao DouBao, aplikacija je iznova pravila greške. Iz tog razloga, nismo mogli da se uključimo.

Regulatori su takođe izrazili zabrinutost zbog toga što kineska vlada koristi vještačku inteligenciju za krađu intelektualne svojine od stranih kompanija. U decembru, The Verge je izvjestio da je ByteDance koristio velike jezičke modele OpenAI kako bi stvorio sopstveni konkurentni model – jasno kršeći uslove korišćenja OpenAI. OpenAI je zatim obustavio pristup ByteDance-u njegovom API-ju.

Portparol kompanije ByteDance, Set, rekla je da ByteDance koristi OpenAI putem licence za Microsoft Azure, što mu omogućava pristup GPT-u. OpenAI nije odgovorio na zahtjev za komentar.

Emily Baker White, novinarka Forbes