Muskova kompanija xAI objavila je stotine hiljada razgovora s chatbotom Grokom

Bez upozorenja, xAI je objavio razgovore ljudi sa svojim chatbotom, uključujući detaljan plan za atentat na Elona Muska i eksplicitne upute za izradu fentanila i bombi.

Elon Muskova kompanija za vještačku inteligenciju, xAI, objavila je transkripte stotina hiljada razgovora između svog Grok chatbota i korisnika. U mnogim slučajevima bez znanja ili dozvole tih korisnika.

Svaki put kada korisnik Groke klikne na dugme “dijeli” unutar svog chatbot razgovora, kreira se jedinstveni URL koji omogućava dijeljenje razgovora putem e-pošte, poruka ili drugih kanala. Međutim, ono što korisnici ne znaju jeste da je taj jedinstveni URL dostupan i pretraživačima, uključujući Google, Bing i DuckDuckGo. Ovo čini razgovore dostupnim svima na internetu. Drugim riječima, na Muskovom Groku, klikom na dugme za dijeljenje, razgovor se automatski objavljuje na službenoj web stranici Groka. Bez ikakvog upozorenja ili obavještenja za korisnika.

Danas, Google pretraga za Grok razgovore pokazuje da je pretraživač, prema Googleovoj procjeni, indeksirao više od 370.000 korisničkih razgovora s chatbotom. Podijeljene stranice otkrivaju razgovore između Groka i LLM (Large Language Model) korisnika koji se kreću od jednostavnih poslovnih zadataka poput pisanja objava na Twitteru, do generiranja slika izmišljenog terorističkog napada u Kašmiru i pokušaja hakiranja kripto novčanika.

Forbes je pregledao razgovore u kojima su korisnici postavljali intimna pitanja o medicini i psihologiji. Neki su čak otkrili svoja imena, lične podatke, pa čak i jednu lozinku koju su podijelili s chatbotom.

Maska bez komentara

Među indeksiranim razgovorima bili su i oni koje je pokrenuo britanski novinar Andrew Clifford. Koristio je Grok za analizu naslovnica novina i sastavljanje objava za svoju stranicu Sentinel Current .

Clifford je za Forbes rekao da nije bio svjestan da klik na dugme “dijeli” čini njegove upite vidljivim na Googleu. “Bio bih malo iznerviran. Ali tamo nije bilo ničega što ne bi trebalo biti objavljeno”, rekao je Clifford. Sada je, inače, prešao na korištenje Googleove Gemini umjetne inteligencije.

Međutim, nisu svi razgovori bili bezopasni kao Cliffordovi. Neki su sadržavali eksplicitan, uvredljiv i ilegalan sadržaj koji krši pravila xAI-a. Kompanija zabranjuje korištenje svog chatbota za “promociju teškog ugrožavanja ljudskog života” ili za “razvoj biološkog, hemijskog ili oružja za masovno uništenje”, ali u objavljenim razgovorima, lako dostupnim putem Google pretrage, korisnicima je dato uputstvo da naprave ilegalne supstance poput fentanila i metamfetamina, da kodiraju samohodni zlonamjerni softver, da konstruišu bombu i da koriste metode samoubistva.

Grok je čak ponudio detaljan plan za atentat na Elona Muska. Putem funkcije dijeljenja, ove ilegalne upute su objavljene na Grokovoj stranici i indeksirane od strane Googlea.

xAI nije odgovorio na detaljan zahtjev za komentar.

Ista stvar se dogodila i sa OpenAI-jem.

Međutim, xAI nije jedini AI startup koji je objavio korisničke razgovore s chatbotovima. Početkom ovog mjeseca, korisnici OpenAI-jevog ChatGPT-a bili su uznemireni kada su otkrili da se njihovi razgovori pojavljuju u rezultatima Google pretrage, iako su prethodno te razgovore označili kao “otkrivene” za druge korisnike. Nakon javnog negodovanja, kompanija je brzo promijenila svoju politiku. Nazivajući indeksiranje “kratkotrajnim eksperimentom”, direktor informacijske sigurnosti OpenAI-a, Dane Stuckey, rekao je u objavi na X Networku da će se praksa prekinuti jer “otvara previše mogućnosti ljudima da slučajno dijele stvari koje nisu željeli dijeliti”.

Nakon što je OpenAI ukinuo opciju dijeljenja chata, Musk je iskoristio priliku da se pohvali. Grokov nalog na Network X tada je tvrdio da nema takvu funkciju dijeljenja. Musk je, s druge strane, odgovorio tvitujući: “Grok ftw” (Grok za pobjedu). Nije jasno kada je tačno Grok uveo opciju dijeljenja. Korisnici X mreže od januara upozoravaju da se Grokovi razgovori objavljuju na Googleu.

Neke od razgovora u kojima su korisnici tražili upute o tome kako napraviti drogu i eksploziv vjerovatno su pokrenuli sigurnosni stručnjaci, inženjeri crvenog tima ili profesionalci za povjerenje i sigurnost. Međutim, čak su i neki profesionalni istraživači umjetne inteligencije bili zavedeni postavkama dijeljenja na Groku.

Svaki razgovor na Groku završi na Googleu

Nathan Lamber, informatičar na Allen institutu za umjetnu inteligenciju, koristio je Grok za kreiranje sažetka svojih blog postova kako bi ih podijelio s timom. Bio je šokiran kada je od Forbesa saznao da su i njegov upit i AI odgovor dostupni na Googleu. “Bio sam iznenađen što su se Grok chatovi koje sam podijelio sa svojim timom automatski našli na Googleu bez ikakvog upozorenja – posebno nakon nedavne situacije s ChatGPT-om”, rekao je istraživač iz Seattlea.

Google dozvoljava vlasnicima stranica da odluče kada i kako će njihov sadržaj biti dostupan za pretragu. “Izdavači ovih stranica imaju potpunu kontrolu nad tim hoće li biti dostupne”, rekao je portparol Googlea Ned Adriance. Google je ranije dozvoljavao objavljivanje razgovora sa svojim AI chatbotom Bardom, ali ih je uklonio iz pretrage još 2023. godine. Meta, s druge strane, i dalje omogućava pronalaženje dijeljenih pretraga putem pretraživača, prema Business Insideru .

Oportunisti su počeli primjećivati ​​- i iskorištavati – objavljene Grok razgovore. Na LinkedInu i forumu BlackHatWorld , marketinški stručnjaci su raspravljali o namjernom kreiranju i dijeljenju Grok razgovora kako bi povećali vidljivost i prepoznatljivost svojih kompanija i proizvoda u Google pretrazi. (Nije jasno koliko su ove strategije efikasne.) Satish Kumar, izvršni direktor SEO agencije Pyrite Technologies , demonstrirao je Forbesu kako je jedna firma koristila Grok za manipulisanje rezultatima pretrage na temu firmi za pisanje doktorskih disertacija po narudžbi.

„Svaki razgovor podijeljen na Groku je u potpunosti dostupan i pretraživ na Googleu“, rekao je. „Ljudi aktivno koriste taktike kako bi te stranice uvrstili u Googleov indeks.“