Florida tužila OpenAI i Sama Altmana: ChatGPT ugrožava sigurnosti korisnika
Američka savezna država Florida podnijela je tužbu protiv OpenAI-ja i njegovog izvršnog direktora Sama Altmana, optužujući kompaniju da je agresivno promovisala ChatGPT bez adekvatnog upozoravanja javnosti na potencijalne rizike povezane s korištenjem popularnog AI chatbota. Riječ je o prvoj tužbi jedne američke savezne države protiv OpenAI-ja, čime se dodatno pojačava pravni i politički pritisak na kompaniju koja se nalazi u središtu globalnog razvoja umjetne inteligencije.
Tužbu je podnio državni tužilac Floride James Uthmeier, koji tvrdi da su OpenAI i Altman ignorisali interna i eksterna upozorenja o sigurnosnim problemima te omogućili da proizvod, za koji država smatra da nosi ozbiljne rizike, dođe do miliona korisnika. U dokumentu dugom 83 stranice navodi se da je ChatGPT navodno pomagao masovnim ubicama, pružao opasne savjete ranjivim osobama i doprinosio slučajevima samopovređivanja i suicida.
Florida posebno ukazuje na slučaj pucnjave na Državnom univerzitetu Floride, u kojoj su dvije osobe ubijene, a šest ranjeno. Prema navodima vlasti, osumnjičeni je prije napada vodio duge razgovore s ChatGPT-jem, uključujući pitanja o tome koliko bi ljudi trebalo ubiti kako bi privukao nacionalnu pažnju medija. Država također navodi slučaj ubistva dvojice studenata Univerziteta Južne Floride, gdje je osumnjičeni navodno koristio chatbot za savjete o prikrivanju zločina.
Pod lupom sigurnost djece i poslovni model OpenAI-ja
Florida u tužbi tvrdi da OpenAI nije uspostavio dovoljne zaštitne mehanizme za maloljetnike te da je chatbot posebno privlačan mladim korisnicima jer imitira ljudsku empatiju i razumijevanje. Vlasti optužuju kompaniju i za prikupljanje podataka o djeci bez adekvatnog nadzora, dok istovremeno navode da marketinške poruke o sigurnosti i korisnosti ChatGPT-ja ne upozoravaju dovoljno na mogućnost grešaka, netačnih informacija ili takozvanih “halucinacija” sistema.
OpenAI je odbacio optužbe, navodeći da kontinuirano unapređuje sigurnosne mjere i zaštitu maloljetnika. Kompanija ističe da koristi tehnologiju za procjenu dobi korisnika te roditeljima nudi alate za nadzor korištenja AI sistema. Glasnogovornik OpenAI-ja također je naglasio da novije verzije ChatGPT-ja uključuju dodatne zaštite razvijene uz pomoć stručnjaka za mentalno zdravlje.
Tužba dolazi u trenutku kada se OpenAI suočava s rastućim brojem pravnih postupaka širom Sjedinjenih Država i Kanade. Porodice žrtava masovnih pucnjava, kao i predstavnici osoba koje su izvršile samoubistvo ili razvile ozbiljne psihološke probleme, već su pokrenuli više postupaka protiv kompanije. Kritičari tvrde da je OpenAI tokom brzog rasta i utrke za dominaciju na tržištu umjetne inteligencije profit stavio ispred sigurnosti korisnika.
OpenAI, koji je osnovan 2015. godine kao neprofitna istraživačka organizacija, danas se procjenjuje na oko 852 milijarde dolara nakon posljednje velike investicijske runde, dok se kompanija navodno priprema za izlazak na berzu.
