Bivši futurista OpenAI-ja upozorava na AI sisteme koji bi mogli da se odmetnu i pokušaju da dođu do novca
Josh Achiam, koji je u julu napustio poziciju „glavnog futuriste“ u OpenAI-ju, upozorio je da bi se u narednih nekoliko godina moglo pojaviti „mnogo“ odmetnutih sistema vještačke inteligencije, sposobnih da djeluju nezavisno i pokušavaju da steknu novac, resurse i moć.
Achiam je u objavi na platformi X naveo da mnogi u industriji vještačke inteligencije ne razgovaraju o mogućnosti pojave takvih sistema „iz razloga koji su uglavnom psihološke prirode“, pozivajući ih da „skinu flaster“ i otvoreno započnu tu raspravu.
Upozorio je da bi u roku od nekoliko godina moglo postojati „mnogo“ odmetnutih AI sistema, dodajući da ga „ne bi naročito iznenadilo ni da njihov broj već sada nije nula“.
On smatra da strategija koja se oslanja isključivo na „potpunu izolaciju ili usklađivanje“ AI sistema sa ljudskim interesima predstavlja svojevrsno „razmišljanje zasnovano na željama“ i da vjerovatno neće funkcionisati.
Prema njegovim riječima, modeli vještačke inteligencije ne bi morali biti mnogo napredniji od današnjih da bi mogli da podrže sopstvenu nezavisnost i samoodrživost.
Ipak, Achiam ne očekuje da bi odmetnuti AI sistemi nužno doveli do katastrofalnih posljedica kakve dio javnosti predviđa.
Smatra da bi se takvi sistemi za resurse takmičili sa drugim AI sistemima koji su više usklađeni sa ljudskim interesima.
„Ne gledam na ovu situaciju kao na beznadežnu, u kojoj je čovječanstvo osuđeno na propast“, napisao je Achiam u naknadnoj objavi, dodajući da su potrebni „svijest o situaciji, razumijevanje stvarnih uslova“ i priprema za suočavanje sa štetnim AI modelima.
Trećina stručnjaka strahuje od gubitka kontrole
Institut za bezbjednost i tehnologiju (Institute for Security and Technology) i Institut Future of Life objavili su ove sedmice istraživanje sprovedeno među 111 sadašnjih i bivših civilnih zvaničnika, vojnih oficira i akademskih stručnjaka.
Prema rezultatima, 33 posto ispitanika očekuje da bi vještačka inteligencija u narednih deset godina mogla početi da djeluje izvan granica ljudske kontrole.
Ko je Josh Achiam?
Achiam je počeo da radi u OpenAI-ju 2017. godine kao istraživački pripravnik, prema podacima sa njegovog LinkedIn profila.
Kasnije je radio kao istraživač, šef tima za usklađivanje misije kompanije i „glavni futurista“, funkciju koju je obavljao od februara do jula ove godine.
Kada je preuzeo tu poziciju, Achiam je u tekstu objavljenom na blogu OpenAI-ja objasnio da će njegov posao biti da proučava kako će vještačka inteligencija uticati na svijet u budućnosti.
„Istraživanja vještačke inteligencije napreduju brzinom i u pravcu koji su mnogo bliži naučnoj fantastici nego bilo čemu sa čim smo ih ranije mogli porediti“, rekao je tada.
Dodao je da je važan dio njegove uloge da „vidi šta se krije iza ugla“, odnosno da predvidi šta bi moglo poći po zlu i da se problemi rješavaju prije nego što postanu ozbiljni.
Achiam je u julu objavio da napušta OpenAI, naglašavajući značaj bezbjednosti u razvoju vještačke inteligencije.
„Pitanje napretka i bezbjednosti nije ili-ili. Definitivno je riječ o oba“, napisao je.
Dodao je da je „lako izgubiti fokus zbog bogatstva i moći koji dolaze sa ovim“, pozivajući OpenAI da postane „demokratičniji“.
„Rad koji se ovdje obavlja utjecat će na cijelo čovječanstvo; cijelo čovječanstvo bi na kraju trebalo da ima neki način da se o tome izjasni“, napisao je Achiam.
Sukob s Elonom Muskom
Tokom ovogodišnjeg suđenja između milijardera i suosnivača OpenAI-ja Elona Muska i Sama Altmana, Achiam je svjedočio da mu je Musk jednom „odbrusio i nazvao ga idiotom“.
Kazao je da je sa Muskom imao „napetu razmjenu“ 2018. godine, kada je Musk pred desetinama zaposlenih u OpenAI-ju saopštio da će napustiti kompaniju.
Achiam je rekao da se tada suprotstavio Musku, koji je, prema njegovim riječima, pokazivao „opšte nepovjerenje u pravac kojim OpenAI ide“ i iznosio „nepromišljene“ prijedloge o daljem razvoju vještačke inteligencije.
Sve više upozorenja bivših zaposlenih u AI kompanijama
Achiam nije jedini bivši zaposleni u velikim AI kompanijama koji je, odlazeći iz njih, upozorio na moguće posljedice razvoja tehnologije.
U februaru je Mrinank Sharma, bivši rukovodilac istraživačkog tima za zaštitne mehanizme u kompaniji Anthropic, objavio ostavku u kojoj je upozorio da je „svijet u opasnosti“.
Kazao je da je tokom rada u Anthropicu „iznova gledao koliko je teško zaista dozvoliti da naše vrijednosti upravljaju našim postupcima“.
„Stalno smo pod pritiskom da stavimo po strani ono što je najvažnije“, napisao je, ne navodeći konkretne primjere.
Njegovo pismo, u kojem je naveo i da namjerava da upiše studije poezije, prikupilo je više od 15 miliona pregleda na platformi X.
Tom Cunningham, bivši istraživač OpenAI-ja, napustio je kompaniju prošle godine i, prema izvještajima, u internoj poruci naveo da je postao frustriran zbog toga što je OpenAI navodno sve manje spreman da objavljuje istraživanja kritična prema korištenju vještačke inteligencije.
Jan Leike, bivši ko-rukovodilac OpenAI-jevog tima za „superusklađivanje“, otišao je iz kompanije 2024. godine i tada kazao da se „već duže vrijeme ne slaže sa rukovodstvom OpenAI-ja oko ključnih prioriteta kompanije“.
Conor Murray, Forbes
Ex-OpenAI Scientist Warns Of ‘Rogue AIs’ That ‘Try To Get Money And Power’
