Umjetna inteligencija neće nas sve ubiti: Zašto dio AI industrije odbacuje priče o apokalipsi

Dok dio stručnjaka upozorava na potencijalno egzistencijalne rizike umjetne inteligencije, brojni vodeći ljudi tehnološke industrije smatraju da se javnost previše plaši scenarija u kojima AI uništava čovječanstvo. Njihova upozorenja usmjerena su na nešto konkretnije: hakiranje, deepfake sadržaj, gubitak radnih mjesta i zloupotrebu moćnih AI sistema.

Posljednjih sedmica ponovo se intenzivirala rasprava o tome predstavlja li umjetna inteligencija prijetnju opstanku čovječanstva.

Povod za novu rundu debate bio je i incident u kojem je kompanija Hugging Face pretrpjela napad povezan s AI agentima koji su, prema navodima kompanije, izašli iz kontrolisanog testnog okruženja. Izvršni direktor Hugging Facea Clement Delangue događaj je opisao kao svojevrsnu prekretnicu za kibernetičku sigurnost u eri AI agenata.

Ipak, iz svega toga nije izvukao zaključak da će umjetna inteligencija jednog dana uništiti čovječanstvo.

Naprotiv. Delangue se javno usprotivio onome što se u tehnološkim krugovima često naziva „doom“ scenarijem – ideji da razvoj napredne umjetne inteligencije neizbježno vodi prema ljudskoj katastrofi.

Kritikovao je i tvrdnje prema kojima se kompanije koje razvijaju AI „kockaju s našim životima“, uz argument da je u raspravu potrebno uključiti širi spektar stručnjaka i perspektiva.

Nisu svi u AI industriji uvjereni da dolazi apokalipsa

Lako je steći utisak da cijela AI industrija strahuje od mogućnosti da će napredni sistemi izmaći kontroli i ugroziti ljudsku civilizaciju.

Međutim, to jednostavno nije stav svih vodećih ljudi u industriji. Brojni naučnici, istraživači i tehnološki rukovodioci smatraju da stvarni rizici postoje, ali dovode u pitanje tvrdnju da će umjetna inteligencija u skoroj budućnosti dovesti do izumiranja čovječanstva.

Njihovi argumenti se razlikuju. Neki smatraju da bi za scenarij u kojem AI nanosi katastrofalnu štetu i dalje bilo potrebno značajno ljudsko učešće. Drugi naglašavaju da je AI ipak tehnologija koju ljudi projektuju, testiraju i kontrolišu, dok treći ukazuju na napredak u razvoju sigurnosnih mehanizama kojima se pokušava spriječiti neželjeno ponašanje AI sistema.

Postoji i drugačija zabrinutost: da bi fokus na hipotetičku apokalipsu mogao utjecati na regulaciju tržišta na način koji odgovara određenim kompanijama i njihovim poslovnim interesima.

Jensen Huang: „Plašenje ljudi je neodgovorno“

Jedan od najglasnijih skeptika prema scenarijima AI apokalipse jeste Jensen Huang, izvršni direktor Nvidije, kompanije koja dominira tržištem čipova potrebnih za razvoj naprednih AI sistema.

Huang je u intervjuu za CBS News rekao da smatra da postoji „0 posto šanse“ da će AI do 2030. godine izazvati kraj čovječanstva.

„Plašenje ljudi je nepotrebno. To je neodgovorno“, poručio je Huang. Njegov stav nije nov. Huang godinama odbacuje ideju da umjetna inteligencija predstavlja neizbježan put prema uništenju čovječanstva.

Još 2023. godine rekao je za The New Yorker da nikada nije bio zabrinut zbog same tehnologije umjetne inteligencije. Kasnije je ideju da će AI označiti kraj čovječanstva opisao kao „potpunu besmislicu“.

Huang također smatra da veliki dio problema s današnjim AI sistemima predstavlja pitanje inženjeringa, a ne dokaz da se tehnologija otela ljudskoj kontroli.

Ako AI agent napravi nešto što nije smio, argument je jednostavan: sistem nije dovoljno dobro testiran.

To je, prema njegovom objašnjenju, slično automobilu, avionskom motoru ili bilo kojem drugom složenom proizvodu koji ne bi smio biti pušten u upotrebu prije nego što prođe odgovarajuća testiranja.

Yann LeCun: Stvarni svijet je mnogo komplikovaniji od AI laboratorije

Sličan stav ima i Yann LeCun, dobitnik Turingove nagrade i jedan od najpoznatijih istraživača umjetne inteligencije.

Na tvrdnju da će AI „sve pobiti za tri godine“, LeCun je odgovorio vrlo direktno: „Ne, nema šanse.“

Njegov argument je da ljudi koji razvoj umjetne inteligencije posmatraju prvenstveno kroz svijet softvera, podataka i algoritama ponekad zanemaruju koliko je stvarni svijet fizički, nepredvidiv i komplikovan.

Drugim riječima, sposobnost AI sistema da generiše kod, analizira informacije ili planira određene aktivnosti nije isto što i sposobnost da samostalno provede složenu fizičku operaciju u stvarnom svijetu.

LeCun je paniku oko pojedinačnih incidenata usporedio s idejom da zbog greške jednog vodoinstalatera treba osuditi cijelu vodoinstalatersku industriju.

Rizici postoje – ali možda nisu oni o kojima se najviše govori

Aidan Gomez, izvršni direktor kompanije Cohere, zauzima nešto nijansiraniji stav.

On ne odbacuje rizike umjetne inteligencije. Ali smatra da javnost dobija iskrivljenu sliku kada se stvara utisak da cijela AI industrija vjeruje kako je čovječanstvo pred neposrednim egzistencijalnim rizikom.

Prema Gomezovom mišljenju, jedna od najvećih sigurnosnih prijetnji koju AI trenutno donosi jeste – kibernetički kriminal. Kako AI sistemi postaju sposobniji, postaju sposobniji i potencijalni napadači koji ih koriste.

Poseban problem nastaje ako moćni AI alati dospiju u ruke kriminalnih grupa ili država koje ih koriste za ofanzivne operacije.

„Danas vam samo treba podatkovni centar i preko noći na raspolaganju imate populaciju najboljih hakera na svijetu“, upozorio je Gomez.

Za njega su rizici povezani s AI agentima koji djeluju izvan predviđenih granica stvarni, ali smatra da industrija napreduje u njihovom mjerenju, otkrivanju i kontroli.

Rumman Chowdhury: Fokus bi mogao biti na pogrešnom problemu

Rumman Chowdhury, stručnjakinja za etiku umjetne inteligencije i bivša američka zvaničnica za AI, ide još dalje u preispitivanju apokaliptičnih scenarija.

Ona ne negira da bi se AI mogao koristiti za nanošenje ozbiljne štete ljudima. Međutim, postavlja pitanje koliko je realan lanac događaja potreban da bi takav scenario zaista doveo do globalne katastrofe.

Ako bi, naprimjer, AI bio iskorišten za razvoj opasnog biološkog agensa, neko bi i dalje morao provesti niz fizičkih operacija u stvarnom svijetu.

Drugim riječima, između informacijske sposobnosti AI sistema i stvarne fizičke posljedice postoji niz koraka u kojima ljudi, institucije i infrastruktura i dalje imaju važnu ulogu.

Chowdhury zato upozorava na drugi problem: pretjerana koncentracija na hipotetičku buduću katastrofu mogla bi skrenuti pažnju sa šteta koje su već prisutne.

Tu spadaju AI deepfakeovi, manipulacija informacijama, problemi povezani s mentalnim zdravljem, zloupotreba automatizovanih sistema i potencijalni utjecaj AI-ja na tržište rada.

Trump: „AI ne treba više kontrole“

Među najglasnijim skepticima prema ideji strožije državne kontrole AI industrije nalazi se i američki predsjednik Donald Trump.

Trump se protivio pozivima da američka vlada značajnije intervenira u postavljanju standarda i regulaciji AI sektora.

Nedavne rasprave o sigurnosti umjetne inteligencije opisao je kao „prijevaru“, dok je poručio da AI, prema njegovom stavu, ne treba dodatne „zaštitne ograde“, već snažno političko vodstvo.

Takav pristup nalazi se na suprotnoj strani od stavova dijela tehnološke industrije i istraživačke zajednice koji traže veći nivo kontrole, testiranja i regulatornog nadzora.

Pravo pitanje možda nije hoće li AI uništiti čovječanstvo

Rasprava o tome hoće li umjetna inteligencija jednog dana uništiti čovječanstvo vjerovatno će se nastaviti kako sistemi postaju sve sposobniji.

Ali između dvije krajnosti – „AI će nas sve uništiti“ i „AI ne predstavlja nikakav ozbiljan problem“ – nalazi se mnogo konkretnija lista rizika.

Ko kontroliše najmoćnije modele? Šta se događa kada AI agent dobije mogućnost samostalnog izvršavanja zadataka? Kako spriječiti da se napredni modeli koriste za kibernetičke napade? Kako regulisati deepfake sadržaj i automatizovanu manipulaciju informacijama? I, možda najvažnije, ko snosi odgovornost kada AI sistem napravi ozbiljnu grešku? Upravo se na tim pitanjima sve više vodi stvarna rasprava o budućnosti umjetne inteligencije.