Probudimo se pred rizicima umjetne inteligencije, oni su gotovo pred vratima

Šef AI startupa Anthropic izjavio je da čovječanstvo ulazi u fazu razvoja umjetne inteligencije koja će „testirati ko smo kao vrsta“, upozoravajući da se svijet mora „probuditi“ pred rizicima.

Dario Amodei, suosnivač i izvršni direktor kompanije koja stoji iza popularnog chatbota Claude, iznio je svoja strahovanja u eseju od 19.000 riječi pod naslovom „Adolescencija tehnologije“.

Opisujući dolazak izuzetno moćnih AI sistema kao potencijalno neposredan, napisao je: „Vjerujem da ulazimo u obred prelaska, istovremeno turbulentan i neizbježan, koji će testirati ko smo kao vrsta.“

Amodei je dodao: „Čovječanstvu će uskoro biti predana gotovo nezamisliva moć, a duboko je nejasno da li naši društveni, politički i tehnološki sistemi posjeduju zrelost da je nose.“

Tehnološki preduzetnik, čija se kompanija navodno procjenjuje na 350 milijardi dolara, odnosno 255 milijardi funti, rekao je da je njegov esej pokušaj da „prodrma ljude“ jer se svijet mora „probuditi“ pred potrebom za djelovanjem u oblasti sigurnosti umjetne inteligencije.

Amodei je objavio tekst u trenutku kada je vlada Ujedinjenog Kraljevstva najavila da će Anthropic pomoći u izradi chatbotova koji će podržavati tražioce posla savjetima o karijeri i pronalasku zaposlenja, kao dio razvoja AI asistenta za javne usluge. Prošle sedmice kompanija je objavila dokument od 80 stranica, nazvan „ustav“, u kojem je navela kako želi da njen AI bude „široko siguran, široko etičan“.

Amodei je suosnovao Anthropic 2021. godine zajedno s drugim bivšim zaposlenicima OpenAI-ja, kompanije koja je razvila ChatGPT. Kao istaknuti glas za online sigurnost, poznat po dosljednim upozorenjima na opasnosti neobuzdanog razvoja umjetne inteligencije, napisao je da je svijet 2026. godine „znatno bliže stvarnoj opasnosti“ nego što je bio 2023. godine, kada je rasprava o egzistencijalnom riziku od AI naglo dospjela na političku agendu.

On se osvrnuo i na kontroverze oko seksualiziranih deepfake sadržaja koje je kreirala Grok AI Elona Muska, a koji su preplavili društvenu mrežu X tokom Božića i Nove godine, uključujući upozorenja da je chatbot stvarao materijale seksualnog zlostavljanja djece.

Amodei je napisao: „Neke AI kompanije pokazale su uznemirujuću nebrigu prema seksualizaciji djece u današnjim modelima, što me navodi da sumnjam da će pokazati i volju ili sposobnost da se u budućim modelima pozabave rizicima autonomije.“

Izvršni direktor Anthropica rekao je da bi moćni AI sistemi, koji bi mogli autonomno graditi vlastite sisteme, mogli biti udaljeni svega jednu do dvije godine.

On je „moćnu umjetnu inteligenciju“ definirao kao model koji je pametniji od dobitnika Nobelove nagrade u oblastima poput biologije, matematike, inženjerstva i pisanja. Takav sistem mogao bi davati ili primati upute od ljudi, i iako bi „živio“ na ekranu računara, mogao bi upravljati robotima pa čak ih i dizajnirati za vlastite potrebe.

Iako je priznao da bi takvi moćni sistemi mogli biti „znatno dalje u budućnosti“ od vremenskog okvira od dvije godine, Amodei je rekao da se nedavni brzi napredak tehnologije mora shvatiti ozbiljno.

„Ako se eksponencijalni rast nastavi, što nije sigurno, ali sada ima decenijski trag koji ga podržava, tada ne može proći više od nekoliko godina prije nego što AI bude bolji od ljudi u suštinski svemu“, napisao je.

Prošle godine Amodei je upozorio da bi umjetna inteligencija mogla prepoloviti broj početnih uredskih poslova i gurnuti ukupnu nezaposlenost na 20 posto u narednih pet godina.

U eseju je upozorio da bi ekonomska nagrada od AI, poput dobitaka u produktivnosti kroz ukidanje radnih mjesta, mogla biti toliko velika da niko ne bi povukao kočnicu.

„Ovo je zamka, AI je toliko moćan, toliko blistava nagrada, da je ljudskoj civilizaciji izuzetno teško nametnuti bilo kakva ograničenja“, rekao je.

Ipak, Amodei je naveo da je optimističan u pogledu pozitivnog ishoda. „Vjerujem da, ako djelujemo odlučno i pažljivo, rizici mogu biti prevaziđeni, čak bih rekao da su nam izgledi dobri. S druge strane nas čeka mnogo bolji svijet. Ali moramo razumjeti da je ovo ozbiljan civilizacijski izazov”, piše Guardian.