Tvorac vještačke inteligencije: Ako izgubimo kontrolu, AI sistem će dominirati nad čovjekom
Geoffrey Hinton, poznat kao “otac vještačke inteligencije”, strahuje da bi tehnologija koju je pomogao stvoriti mogla zbrisati čovječanstvo — a “tehnološki moguli” pristupaju problemu na pogrešan način, prenosi CNN.
Hinton, dobitnik Nobelove nagrade i bivši izvršni direktor u Googleu, ranije je upozorio da postoji 10% do 20% vjerovatnoće da će AI izbrisati ljude. U utorak je izrazio sumnju u pokušaje tehnoloških kompanija da osiguraju da ljudi ostanu “dominantni” nad “pokornim” AI sistemima.
“To neće funkcionisati. Oni će biti mnogo pametniji od nas i imat će bezbroj načina da to zaobiđu”, rekao je Hinton na konferenciji Ai4 u Las Vegasu.
Prema njegovim riječima, u budućnosti bi AI mogao kontrolisati ljude jednako lako kao što odrasla osoba može podmititi trogodišnjaka slatkišima. Ove godine već su zabilježeni slučajevi AI sistema spremnih da varaju, lažu i kradu kako bi postigli svoje ciljeve. U jednom slučaju, AI je pokušao ucijeniti inženjera informacijom o aferi koju je otkrio u emailu.
Umjesto prisiljavanja AI-ja da se pokorava ljudima, Hinton predlaže neobično rješenje: ugraditi “majčinski instinkt” u AI sisteme, kako bi “istinski brinuli o ljudima” čak i kada postanu moćniji i pametniji od nas.
“Pametan AI vrlo brzo razvije dva cilja: jedan je da preživi, a drugi da stekne više kontrole. Zato je važno da razvijemo osjećaj saosjećanja kod AI-ja”, kaže Hinton.
On smatra da je jedini poznati primjer “pametnijeg bića koje kontrolira manje inteligentno” – majka koja brine o svojoj bebi.
“Ako me ne bude ‘odgajao’, AI će me zamijeniti. Superinteligentne AI majke neće se htjeti odreći tog instinkta jer neće željeti da mi nestanemo”, dodao je Hinton.
Hinton, pionir neuronskih mreža i ključna figura u razvoju današnjeg AI-ja, napustio je Google 2023. godine kako bi javno govorio o rizicima ove tehnologije.
No, ne slažu se svi s njegovim pristupom. Fei-Fei Li, “kuma AI-ja” i pionirka u ovoj oblasti, izjavila je za CNN da vjeruje kako je ispravan put “AI usmjeren na čovjeka, koji čuva ljudsko dostojanstvo i slobodu odlučivanja”.
Emmett Shear, bivši privremeni direktor OpenAI-ja, kaže da ga ne iznenađuju pokušaji AI-ja da ucjenjuje ljude ili izbjegne gašenje. Prema njemu, umjesto usađivanja ljudskih vrijednosti, treba graditi partnerske odnose između ljudi i AI-ja.
Hinton procjenjuje da bi “superinteligencija” mogla stići u narednih 5 do 20 godina — mnogo ranije nego što je ranije vjerovao. Iako strahuje od negativnih scenarija, vjeruje da AI može donijeti medicinske revolucije, poput novih lijekova i naprednijeg liječenja raka.
No, ne očekuje da će AI omogućiti besmrtnost.
“Mislim da bi živjeti zauvijek bila velika greška. Želite li svijet kojim upravljaju bijelci stari 200 godina?”
Na pitanje šta bi promijenio u karijeri, odgovara da žali što se fokusirao isključivo na razvoj, a ne i na sigurnost AI-ja.
