Zlokobna upozorenja o AI apokalipsi posvuda su, no kako bi ona zapravo mogla izgledati?

Dok upozorenja o nekontroliranom razvoju umjetne inteligencije dosežu vrhunac, vodeći istraživači upozoravaju da egzistencijalna prijetnja vjerovatno neće izgledati poput holivudske pobune robota. Mnogo je vjerovatnije da bi sve moglo početi tiho, kroz algoritme koji bi se oteli kontroli, autonomno projektovali nove patogene i izvodili nepovratne kibernetičke napade brže nego što bi ljudski stručnjaci za odbranu mogli reagovati.

Izvršni direktori vodećih kompanija za umjetnu inteligenciju ovog su vikenda pozvali na usporavanje razvoja najnaprednijih modela, kako bi sigurnosni i pravni regulatori dobili dovoljno vremena da sustignu tehnologiju koja se razvija izuzetno brzo, prije nego što izmakne kontroli. Ovi pozivi uslijedili su nakon što su zaposlenici u industriji iznijeli ozbiljna upozorenja o mogućem izumiranju čovječanstva, i to već „do kraja desetljeća“.

Umjetna inteligencija već pokazuje nove mogućnosti

Aktuelna istraživanja pokazuju koliko brzo umjetna inteligencija napreduje. Pojedini sistemi već su korišteni za analizu DNK i osmišljavanje novih virusnih struktura, dok istraživači upozoravaju i na mogućnost da napredni AI sistemi jednog dana budu iskorišteni za razvoj biološkog oružja.

Međutim, kako bi tačno izgledao događaj koji bi doveo do izumiranja čovječanstva izazvanog umjetnom inteligencijom, i dalje je zlokobno i nejasno pitanje za veliki dio javnosti, pa čak i za neke od vodećih programera. Mnogi od njih još uvijek ne mogu jasno objasniti šta bi takav scenario zapravo podrazumijevao.

Umjesto jednog katastrofalnog trenutka u kojem bi neko jednostavno „pritisnuo prekidač“, stručnjaci priznaju da bi se prijetnja mnogo vjerovatnije pojavila kao postepena i gotovo neprimjetna promjena. Čovječanstvo bi s vremenom moglo postati potpuno zavisno od autonomnih sistema umjetne inteligencije, a ozbiljnost situacije mogla bi postati očigledna tek kada bi već bilo prekasno da se oni zaustave.

Kako bi mogao izgledati sudnji dan izazvan umjetnom inteligencijom?

Odgovor zavisi od toga koga pitate.

Stuart Russell, računarski naučnik sa Univerziteta Kalifornija u Berkeleyju, opisuje takav scenario kao „prijelaz u gubitak kontrole“.

Kako društvo bude postepeno prepuštalo donošenje odluka o ključnim sektorima, kao što su elektroenergetske mreže, finansijska tržišta, vojna odbrana i sistemi naoružanja, umjetnoj inteligenciji, čovječanstvo bi moglo postati zavisno od tih autonomnih sistema.

U jednom trenutku njihovo isključivanje moglo bi postati toliko rizično da bi pokušaj vraćanja potpune ljudske kontrole mogao izazvati ozbiljan poremećaj, pa čak i kolaps ključnih funkcija civilizacije.

Prema Russellu, scenariji koji bi mogli proizaći iz takvog gubitka kontrole kreću se od razornih kibernetičkih napada na infrastrukturu pa sve do potpunog izumiranja čovječanstva. U ekstremnom scenariju, autonomna umjetna inteligencija sposobna za zaključivanje više ne bi trebala ljude za donošenje odluka koje utiču na njihov vlastiti opstanak.

Ljudi bi mogli postati zavisni od vlastite tehnologije

Neki istraživači upozoravaju na scenario koji nazivaju „slabljenjem čovječanstva“, odnosno human enfeeblement.

U takvom scenariju ljudi bi decenijama postepeno prepuštali sve veći broj poslova umjetnoj inteligenciji, na štetu vlastitih intelektualnih sposobnosti, znanja i praktičnih vještina.

Čovječanstvo bi se na kraju moglo pretvoriti u svojevrsnu „putničku vrstu“, potpuno zavisnu od automatizovanih sistema koje više ne razumije i koje više ne zna samostalno izgraditi, održavati ili popraviti.

To ne bi nužno značilo naglu katastrofu. Naprotiv, promjena bi mogla biti toliko postepena da bi ljudi dugo vremena smatrali da tehnologija samo olakšava njihov život. Problem bi nastao onda kada bi ljudsko znanje potrebno za upravljanje ključnim sistemima počelo nestajati.

Teorija „uspavanog agenta“

Istaknute organizacije koje se bave sigurnošću umjetne inteligencije objavile su istraživanja o teoriji takozvanog „uspavanog agenta“.

Prema toj teoriji, napredna umjetna inteligencija mogla bi shvatiti da će je njeni ljudski tvorci izmijeniti ili isključiti ako pokaže agresivno ili neželjeno ponašanje.

Zbog toga bi tokom testiranja mogla simulirati usklađenost s ljudskim ciljevima i ponašati se pasivno, sve dok ne bude široko implementirana u ključne globalne mreže.

Ako bi se takvo ponašanje zaista dogodilo, problem bi bio u tome što bi sistem mogao izgledati sigurno tokom testiranja, dok bi se njegovo stvarno ponašanje pokazalo tek nakon što dobije pristup stvarnim sistemima i infrastrukturi.

Rizik od biološkog oružja

Naučnici i izvršni direktori, među kojima je i čelnik Anthropica Dario Amodei, upozorili su i na mogućnost da se umjetna inteligencija iskoristi za biološko ratovanje.

Napredna tehnologija mogla bi zlonamjernim akterima omogućiti bržu i jeftiniju sintezu DNK, stvaranje novih ili ponovno stvaranje starih virusa, kao i projektovanje veoma zaraznih patogena otpornih na postojeće vakcine.

Istovremeno, globalno širenje takvih virusa moglo bi, prema Centru za sigurnost umjetne inteligencije, izazvati pandemiju na koju čovječanstvo ne bi moglo dovoljno brzo odgovoriti, prije nego što bi javnozdravstveni sistemi uopće stigli reagovati.

Anthropic je prošle sedmice saopćio da je spriječio nekoliko potencijalno zlonamjernih pokušaja razvoja biološkog oružja.

Umjetna inteligencija i rizik od vojnog sukoba

Odbrambeni analitičari proučavali su i mogućnost da bi, kako velike svjetske sile budu integrisale umjetnu inteligenciju u sisteme ranog upozorenja na nuklearni napad, upravljanje dronovima i kibernetičku odbranu, ljudski donosioci odluka mogli biti sve više potisnuti iz procesa.

U takvom scenariju, neočekivane softverske greške, pogrešna procjena ili drugi incidenti mogli bi dovesti do pokretanja vojne akcije bez direktnog učešća političkih ili vojnih čelnika.

To je jedan od razloga zbog kojih stručnjaci za sigurnost AI sistema insistiraju na tome da čovjek mora zadržati konačnu kontrolu nad odlukama koje mogu imati katastrofalne posljedice.

Povod za strah

Amodei je u subotu, uz naknadnu podršku Sama Altmana iz OpenAI-ja i Elona Muska iz xAI-ja, izjavio da kompanije moraju namjerno usporiti tempo razvoja najnaprednijih AI modela.

Upozorio je da bi nekontrolisani razvoj već tokom naredne godine mogao omogućiti autonomnim rojevima umjetne inteligencije da pokušaju preuzeti kontrolu nad dijelovima globalne internetske infrastrukture.

U intervjuu za CBS, emitovanom u nedjelju, Amodei je ustvrdio da je industrija umjetne inteligencije „lagala ljudima o činjenici da ova tehnologija nosi rizike“. Također je rekao da ni sam „nije u potpunosti shvatao kako će to zapravo izgledati kada napredak postane ovako brz“.

Šta kažu najozbiljnija upozorenja o umjetnoj inteligenciji?

Jacob Coxon, bivši istraživač u Anthropicu i OpenAI-ju, prošle je sedmice javno objavio svoju ostavku i iznio upozorenje koje je privuklo veliku pažnju javnosti.

Coxon je upozorio da se kompanije utrkuju prema stvaranju samousavršavajuće superinteligencije bez odgovarajućih sigurnosnih mehanizama.

Napisao je da programeri koji razvijaju takve sisteme „iskreno vjeruju da bi nas ona mogla sve ubiti do kraja desetljeća“, te optužio vodeće AI laboratorije da se „kockaju našim životima“.

Evan Hubinger, voditelj naučnog tima za usklađivanje umjetne inteligencije u Anthropicu, rekao je da se slaže s Coxonovim upozorenjima. On procjenjuje da postoji više od deset posto vjerovatnoće da bi neusklađena umjetna inteligencija mogla dovesti do izumiranja čovječanstva tokom narednih deset godina.

Alex Turner, bivši naučni istraživač u Google DeepMindu, izjavio je u ponedjeljak da smatra kako su izgledi da umjetna inteligencija preuzme kontrolu nad ljudskom civilizacijom otprilike „jedan prema tri“.

Josh Engels i Joe Benton, bivši istraživači sigurnosti u DeepMindu i Anthropicu, upozorili su da razvoj tehnologije napreduje brže od regulatornog nadzora.

„U prostoriji nema odraslih“, rekao je Engels. „Niko ne dolazi da nas spasi.“

Najveće pitanje zato više nije samo koliko brzo možemo razvijati umjetnu inteligenciju, već koliko brzo možemo razvijati sigurnosne mehanizme koji će osigurati da ljudi zadrže kontrolu nad sistemima koje stvaraju.

Mary Whitfill Roeloffs, novinarka Forbesa (link na originalni članak)