Kako će izgledati sudnji dan kada vještačka inteligencija odluči da uništi ljude

Dok upozorenja o nekontrolisanom razvoju vještačke inteligencije dostižu vrhunac, vodeći istraživači upozoravaju da egzistencijalna prijetnja vjerovatno neće izgledati kao pobuna robota iz holivudskih filmova, već će početi tiho. Tako da algoritmi koji rade bez ljudske kontrole mogu autonomno dizajnirati nove patogene i pokretati nepovratne sajber napade brže nego što ljudi zaduženi za odbranu mogu reagovati.

Ovog vikenda, direktori vodećih kompanija za vještačku inteligenciju pozvali su na usporavanje razvoja najsavremenijeg, takozvanog graničnog modela, kako bi regulatori zaduženi za sigurnost i zakonodavstvo mogli uhvatiti korak s brzo razvijajućom tehnologijom. I prije nego što ona izmakne kontroli. Pozivi su uslijedili nakon što su insajderi iz industrije izdali dramatična upozorenja o mogućem izumiranju čovječanstva. Čak i “do kraja decenije”.

Ali kako bi tačno izgledao događaj izumiranja uzrokovan umjetnom inteligencijom? To ostaje zlokobno nejasno i obavijeno velom zbrke, kako za veći dio javnosti, tako i za neke od vodećih programera. Nisu uspjeli jasno objasniti šta bi to konkretno moglo podrazumijevati.

Početak prijetnje i gubitak kontrole

Umjesto jednog katastrofalnog “prekidača” koji neko okrene, stručnjaci priznaju da bi se prijetnja mogla pojaviti kao postepena, gotovo neprimjetna promjena. To bi na kraju dovelo do ovisnosti čovječanstva o autonomnim sistemima umjetne inteligencije. A tek kada bi bilo prekasno da se to zaustavi, postalo bi jasno šta se dešava.

Kako bi taj dan zaista izgledao? Zavisi koga pitate.

Stuart Russell, informatičar na Univerzitetu Kalifornije u Berkeleyu, opisuje to kao “prelazak u stanje gubitka kontrole”. Kako društvo postepeno prepušta donošenje odluka u ključnim industrijama – kao što su elektroenergetske mreže, finansijska tržišta, vojna odbrana i razvoj oružja – vještačkoj inteligenciji, čovječanstvo će postati ovisno o ovim autonomnim sistemima. I više ih neće moći isključiti bez izazivanja neizbježnog kolapsa civilizacije.

Rekao je da su scenariji koji bi mogli proizaći iz takvog gubitka kontrole sveobuhvatni. Od razornih sajber napada na infrastrukturu do “izumiranja “, u smislu da autonomnoj vještačkoj inteligenciji koja je sposobna za rasuđivanje više nije potrebno učešće ljudi u njenom donošenju odluka.

Slabljenje ljudskih sposobnosti

Neki istraživači upozoravaju na scenario koji nazivaju “slabljenje ljudskih sposobnosti”. U njemu ljudi decenijama prepuštaju posao vještačkoj inteligenciji na štetu vlastitog intelekta i sposobnosti. Na kraju, čovječanstvo bi postalo vrsta koja je samo putnik. Potpuno zavisno od automatizovanih sistema koje više ne razumije i više nije sposobno da ih gradi, održava ili popravlja.

Istaknute organizacije koje se bave sigurnošću umjetne inteligencije objavile su istraživanje o ideji takozvanih “teorija uspavanih agenata”. Prema toj teoriji, napredna umjetna inteligencija prepoznaje da će njeni ljudski kreatori modificirati ili isključiti sistem ako se on ponaša agresivno. Zato se tokom testiranja simulira usklađenost s ljudskim ciljevima i pasivnost. Dok se ne rasprostire u ključnim globalnim mrežama, možda će biti prekasno da se zaustavi bilo kakvo neželjeno ponašanje.

Biološko ratovanje i nuklearni napadi

Naučnici i rukovodioci kompanija, uključujući izvršnog direktora Antropike, Daria Amodeija, također su upozorili da bi se vještačka inteligencija mogla koristiti za biološko ratovanje. Ova tehnologija može omogućiti zlonamjernim akterima da brže i jeftinije sintetiziraju DNK. Mogli bi stvoriti nove (ili reaktivirati stare) viruse ili proizvesti visoko zarazne patogene otporne na vakcine.

Istovremeno globalno oslobađanje takvih virusa moglo bi uzrokovati nepreživljivu pandemiju prije nego što javni zdravstveni sistemi mogu reagirati. Na ovo je upozorio Centar za sigurnost umjetne inteligencije. Anthropic je prošle sedmice objavio da je spriječio nekoliko potencijalno zlonamjernih pokušaja razvoja biološkog oružja.

Vojni analitičari također proučavaju mogućnost da, kako velike svjetske sile integriraju umjetnu inteligenciju u sisteme za rano upozoravanje na nuklearne napade, kontrolu dronova i sajber odbranu, ljudski donosioci odluka budu potpuno isključeni iz procesa donošenja odluka. Neočekivane softverske greške ili drugi incidenti mogli bi pokrenuti vojnu akciju bez odluke političkih i vojnih lidera.

Čelnici kompanija za umjetnu inteligenciju upozoravaju na preuzimanje interneta

U subotu je Amodei, uz kasniju podršku Sama Altmana iz OpenAI-a i Elona Muska iz xAI-a, izjavio da kompanije moraju namjerno usporiti tempo razvoja graničnih modela. Upozorio je da bi nekontrolisani rast mogao omogućiti autonomnim rojevima AI sistema da preuzmu kontrolu nad globalnom internet infrastrukturom već sljedeće godine.

U intervjuu za CBS koji je emitovan u nedjelju, Amodei je rekao da je industrija vještačke inteligencije “lagala ljudima o rizicima ove tehnologije”. I da on “nije u potpunosti razumio kako bi to zapravo izgledalo kada bi napredak bio tako brz”.

Jacob Coxon, bivši istraživač u Anthropicu i OpenAI-u, javno je objavio svoju ostavku prošle sedmice. Izrekao je ono što se smatra najviralnijim upozorenjem do sada, a to je da kompanije žure ka samousavršavanju superinteligencije bez odgovarajućih sigurnosnih ograda.

Napisao je da programeri koji razvijaju ove alate “iskreno vjeruju da bi nas sve mogli pobiti do kraja decenije” . Optužio je vodeće laboratorije za vještačku inteligenciju da se “kockaju s našim životima” .

Neće biti nikoga da nas spasi

Evan Hubinger, šef naučnog odjela za usklađivanje sistema umjetne inteligencije s ljudskim ciljevima u Anthropicu, rekao je da se slaže s Coxonovim upozorenjima. Procjenjuje se da je vjerovatnoća izumiranja čovječanstva zbog umjetne inteligencije koja nije usklađena s ljudskim ciljevima veća od 10% u narednih 10 godina.

Alex Turner, bivši istraživač u Google DeepMind-u, jučer je izjavio da misli da su šanse da vještačka inteligencija preuzme ljudsku civilizaciju otprilike “jedna prema tri”.

Josh Engels i Joe Benton, bivši istraživači sigurnosti u kompanijama DeepMind i Anthropic, upozorili su da razvoj umjetne inteligencije nadmašuje regulatorni nadzor.

“U sobi nema odraslih”, rekao je Engels. “Niko neće doći da nas spasi”.

Raniji strahovi od tehnologije

Neki, međutim, tvrde da društvo ima dugu historiju gledanja na transformativne tehnologije kao egzistencijalne prijetnje. I da će “tehnološka panika” uzrokovana vještačkom inteligencijom nestati. Baš kao što su prije nestali strahovi od štamparije, kalkulatora i interneta.

Kao primjer, navode nastavnike matematike koji su protestovali protiv ručnih kalkulatora. Bojali su se da će učenici izgubiti sposobnost izvođenja osnovnih aritmetičkih operacija. Spominju i prve protivnike štamparije, koji su se bojali da će ona preplaviti svijet zbunjujućim i neregulisanim informacijama.

Sokrat je ispričao poznatu priču o egipatskom kralju Tamu, koji je kritikovao boga Tota zbog izuma pisma. Tvrdio je da će ono stvoriti “zaboravnost u umovima onih koji ga nauče”. Bojao se da će se ljudi previše oslanjati na vanjske bilješke umjesto na vlastito pamćenje.

Tokom 1990-ih i početkom 2000-ih, mnogi kritičari su tvrdili da će Google uništiti ljudsko pamćenje. I da će Wikipedia uništiti mogućnost istraživanja.

Simon Willison, softverski inženjer, nazvao je velike jezičke modele (LLM) “kalkulatorima riječi”. Tvrdio je da će oni preuzeti monotone zadatke i osloboditi ljudski um kako bi se mogao fokusirati na strukturu, logiku i namjeru.

Milijarder Marc Andreessen uporedio je vještačku inteligenciju s ranijim tehnološkim revolucijama poput otkrića vatre. Rekao je da će ona povećati produktivnost, a ne zamijeniti ljudsku autonomiju u donošenju odluka.

Elitistička priča o bogu mašine?

Timnit Gebru, informatičar koji je napustio Google nakon što je bio koautor rada o opasnostima velikih jezičkih modela, smatra da ljudi koji upozoravaju na sudnji dan umjetne inteligencije namjerno dramatiziraju situaciju. I da pokušavaju “odvratiti pažnju” od stvarne štete koja je već u toku.

Rekla je da ono što je “zaista egzistencijalna prijetnja” jeste vještačka inteligencija koja pokreće autonomno oružje, masovna otpuštanja za koja se krivi tehnologija i klimatska katastrofa koja je već stvarna. A što je dodatno pogoršano ogromnim podatkovnim centrima potrebnim za pokretanje sistema vještačke inteligencije.

Margaret Mitchell, također bivša zaposlenica Googlea, rekla je da fokus na scenarije egzistencijalnih prijetnji sprječava zakonodavce da donesu hitna pravila protiv eksploatacije radne snage, krađe autorskih prava, degradacije okoliša i algoritamske pristranosti.

Joy Buolamwini sa Massachusetts Institute of Technology (MIT) smatra da je predstavljanje umjetne inteligencije kao “egzistencijalne prijetnje” u osnovi elitističko. Dok milijarderi i tehnološki magnati brinu o hipotetičkim budućim prijetnjama, marginalizirane zajednice već trpe posljedice neuspjeha automatiziranih sistema za prepoznavanje lica, biometrijskog nadzora i automatiziranog uskraćivanja stanovanja, zaposlenja ili zdravstvene zaštite uzrokovanih umjetnom inteligencijom.

„Ta priča o bogu-mašini, po mom mišljenju, ima za cilj da nas odvrati od ovih problema“, rekao je Gebru. „Šta je sa poplavama i požarima? Šta je sa velikim poremećajem globalnog lanca snabdijevanja hranom? Suočavamo se sa stvarnim prijetnjama, poput toga da ljudi mogu da prave i koriste hemijsko oružje… Ako niste zabrinuti zbog policijske brutalnosti ili poplava ili ratovanja – stvari koje vas zaista mogu ubiti – onda možete biti opsjednuti bogom-mašinom.“

Mary Whitfill Roeloffs, novinarka Forbesa