Anthropic tvrdi da je blokirao mogući pokušaj razvoja biološkog oružja
Kompanija Anthropic zabranila je naloge za koje sumnja da su pokušali da iskoriste njen AI model Claude za razvoj biološkog oružja, saopšteno je u četvrtak, svega nekoliko dana nakon što su stručnjaci za vještačku inteligenciju upozorili da bi sve moćniji digitalni asistenti mogli predstavljati prijetnju i po opstanak čovječanstva.
Anthropic je u izvještaju objavljenom u četvrtak naveo da je blokirao zahtjev za pomoć Clauda u pisanju prijave za naučni grant, kojim je trebalo finansirati istraživanje genetskih izmjena virusa čikungunje, koji prenose komarci.
Prema navodima kompanije, cilj projekta bio je da virus, koji ima veoma nisku stopu smrtnosti, ali može izazvati dugotrajne bolove u zglobovima i mišićima, postane štetniji.
Anthropic je istovremeno priznao da bi slična istraživanja mogla imati legitimnu primjenu u razvoju vakcina ili terapija protiv tog virusa.
Ipak, ista istraživanja mogla bi se iskoristiti i da virus postane opasniji. Kompanija je posumnjala da projekat nije bezazlen kako je predstavljen, jer je u prijavi navedeno učešće civilnih istraživača, dok je samo istraživanje trebalo da bude sprovedeno u vojnom istraživačkom institutu.
Anthropic nije objavio imena niti povezanost institucija i istraživača koji su eventualno bili uključeni.
Kompanija je saopštila da je zabranila sve naloge povezane sa tim aktivnostima, ugasila mreže posrednika koje su služile za zaobilaženje regionalnih blokada i podijelila nalaze istrage sa drugim AI laboratorijama i američkom saveznom vladom.
„Istraživanje nije bilo ograničeno samo na prijavu za finansiranje“
„Na osnovu postojanja ovih istraživačkih materijala zaključujemo da aktivnosti nisu bile ograničene samo na predlog za finansiranje“, naveo je Anthropic u izvještaju.
„Zabranjujemo naloge za koje utvrdimo da su povezani sa ovom grupom aktivnosti i nastavljamo da nalaze iz istrage ugrađujemo u nove mjere za otkrivanje i sprečavanje zloupotrebe Anthropicovih usluga.“
Stručnjaci upozoravaju na rizik od AI-ja
Bivši zaposleni OpenAI-ja i Anthropica, kao i jedan aktuelni zaposleni te kompanije, upozorili su ove sedmice da postoji mogućnost da bi vještačka inteligencija u narednoj deceniji mogla dovesti čak i do izumiranja čovječanstva.
Evan Hubinger, koji u Anthropicu rukovodi radom na usklađivanju funkcionisanja AI sistema sa ljudskim ciljevima i vrijednostima, rekao je da lično procjenjuje da postoji više od 10 posto šanse da bi „AI mogao da ubije sve ljude“ u narednih deset godina, ukoliko se razvoj nastavi sadašnjim, ubrzanim tempom.
Pozivi na zakon o „prekidaču za gašenje AI-ja“
Hubingerova procjena uslijedila je kao odgovor na objavu Jacoba Coxona, istraživača koji je nedavno napustio Anthropic nakon kratkog angažmana u kompaniji.
Coxon je optužio AI kompanije da se ne ponašaju odgovorno, tvrdeći da „jure pravo ka superinteligenciji koja se sama unapređuje i kockaju se našim životima“.
Dodao je da istraživači koji rade na vještačkoj inteligenciji vjeruju da bi ona mogla „da nas sve ubije do kraja decenije“ i naglasio da njegove tvrdnje nisu „marketinški trik“.
Objave Coxona i Hubingera podstakle su pozive američkih zakonodavaca da usvoje takozvani „AI Kill Switch Bill“, odnosno zakon koji bi omogućio zaustavljanje opasnih AI sistema.
Senator Bernie Sanders, nezavisni senator iz Vermonta, najavio je da će predložiti zakon kojim bi se zabranila superinteligencija i privremeno zaustavio dalji razvoj najnaprednijih AI sistema.
Američki predsjednik Donald Trump, s druge strane, snažno podržava razvoj vještačke inteligencije u SAD, podstiče lokalne zajednice da prihvate izgradnju data centara i podržava tehnološku trku sa Kinom u oblasti AI-ja.
Antonio Pequeño IV, Forbes
Anthropic Says It Blocked Possible Biological Weapons Undertaking
