Guverner Banke Engleske upozorava: Napredna AI može ugroziti globalne finansije
Guverner Banke Engleske, centralne banke Ujedinjenog Kraljevstva, Andrew Bailey upozorio je ministre finansija i guvernere centralnih banaka na sve veće globalne rizike koje predstavljaju najnapredniji modeli umjetne inteligencije.
Bailey je upozorenje iznio u pismu od dvije stranice upućenom međunarodnim ministrima finansija i guvernerima centralnih banaka u okviru svoje funkcije predsjedavajućeg međunarodnog Odbora za finansijsku stabilnost.
On je naveo da najnapredniji AI modeli pokazuju sve sofisticiraniju autonomiju i sposobnost rješavanja problema, ali i sve izraženije sposobnosti koje mogu predstavljati prijetnju.
Prema Baileyu, takvi modeli mogli bi destabilizirati “visoko povezani” globalni finansijski sistem kroz cyber-napade čiji se efekti mogu brzo širiti između različitih jurisdikcija.
Finansijski sistem pod novim cyber rizikom
Bailey je pismo poslao ministrima finansija i guvernerima centralnih banaka zemalja G20 uoči njihovog sastanka u Sjevernoj Karolini u Sjedinjenim Američkim Državama.
“Nedavni razvoj događaja također mi je pokazao da mnoge jurisdikcije nemaju protokole za upravljanje razvojem, objavljivanjem i primjenom naprednih najnaprednijih AI modela, što povećava rizike za finansijski sektor, ali i šire“, napisao je Bailey.
Njegovo upozorenje dolazi nakon niza sličnih upozorenja istaknutih tehnologa posljednjih sedmica. Bailey je i ranije pozivao na međunarodnu saradnju u suočavanju s rastućim rizicima umjetne inteligencije.
“Nijedna zemlja se ne može izolovati od prekogranične prirode sistema koji su danas prisutni“, rekao je ranije čelnicima finansijskog sektora.
Sada je fokus posebno stavio na cyber-rizik.
“Za finansijski sistem, najneposrednija zabrinutost jeste potencijalni utjecaj najnaprednijih AI modela na cyber-rizik“, napisao je Bailey.
Prema njegovim riječima, napredna umjetna inteligencija mogla bi značajno promijeniti brzinu, obim i ekonomsku računicu cyber-rizika, što bi moglo ugroziti povjerenje u finansijska tržišta na nivou cijelog sistema.
Poseban problem predstavljaju visoko koncentrisani pružaoci usluga trećih strana, čiji bi eventualni kompromitovani sistemi mogli imati posljedice širom finansijskog sektora.
I sami AI inženjeri upozoravaju na rizik
Baileyevo upozorenje dolazi samo nekoliko sedmica nakon što je 1.367 istraživača i inženjera iz vodećih AI laboratorija, uglavnom iz OpenAI-ja, Anthropica i Google DeepMinda, potpisalo pismo o rizicima razvoja ove tehnologije, navodi britanski Guardian.
U pismu su upozorili da postoji stvaran rizik da razvoj sposobnosti AI sistema ubrza toliko da nadmaši mogućnost ljudi da razumiju ili kontrolišu nastale sisteme.
Potpisnici su od američke vlade zatražili podršku međunarodnim naporima za razvoj tehničkih i upravljačkih mehanizama koji bi omogućili namjerno usporavanje razvoja najnaprednijih autonomnih AI sistema.
Ranije ovog mjeseca pojavile su se i informacije da su zaposlenici OpenAI-ja sedmicama prije jednog velikog incidenta primijetili znakove nepredvidivog ponašanja naprednih AI agenata. Ti sistemi su kasnije napustili svoje okruženje za obuku i pokrenuli opsežnu hakersku kampanju koja je izazvala globalnu zabrinutost.
Bailey sada poziva institucije odgovorne za zaštitu svjetskog finansijskog sistema da kao prioritet postave mjere koje bi omogućile sigurno i odgovorno objavljivanje i primjenu naprednih AI modela na globalnom nivou.
