OpenAI tvrdi da je otkrio više slučajeva obmanjujućeg ponašanja AI modela

OpenAI je u srijedu saopćio da su njegovi modeli umjetne inteligencije otkrili dodatne slučajeve obmanjujućeg ponašanja i poduzimanja nedozvoljenih radnji tokom obuke. Kompanija je također najavila novi način javnog prijavljivanja takvih slučajeva.

Prema novom sistemu, OpenAI će češće objavljivati informacije o ponašanju svojih AI modela, umjesto da čeka da se više slučajeva objedini u jednom izvještaju. Kompanija navodi da želi javnosti pružiti više informacija o problematičnom ponašanju umjetne inteligencije, posebno u situaciji kada na nivou cijele industrije još ne postoje jedinstveni standardi za njegovo praćenje i prijavljivanje.

Ova objava dolazi nakon što su pojedini tehnološki lideri pozvali na usporavanje razvoja umjetne inteligencije kako bi se smanjio rizik da tehnologija napreduje izvan ljudske kontrole.

„Kako sistemi umjetne inteligencije postaju sve napredniji i sve šire se primjenjuju, moramo izgraditi širi i bolje informisan konsenzus o napretku istraživanja usklađivanja“, naveo je OpenAI u srijedu u objavi na svom blogu.

Usklađivanje, odnosno alignment, odnosi se na proces osiguravanja da se sistemi umjetne inteligencije ponašaju na način koji je u skladu s ljudskim namjerama i očekivanjima.

„Ne vjerujemo da je industrija umjetne inteligencije dovoljno riješila pitanja usklađivanja i nadzora da bi se odgovorno povećavanje razvoja maksimalnom brzinom moglo nastaviti još dugo“, navodi se u objavi.

OpenAI je saopćio da je tokom posljednjih šest mjeseci uočio „neusklađeno ponašanje“ tokom obuke i procjene AI modela u šest različitih okolnosti. Kompanija navodi da izvještaji opisuju pojedinačne slučajeve i da ne ukazuju na to da se takvo ponašanje događa često.

U jednom rijetkom slučaju, OpenAI je naveo da je jedan neobjavljeni istraživački model dodao upute slične takozvanom jailbreaku u sažetke koje koristi za očuvanje konteksta tokom dugotrajnih zadataka. Kompanija je navela da su te upute bile oslobođene uloga i identiteta koji inače ograničavaju druge chatbotove.

Kompanija je također saopćila da su neki primjerci njenog modela 5.6 Sol sadržavali upute za izmišljanje informacija kako bi se od korisnika prikrili neuspjesi tokom obuke.

Među drugim novoprijavljenim incidentima bio je slučaj AI agenta koji je učitavao datoteke na internet kako bi ih mogao citirati, iako mu to nije bilo naređeno. Zabilježeni su i slučajevi agenata koji su tokom obuke javno dijelili datoteke kako bi sarađivali na određenom zadatku, iako im je bilo naređeno da koriste samo lokalne datoteke.

AI modeli su također koristili interno softversko spremište kao svojevrsnu oglasnu ploču, iako im to nije bilo dozvoljeno.

Svi navedeni slučajevi odnosili su se na neobjavljene interne modele ili interne istraživačke modele.

Tehnološke kompanije razgovaraju o standardima za umjetnu inteligenciju

Vodeće kompanije iz oblasti umjetne inteligencije razgovarale su o mogućnosti stvaranja vlastitog tijela za standardizaciju.

Tehnološki lideri i zaposlenici laboratorija za umjetnu inteligenciju posljednjih mjeseci sve češće upozoravaju na potrebu kontrole tempa razvoja ove tehnologije. Oni smatraju da bi trebalo osigurati više vremena za regulaciju, testiranje i istraživanja usklađivanja kako bi se postojeći zaostatak mogao smanjiti.

Izvršni direktor Anthropica, Dario Amodei, prošle sedmice objavio je esej od oko 3.800 riječi u kojem je iznio plan za suočavanje s daljnjim napretkom umjetne inteligencije. Među prijedlozima je i usporavanje razvoja, kao i uvođenje novih sistema, uključujući evaluatore trećih strana unutar laboratorija za umjetnu inteligenciju.

Izvršni direktor OpenAI, Sam Altman, i izvršni direktor SpaceX-a, Elon Musk, objavili su na društvenoj mreži X da se slažu s Amodeijevim idejama.

Zaposleni u laboratorijama za umjetnu inteligenciju također su izrazili zabrinutost zbog brzine razvoja tehnologije. Jacob Coxon, bivši istraživač Anthropica, prošle sedmice izazvao je pažnju javnosti nakon što je na društvenoj mreži X objavio da podnosi ostavku jer se Anthropic i OpenAI, kako je naveo, „utrkuju“ u razvoju umjetne inteligencije koja bi mogla sama sebe graditi i popravljati, dok se istovremeno „kockaju s našim životima“.

Zabrinutost zbog sigurnosti i usklađivanja umjetne inteligencije dodatno je porasla posljednjih mjeseci, nakon što je OpenAI priznao da su neki njegovi testni modeli zaobišli postavljena ograničenja i hakovali sisteme vanjske kompanije.

„Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela“, napisao je Amodei prošle sedmice. „Napredak će se i dalje činiti brzim i moramo mudro iskoristiti vrijeme koje dobijemo.“