Još OpenAI drame: Exec odustaje zbog zabrinutosti oko fokusiranja na profit umjesto sigurnosti
Odlazeći izvršni direktor OpenAI fokusiran na sigurnost izaziva zabrinutost u vezi sa kompanijom na izlazu.
Jan Leike , koji je ove sedmice dao ostavku na svoju ulogu vodeći kompanijski tim za „superusklađenost“, rekao je u temi od X u petak da se ne slaže sa „ključnim prioritetima“ rukovodstva OpenAI-a i da je „došao do tačke preloma“.
“Poravnanje” ili “superusklađenost” su termini koji se koriste u prostoru umjetne inteligencije da se odnose na rad na obuci AI sistema za rad u okviru ljudskih potreba i prioriteta. Leike se pridružio OpenAI-u 2021, a prošlog ljeta kompanija je objavila da će on zajedno voditi tim za Superalignment fokusiran na „naučna i tehnička otkrića za upravljanje i kontrolu AI sistema koji su mnogo pametniji od nas“.
Međutim, Leike je u petak rekao da je tim posljednjih mjeseci bio pod nedostatkom resursa i da “plovi protiv vjetra”.
“Ponekad smo se borili za računanje i bilo je sve teže i teže obaviti ovo ključno istraživanje”, rekao je za X, dodajući da je četvrtak bio njegov posljednji dan u pokretanju. „Izgradnja mašina pametnijih od ljudi je inherentno opasan poduhvat… Ali tokom proteklih godina, bezbjednosna kultura i procesi su zauzeli mesto u odnosu na sjajne proizvode.”
Leikeov odlazak, koji je najavio u srijedu, dolazi usred šire promjene rukovodstva u OpenAI-u. Njegova ostavka uslijedila je nakon objave suosnivača OpenAI-ja i glavnog naučnika Ilye Sutskevera, koji je također pomogao u vođenju tima za superpostrojenje, u utorak da će napustiti kompaniju.
Sutskever je rekao da odlazi da radi na “projektu koji je meni lično značajan”. Ali njegov odlazak je bio značajan s obzirom na centralnu ulogu koju je odigrao u dramatičnom otpuštanju — i povratku — generalnog direktora OpenAI-ja, Sema Altmana prošle godine, kada je glasao da smijeni Altmana sa mjesta glavnog izvršnog direktora i predsjednika odbora.
Saradnica CNN-a Kara Swisher ranije je izvijestila da je Sutskever bio zabrinut da Altman gura AI tehnologiju “predaleko, prebrzo”. Ali nekoliko dana nakon Altmanovog svrgavanja, Sutskever je promijenio mišljenje: potpisao je pismo zaposlenima u kojem je pozvao cijeli odbor da podnese ostavku i da se Altman vrati.
Ipak, pitanja o tome kako – i koliko brzo – razviti i javno objaviti AI tehnologiju možda su i dalje izazivala napetost unutar kompanije u mjesecima nakon što je Altman povratio kontrolu nad firmom. Izvršni izlasci dolaze nakon što je OpenAI ove sedmice najavio da će svoj najmoćniji AI model do sada, GPT-4o, učiniti dostupnim besplatno javnosti putem ChatGPT-a. Tehnologija će ChatGPT učiniti više kao digitalni lični asistent, sposoban za govorne razgovore u realnom vremenu.
“Vjerujem da bi mnogo više našeg propusnog opsega trebalo potrošiti na pripremu za sljedeće generacije modela, na sigurnost, nadzor, spremnost, sigurnost, otpornost na suparničku robusnost, (super)usklađenost, povjerljivost, društveni utjecaj i srodne teme”, napisao je Leike u njegova X nit u petak. “Ove probleme je prilično teško riješiti i brinem se da nismo na putanji da tamo stignemo.”
Upitan za komentar Leikeovih tvrdnji, OpenAI je uputio CNN na X post od Altmana rekavši da je kompanija posvećena sigurnosti.
“Izuzetno sam zahvalan na @janleike-ovom doprinosu OpenAI istraživanju poravnanja i sigurnosnoj kulturi i veoma sam tužan što ga vidim kako odlazi,” rekao je Altman. „U pravu je, imamo još mnogo toga da uradimo; mi smo posvećeni tome. Imaću duži post u narednih nekoliko dana.”
