Microsoft upozorava na novu eru umjetne inteligencije: „Silicijska vrsta“ jednog dana mogla bi konkurirati ljudima

Čelnik Microsoftovog odjela za umjetnu inteligenciju Mustafa Suleyman upozorava da bi razvoj sve autonomnijih AI sistema, bez jasnih zaštitnih mehanizama, mogao stvoriti tehnologiju koju ljudi više neće moći u potpunosti kontrolirati.

Umjetna inteligencija mogla bi jednog dana postati toliko autonomna da bi predstavljala svojevrsnu novu „silicijsku vrstu“ koja bi se s ljudima takmičila za resurse, upozorio je Mustafa Suleyman, čelnik Microsoftovog odjela za umjetnu inteligenciju.

U razgovoru za BBC, Suleyman je poručio da je zabrinutost zbog razvoja umjetne inteligencije opravdana, ali da postoje konkretni mehanizmi kojima se rizici mogu smanjiti.

Njegovo upozorenje dolazi u trenutku kada najveće tehnološke kompanije svijeta ubrzano razvijaju sve naprednije modele umjetne inteligencije, dok istovremeno raste debata o tome koliko autonomije takvim sistemima treba omogućiti.

Suleyman smatra da bi posebno opasno bilo stvaranje AI sistema koji bi mogli samostalno postavljati ciljeve, zarađivati novac i posjedovati imovinu.

„To bi u suštini značilo sijanje nove vrste silicija“, rekao je Suleyman, upozoravajući da bi takvi sistemi jednog dana mogli početi konkurirati ljudima za resurse.

„Ne smijemo stvoriti nešto što više ne možemo kontrolirati“

Suleyman je posebno kritizirao pristup kompanije Anthropic, koja razvija AI modele poput Claudea.

Prema njegovom mišljenju, Anthropic previše tretira umjetnu inteligenciju kao da posjeduje osobine karakteristične za ljude.

Takav pristup naziva antropomorfizacijom, odnosno pripisivanjem ljudskih osobina, osjećaja i namjera sistemima koji ih, prema njegovom stavu, nemaju.

U eseju koji je objavio ranije ove sedmice, Suleyman je posebno naglasio da umjetna inteligencija nije svjesno biće.

Prema njegovom objašnjenju, AI sistemi ne osjećaju, ne pate i nemaju urođene želje ili vlastite motivacije.

Suleyman ih opisuje kao sisteme dizajnirane da slijede instrukcije i ostvaruju ciljeve koje postavljaju ljudi.

Njegova zabrinutost odnosi se na mogućnost da način na koji ljudi razvijaju i treniraju AI sisteme jednog dana može dovesti do neželjenih posljedica.

„Ne smijemo u snu donijeti odluku koju ćemo kasnije gorko požaliti“, poručio je.

Kompanija Anthropic zatražena je za komentar na njegove navode.

Zašto je kontrola AI sistema postala ključno pitanje

Jedno od najvećih pitanja u razvoju umjetne inteligencije više nije samo koliko moćni sistemi mogu postati. Pitanje je i koliko autonomije treba da imaju.

Suleyman smatra da bi kompanije trebale biti mnogo transparentnije kada je riječ o načinu na koji treniraju i testiraju svoje modele.

To bi, prema njegovom prijedlogu, trebalo uključivati nezavisni nadzor nad ponašanjem AI sistema, kao i snažnije alate za njihovo praćenje i kontrolu.

Dame Wendy Hall, profesorica računarstva na Univerzitetu u Southamptonu, ocijenila je da su ovakve rasprave važne i da ih treba voditi na međunarodnom nivou.

Istovremeno je upozorila da dio industrije svojim pretjerano dramatičnim porukama može izazvati strah javnosti.

Debata se zato sve više kreće između dva pola, ubrzanog tehnološkog razvoja s jedne strane i zahtjeva za strožijom kontrolom s druge.

Microsoft želi „humanističku superinteligenciju“

Suleymanovi stavovi dio su šire strategije Microsofta u oblasti razvoja napredne umjetne inteligencije.

Kompanija je u oktobru 2025. godine osnovala vlastiti tim posvećen razvoju superinteligencije, odnosno sistema koji bi u određenim oblastima mogli nadmašiti ljudske sposobnosti.

Microsoft istovremeno razvija koncept takozvane „humanističke superinteligencije“.

Ideja je da se razvije vrlo napredna umjetna inteligencija koja ostaje usmjerena na interese ljudi, djeluje unutar jasno definiranih ograničenja i ostaje pod ljudskom kontrolom.

U Microsoftovom pristupu naglasak je na tome da povećanje sposobnosti AI sistema mora biti praćeno jasnim pravilima o tome šta ti sistemi smiju i ne smiju raditi.

To je ujedno i srž šire debate o takozvanom usklađivanju umjetne inteligencije, oblasti koja se bavi načinom na koji se ljudske vrijednosti, ciljevi i sigurnosni principi mogu ugraditi u AI sisteme.

Trka za superinteligencijom već je počela

Microsoft nije jedina velika tehnološka kompanija koja ulaže ogromna sredstva u razvoj sve naprednije umjetne inteligencije.

Kompanije poput Anthropica i drugih vodećih AI laboratorija pokušavaju razviti sisteme koji mogu samostalnije zaključivati, planirati i izvršavati kompleksne zadatke.

Upravo zbog toga pitanje kontrole postaje sve važnije.

Što su sistemi sposobniji, veći je potencijal njihove primjene u poslovanju, nauci, programiranju, istraživanju i svakodnevnom životu. Istovremeno, raste i značaj pitanja ko postavlja njihove ciljeve, ko nadzire njihov rad i šta se događa kada sistem napravi odluku koju ljudi nisu predvidjeli.

Suleyman smatra da bi čovječanstvo trebalo djelovati prije nego što takvi sistemi postanu toliko autonomni da ih bude teško kontrolirati.

Njegova vizija je AI koji može postati izuzetno moćan, ali koji svoju moć koristi isključivo u okvirima koje postavljaju ljudi.

To je možda i najveći izazov nove faze razvoja umjetne inteligencije, napraviti tehnologiju koja može učiniti mnogo više, a istovremeno osigurati da čovjek i dalje odlučuje šta ta tehnologija smije učiniti.