Naučnici obučili AI model na DNK, a on stvorio 16 novih virusa koji napadaju bakterije

Model vještačke inteligencije kompanije OpenAI stvorio je više od deset novih virusa koji napadaju bakterije, nakon što su ga naučnici sa Univerziteta Stanford obučili da prepoznaje obrasce u strukturi DNK u prirodi i mijenja ih kako bi proizveo virusne genome koji nikada ranije nisu postojali.

U studiji objavljenoj u četvrtak u časopisu Science, naučnici su objasnili kako su generativni model kompanije OpenAI, nazvan Evo, obučili da od početka dizajnira potpuno funkcionalne virusne genome.

Slično načinu na koji se jezički modeli obučavaju na ogromnim količinama teksta, naučnici su Evo obučili na velikoj količini podataka o DNK, koji su obuhvatali milione genoma. Model je tako naučio evolucijska ograničenja koja oblikuju sekvence DNK u prirodi, a zatim napisao vlastite „recepte“ za nove viruse.

Nakon što su naučnici u laboratoriji sintetizirali DNK koji je osmislila vještačka inteligencija, 16 generiranih bakteriofaga uspješno je zarazilo bakteriju Escherichia coli (E. coli), a neki su uspjeli savladati i njene prirodne mehanizme odbrane.

Novi virusi imali su obrasce sekvenci koji se razlikuju od svega što je do sada pronađeno u prirodi.

Autori studije iz modela za obuku isključili su skupove podataka o patogenima koji napadaju ljude, što znači da stvoreni virusi nisu sposobni zaraziti čovjeka.

Rezultati su, ipak, objavljeni u trenutku sve veće zabrinutosti naučnika da bi se vještačka inteligencija jednog dana mogla koristiti za stvaranje nove generacije biološkog oružja.

Mogućnost dizajniranja novih i funkcionalnih virusa po mjeri mogla bi, s druge strane, dovesti do napretka u liječenju superbakterija otpornih na antibiotike. Naučnici bi mogli stvarati posebno prilagođene terapije, umjesto da u prirodi tragaju za virusima koji napadaju određene bakterije.

Glavni kritičari

Brojni stručnjaci za biološku sigurnost, zvaničnici javnog zdravstva i sintetički biolozi izrazili su zabrinutost zbog brzine napretka vještačke inteligencije u biologiji i nedostatka odgovarajućih regulatornih okvira.

U pratećem komentaru objavljenom u časopisu Science, stručnjaci za biološku sigurnost Thomas Inglesby i Moritz Hanke iz Centra Johns Hopkins za zdravstvenu sigurnost upozorili su da istraživanje sa Stanforda pokazuje da je vještačka inteligencija sada sposobna stvarati opasno biološko oružje.

Pozvali su na uvođenje strogih zakona za buduća istraživanja i naveli da bi primjena sličnih generativnih tehnika na patogene koji napadaju ljude, životinje ili poljoprivredne kulture trebala biti zabranjena.

„Mogli biste reći: ‘Hej, genomski jezički modele, napravi mi genom virusa gripe koji je izmijenjen tako da bude prenosiviji ili smrtonosniji’“, rekao je Hanke za The New York Times.

Tom Ellis, profesor inženjerstva sintetičkih genoma na Imperial College London, rekao je za The Guardian da ne vjeruje kako bi stvaranje biološkog oružja koje može ugroziti ljude bilo toliko jednostavno.

Naveo je da virusi koje je stvorio Evo imaju „doslovno najmanje i najjednostavnije genome za proizvodnju“ te dodao da bi čak i jednostavna ograničenja pristupa genetskim podacima mogla napraviti veliku razliku.

Naučnici već mjesecima raspravljaju o tome da li bi trebalo ograničiti mogućnosti bioloških sistema zasnovanih na vještačkoj inteligenciji.

Dok jedni tvrde da bi ta tehnologija mogla ubrzati korisna biomedicinska istraživanja, isti modeli mogli bi biti zloupotrijebljeni za pronalaženje, projektovanje ili optimizaciju bioloških prijetnji ukoliko ne budu uspostavljene odgovarajuće zaštitne mjere.

Velike kompanije za vještačku inteligenciju udružile su se i osnovale neprofitni Frontier Model Forum, djelimično s ciljem istraživanja bioloških rizika povezanih s vještačkom inteligencijom, razvoja sigurnosnih standarda i smanjenja mogućnosti da najnapredniji modeli budu iskorišteni za biološke zloupotrebe.

Pored zabrinutosti da bi obučeni modeli mogli stvarati nove prijetnje, mnogi upozoravaju da će oni zlonamjernim akterima olakšati pristup znanju o opasnim patogenima.

Naučnici su u aprilu rekli za The New York Times da su chatbotovima zasnovanim na vještačkoj inteligenciji postavili niz pitanja, nakon čega su dobili detaljna uputstva, korak po korak, za sastavljanje smrtonosnih patogena i njihovo širenje na javnim mjestima.