Pentagon troši milione na AI hakere

Američka vlada sklapa ugovor s tajnim startupom Twenty, koji radi na AI agentima i automatiziranom hakovanju stranih ciljeva u velikim razmjerima.

SAD tiho ulažu u AI agente za sajber ratovanje. Ove godine troše milione dolara na tajni startup koji koristi vještačku inteligenciju za pokretanje ofanzivnih sajber napada na američke protivnike.

Tajni startup Twenty (ili XX) sa sjedištem u Arlingtonu, Virginia, potpisao je ovog ljeta ugovor sa američkom sajber komandom vrijedan do 12,6 miliona dolara, prema federalnim evidencijama o ugovaranju. Također je osvojio ugovor o istraživanju za mornaricu vrijedan 240.000 dolara. Kompaniju podržava investicioni fond In-Q-Tel, neprofitni VC fond koji je osnovala CIA, kao i Caffeinated Capital i General Catalyst. Twenty je odbio da komentariše.

Neobični ugovori i oglasi

Ugovori o dvadesetim poslovima su rijetki. Startup, podržan rizičnim kapitalom, koji razvija vještačku inteligenciju za ofanzivne sajber operacije, dobija posao u Cyber ​​Commandu. Obično takvi ugovori idu manjim specijalizovanim kompanijama. Ili starim gigantima odbrambene industrije poput Booz Allen Hamilton ili L3Harris.

Iako kompanija još nije izašla na berzu, na njihovoj web stranici se navodi da im je cilj “transformisati radne procese koji su nekada zahtijevali sedmice ručnog rada u automatizovane, kontinuirane operacije na stotinama ciljeva istovremeno”. Twenty tvrdi da to “fundamentalno mijenja način na koji se SAD i njihovi saveznici uključuju u sajber sukobe”.

Njihovi oglasi za posao otkrivaju više detalja. U jednom od njih, kompanija traži direktora ofanzivnih sajber istraživanja, koji će razviti “napredne ofanzivne sajber sposobnosti, uključujući okvire za putanje napada… i alate za automatizaciju vještačke inteligencije”. Oglasi za vještačke inženjere pokazuju da Twenty planira koristiti otvorene vještačke alate poput CrewAI-a. Omogućava rad više autonomnih vještačkih agenata u saradnji. U oglasu za analitičara je navedeno da će raditi na “razvoju persone”. Vlada često koristi socijalni inženjering za sajber napade, oslanjajući se na uvjerljive lažne online račune kako bi se infiltrirala u neprijateljske zajednice i mreže. (Forbes je ranije izvještavao o policijskim izvođačima radova koji koriste vještačku inteligenciju za kreiranje takvih avatara.)

Ko stoji iza Twentyja?

Prema web stranici kompanije, izvršni tim kompanije Twenty pun je bivšeg vojnog i obavještajnog osoblja. Direktor i suosnivač Joe Lin je bivši oficir rezervnih snaga američke mornarice i bivši potpredsjednik za upravljanje proizvodima u sajber gigantu Palo Alto Networks. Došao je u Palo Alto nakon što je ta kompanija kupila Expanse. Tamo je pomagao sigurnosnim agencijama da otkriju ranjivosti u svojim mrežama. Tehnički direktor Leo Olson također je radio u timu za nacionalnu sigurnost u Expanseu. Bio je oficir za signalnu obavještajnu službu u američkoj vojsci. Potpredsjednik za inženjering, Skyler Onken, proveo je više od decenije u Američkoj sajber komandi i američkoj vojsci. Šef za odnose s vladom, Adam Howard, godinama je radio na Capitol Hillu. Nedavno je bio u tranzicijskom timu Vijeća nacionalne sigurnosti za nadolazeću Trumpovu administraciju.

Američka vlada nije jedina koja koristi vještačku inteligenciju za razvoj svojih hakerskih sposobnosti. Prošle sedmice, gigant vještačke inteligencije Anthropic objavio je alarmantnu studiju. Kineski hakeri koristili su njihove alate za sajber napade. Kompanija je saopštila da su hakeri koristili Claudea za stvaranje vještačkih agenata koji su obavljali 90% posla u izviđanju ciljeva i osmišljavanju metoda napada.

Moguće je da SAD također koriste OpenAI, Antropik ili Elon Muskov xAI za ofanzivne cyber operacije. Ministarstvo odbrane dodijelilo je svakoj od ovih kompanija ugovore vrijedne do 200 miliona dolara za neodređene projekte “granične umjetne inteligencije”. Nijedna kompanija nije potvrdila šta radi za Pentagon.

Poslovi ofanzivnih sajber operacija

S obzirom na Twentyjev fokus na istovremeni napad na stotine ciljeva, njihovi proizvodi izgledaju kao veliki korak naprijed u automatizaciji sajber ratovanja.

Poređenja radi, izvođač radova Two Six Technologies dobio je više ugovora u oblasti ofanzivnih sajber operacija umjetne inteligencije. Uključujući i jedan vrijedan 90 miliona dolara u 2020. godini. Ali njihovi alati su uglavnom namijenjeni da pomognu ljudima, a ne da ih zamijene. Posljednjih šest godina rade na razvoju automatizovane umjetne inteligencije “kako bi pomogla u okruženju sajber borbe” i “podržala razvoj strategija sajber ratovanja” u okviru projekta pod nazivom IKE.

Navodno je njihovoj umjetnoj inteligenciji bilo dozvoljeno da samostalno nastavi napad ako je procijenila da su šanse za uspjeh visoke. Vrijednost ugovora porasla je na 190 miliona dolara do 2024. godine. Ali nema naznaka da IKE koristi agente za operacije u obimu koji tvrdi Twenty. Two Six nije odgovorio na zahtjeve za komentar.

Vještačka inteligencija se mnogo češće koristi u odbrani, posebno u korporacijama. Kao što je Forbes izvijestio ranije ove sedmice, izraelski startup Tenzai prilagođava AI modele iz OpenAI-a i Antropike kako bi pronašao ranjivosti u softveru svojih klijenata. Iako im je cilj sigurnosno testiranje (red teaming), a ne hakovanje.

Thomas Brewster, novinar Forbesa