Strah od Kine: Start up koji radi sa američkim ministarstvom odbrane potiho raskinuo ugovor sa TikTokom
Ovaj ugovor bio je samo jedan od problema s poslovanjem AI startu pa Scale vrijednog 7,3 milijarde dolara, čiji je izvršni direktor Alexandr Wang postao glasan zagovaratelj američke nacionalne sigurnosti uslijed prijetnje koju predstavlja Kina. Jedan stručnjak percepciju je nazvao “užasnom.”
U jesen 2022. godine, izvršni direktor Scale AI-ja Alexandr Wang vidio je ogromnu priliku: ugovor s TikTokom prema kojemu bi njegova kompanija za označavanje podataka pružala nove uvide oglašivačima te društvene platforme.
Iako je inicijalni projekt vrijedio manje od milion dolara, Wang je bio uvjeren kako bi prošireni ugovor mogao biti ogroman, prisjećaju se izvori upoznati s pričom.
No dok je Wang pokušavao progurati ugovor, vodstvo kompanije se uspaničilo, kažu tri izvora za Forbes. Samo dvije godine ranije, bivši američki predsjednik Donald Trump najavio je planove za zabranu TikToka, tvrdeći da aplikacija – čiji je vlasnik kineskakompanija ByteDance – predstavlja prijetnju američkoj nacionalnoj sigurnosti.
TikTok je još uvijek predmet analize nacionalne sigurnosti zbog strahova da bi podacima američkih korisnika mogla pristupati Komunistička stranka Kine (što TikTok negira).
Percepcija nije bila dobra, a neki direktori bojali su se kako bi ugovor o suradnji s TikTokom mogao u pitanje dovesti buduće poslovanje s američkom vladom, kažu izvori.
No tada 25-godišnji Wang – koji je javno govorio kako je pobjeda nad Kinom u AI utrci pitanje nacionalne sigurnosti, a ponosno se pozicionirao kao lider u industriji obrambene tehnologije – nije se dao pokolebati: komercijalna prilika bila je previše primamljiva. Progurao je ugovor usprkos prigovorima vodstva svoje kompanije.
“Alex je puno toga, ali nije stručnjak za nacionalnu sigurnost,” rekao je za Forbes jedan bivši zaposlenik u Scaleu za suradnju s državom.
Zatražio je da ostane anoniman zbog straha od osvete. “Ignorisao je naše strahove i rekao kako se mora fokusirati na dugoročne ciljeve obje strane biznisa, i kako će u tome pomoći ugovor s TikTokom.”
U Scaleu se predomislili
Ipak, kada je Forbes prvi objavio kako matična kompanija TikToka, ByteDance, planira nadzirati Amerikance putem podataka o geolokaciji iz aplikacije (meta je bio upravo jedan Forbesov novinar, a čitavu priču sada istražuju FBI i ministarstvo pravosuđa), u Scaleu su se predomislili.
Iz kompanije za Forbes kažu kako su prekinuli kontakt s TikTokom manje od mjesec dana nakon početka saradnje.
“Strateški, iz perspektive i percepcije i sigurnosti, loša odluka,” kaže Bill Evanina, bivši direktor Nacionalnog obavještajnog i protuobavještajnog centra američke vlade.
Govorio je općenito o bilo kakvoj saradnji između izvođača za vojnu industriju i TikToka.
“Ali kad se podvuče crta, ako sarađujete s ByteDanceom možete zaraditi deset puta više novca nego u ministarstvu odbrane. Siguran sam da postoje ljudi koji će reći da je to bila dobra poslovna odluka, ali u široj slici to nije baš tačno,” dodaje on.
Potencijalna reputacijska šteta i percepcija izazvana tom saradnjom bila bi “užasna”, kaže Evanina. “Mislim da su izbjegli katastrofu” povlačenjem ugovora.
Promjena smjera po pitanju TikToka samo je jedan od niza problema koji bi mogli, kako se boje neki direktori u kompaniji, potkopati napore za izgradnju poslovne saradnje s vladom i vojskom – koje je i sam Wang nazvao prioritetima – stoji u internim razgovorima i intervjuima s 11 bivših zaposlenika i izvora iz industrije.
“Nemamo ugovor sa TikTokom”
U razgovorima sa Forbesom, generalni menažder Scalea za javni sektor, John Brennan, rekao je da kompanija trenutno nema ugovor s TikTokom, a i sam Wang je rekao da “nikakvi podaci niti novac nisu razmijenjeni s TikTokom.”
Obojica su naglasili kako je Scale potpuno posvećen nacionalnoj sigurnosti, a Wang se pohvalio privremenim odobrenjem ministarstva odbrane koji im dopušta pristup neklasificiranim podacima.
Naglasio je kako je njegovakompanija bila jedna od sedam koji su potpisali dobrovljnu zakletvu Bidenove administracije o radu na sigurnosti umjetne inteligencije.
Iz TikToka nisu željeli komentirati.
Posjet Kini
Scale, koji koristi radnike za označavanje podataka prema kojima se obučava AI, a proširio je uslugu i na druge vrste analize podataka, s vladom radi od 2020. godine.
Wangova originalna vizija za novu granu kompanije koja se bavi obranom bila je djelomično, kako je i sam ranije rekao za Forbes, inspirirana njegovim putovanjem u Kinu 2018. godine, kada je razgledao urede ByteDancea i drugih tech kompaniji.
Bio je impresioniran umjetnom inteligencijom koju te kompanije razvijaju, no brinuo se da bi ona mogla predstavljati prijetnju američkoj vodećoj poziciji: “Bilo je jasno da to nije bilo za dobre svrhe,” rekao je, “i bilo je poprilično zastrašujuće.”
Ovaj start up danas je jedan od tek šačice tech kompanija koje otvoreno žele sklapati ugovore s vladom. Između 2020. i kraja trećeg kvartala 2023. godine, Scale je uložio 1,95 miliona dolara na lobiranje u vladi, pokazuju podaci, a ostvario je 90 miliona dolara zarade od ugovora s vladom u tom istom periodu.
Do 2023. je broj ljudi koji rade u Scaleovom biznisu s javnim sektorom premašio stotinu, rečeno je iz kompanije. Brennan za Forbes kaže kako Scale trenutno ima čak 20 aktivnih ugovora s vladom.
Odbrambena grana Scalea još uvijek je vrlo malena u poređenju sa komercijalnim biznisom startu pa, zbog kojeg je godišnja stopa prihoda krajem 2023. godine dosegla 750 miliona dolara, kažu dva izvora.
Početkom 2022. godine, godišnja stopa prihoda Scalea iznosila je oko 250 miliona dolara. Za rast je odgovorna eksplozija potražnje AI kompanija za takozvani RLHF, odnosno postupak označavanja podataka za velike jezične modele.
Kompanija je do danas prikupila 600 miliona dolara od velikih investitora poput Accela i Index Venturesa.
Preuveličavanje opsega saradnje
No kako se poslovanje s vladom širilo, rasli su i strahovi lidera u timu za javni sektor, proširivši se i dalje od TikToka.
U dva navrata vojno osoblje požalilo se direktorima Scalea zbog, kako su rekli, preuveličavanja opsega suradnje kompanije s vladom, kao i njenim sposobnostima, kažu tri izvora.
Prošle godine kompanija je najavila predstavljanje svog proizvoda fokusiranog na nacionalnu sigurnost.
Radi se o platformi imena Donovan koja prilagođava velike jezične modele (kao što je GPT-3.5 OpenAI-ja) za korištenje s klasificiranim podacima.
Scale je u saopštenju tvrdio kako će Donovana “u kriznim situacijama” koristiti 18. zračno-desantni korpus američke vojske, i kako će proizvod “pomoći vojnom osoblju razumjeti i organizirati brzorastući obujam podataka bez iskustva ili znanja o kodiranju – u samo nekoliko minuta.”
Iz kompanije je također rečeno kako “ciklus trenutno traje tri dana, a Donovan vremenski okvir može smanjiti na tek nekoliko sati.”
Nakon objave saopštenja, pukovnik Joe O’Callaghan rekao je direktorima Scalea da je kompanija preuveličala prirodu njihove suradnje, rekli su izvori za Forbes.
Dodaju kako Scale u to vrijeme nije imao pristup podacima korpusa i kako Donovan nije imao odobrenje za “korištenje u kriznim situacijama”. Brennan kaže kako Scale stoji iza tvrdnji u saopštenju i kako ne može komentirati ugovore.
Nekoliko mjeseci kasnije, tokom inicijalnog sastanka s američkim središnjim zapovjedništvom, narednik general Michael Kurilla rekao je kako Donovan nije spreman za proizvodnju nakon što je vidio demonstraciju, kažu dva izvora.
Brennan kaže kako Kurilla “nama to nije rekao.” Wang kaže kako Donovana “trenutno koristi preko 80 vladinih organizacija”.
Dva izvora za Forbes su izjavili kako se krajem 2023. godine veliki dio korištenja Donovana svodio na probe i pilot-projekte, kao i da Scale ima problema s pretvaranjem tih proba u pune ugovore.
Iz kompanije nisu odgovorili na pitanja o tome uključuje li njihov broj i one organizacije koje su se prijavile na besplatan probni period, koji Scale reklamira na svojim internetskim stranicama.
Projekt zbog kojeg su protestovali zaposlenici Googlea
Wang je očekivao da će ugovori s vladom za kompaniju značiti “lak novac”, kaže troje bivših zaposlenika. Scale je 2020. godine potpisao prvi ugovor s ministarstvom odbrane.
Pregovori su bili jednostavni, a obećavala se potencijalna zarada od oko 100 miliona dolara tokom četiri godine, pokazuju zapisi vladine nabave. Dosad je isplaćeno gotovo 80 miliona dolara.
Scale je ugovor dobio lakše jer je ministarstvo odbrane tražilo novog izvođača za označavanje podataka na projektu Maven, istoj onoj inicijativi protiv koje su zaposlenici Googlea protestovali nekoliko godina ranije jer se njihova tehnologija koristila za analizu snimki udara dronova.
Ministarstvo odbrane zatražilo je od Scalea da se prijavi za ugovor, kaže nekoliko izvora upoznatih sa situacijom.
Vlada je “prilagodila ugovor za Scale i vodila ih kroz čitav proces kako bi bili sigurni da je Scale kompetitivan,” kaže jedan izvor. “To je iskrivilo Alexovu percepciju o tome kako zapravo izgleda saradnja s vladom.”
Brennan je odbio komentirati projekt Maven, pozvavši se na odredbe koje ga sprječavaju da razgovara o određenim ugovorima s vladom.
Ministarstvo odbrane slijedi regulacije o akviziciji i sklapanju ugovora, rekla je glasnogovornica Sue Gough, odbivši komentirati pregovore za projekt Maven.
Iako nitko iz Scalea nije javno govorio o ugovoru za Maven, njihov prvi veliki ugovor s ministarstvom odbrane jasno je pokazao koliko je kompleksno dobiti ugovore s vojskom: u januaru 2022.
Scale se pohvalio s 249 miliona dolara koje im je ministarstvo odbrane obećalo za razvoj alata za procjenu i testiranje i pružanje “end-to-end” AI rješenja ministarstvu odbrane.
Ipak, najava je bila pogrešna: nisu spomenuli kako uslove za dobijanje tog novca ispunjava još 70 drugih kompanija. Scale do danas još nije dobio nikakve isplate temeljem tog ugovora, pokazuju vladini podaci o nabavi.
To su potvrdila i dva insajdera iz kompanije. Brennan kaže kako kompanija trenutno ima nekoliko važećih ugovora.
Scaleovo poslovanje s ministarstvom odbrane još uvijek ovisi o projektu Maven, prvom ugovoru, koji zaključno s 2023. čini veliki dio njihovih prihoda od saradnje s državom, kažu tri izvora.
Taj ugovor ističe ovog proljeća, a kompanija će se tada za njega morati ponovno takmičiti. Brennan za Forbes kaže kako su prihodi od saradnje s državom od 2021. porasli za 160 posto, a ne želi komentirati detalje iz Scaleovih ugovora, pozivajući se na povjerljivost.
Američka nacionalna sigurnost još uvijek je za Wanga prioritet. Tokom AI foruma u decembru kojeg je organizovao senator iz New Yorka Chuck Schumer, Wang je još jednom govorio o svom putu u Kinu:
“Nakon što sam se vratio,” rekao je, “znao sam da dio misije u Scaleu mora biti da učinimo sve što možemo kako bismo podržali SAD.”
Autor originalnog članka: David Jeans, Forbes; Kenrick Cai, Forbes
Link: Defense Contractor Scale AI Quietly Scrapped Deal With Chinese-Owned TikTok Over Security Concerns
(Prevela: Nataša Belančić)
