Evropski zakon o umjetnoj inteligenciji mora se proširiti kako bi se zaštitili Palestinci

Ovog mjeseca stupio je na snagu Zakon Evropske unije o umjetnoj inteligenciji, čiji je cilj podsticanje “odgovornog razvoja i primjene umjetne inteligencije u EU”.

Usvojen ranije ove godine, zakon je pohvaljen kao veliki korak naprijed u reguliranju umjetne inteligencije . Cilj mu je smanjiti rizike koje predstavljaju sistemi umjetne inteligencije, zabranjujući one koji se smatraju previše opasnima i provodeći stroge mjere zaštite za visokorizične aplikacije.

Ali dok ovaj zakon nastoji zaštititi građane unutar EU-a, on ne odgovara na međunarodne implikacije, posebno u vezi s AI tehnologijama koje se koriste u izraelskoj okupaciji palestinskih teritorija i tekućim ratom u Gazi , gdje se AI koristi za nadzor, ciljane udare i kontrola populacije.

Od početka izraelskog rata u Gazi , pojavilo se više dokaza o izraelskoj upotrebi automatizovanih taktika ratovanja.

Potencijalni uticaj EU zakona o vještačkoj inteligenciji na raspoređivanje AI u Izraelu i njegove posljedice po palestinska ljudska prava, posebno u oblastima nadzora, provođenja zakona i automatizovanog ratovanja, ispitao je 7amleh – Arapski centar za unapređenje društvenih medija, organizacija koja brani digitalna prava Palestinaca. 

Prema pozicijskom dokumentu iz 7amleh-a, “izraelska vlada raspoređuje AI sisteme kako bi pomogla okupaciji okupirane palestinske teritorije i kontrolisala kretanje Palestinaca i podvrgla ih invazivnom nadzoru”.

Palestinci se svakodnevno suočavaju sa upadima invazivnih AI tehnologija koje koristi Izrael, kao što su sistemi za prepoznavanje lica, pametne kamere i senzori, i prediktivni policijski algoritmi, koji krše njihova prava na privatnost, nediskriminaciju i slobodu kretanja.

Notorious

Trenutni izraelski rat u Gazi naglašava eskalaciju upotrebe umjetne inteligencije u automatiziranom ratovanju, uključujući sisteme kao što su ” Evanđelje “, “Lavanda” i “Gdje je tata?” – trend koji je pogoršao visoku stopu žrtava među civilima.

Ove tehnologije, u kombinaciji sa smanjenim ljudskim nadzorom, doprinijele su velikom broju smrtnih slučajeva i uništavanju domova. Povećano oslanjanje na AI za donošenje odluka o ciljanju izaziva ozbiljne etičke brige, jer brza identifikacija ciljeva velikih razmjera često dovodi do nedovoljne pažnje i grešaka.

Izraelski vojno-industrijski kompleks je poznat po razvoju, primjeni i izvozu ovih tehnologija, često ih testirajući na okupiranim palestinskim teritorijama. Štaviše, Izrael uvozi AI tehnologije iz kompanija sa sjedištem u EU, jačajući svoju okupaciju i sistemsko ugnjetavanje Palestinaca.

Zakon o vještačkoj inteligenciji EU kategorizuje sisteme vještačke inteligencije prema riziku, zabranjujući one sa neprihvatljivim rizicima – poput onih koji koriste podsvjesne tehnike ili iskorištavanje ranjivosti – i namećući stroge zahtjeve za visokorizične sisteme, kao što su prepoznavanje lica i prediktivni rad policije.

Međutim, on posebno izuzima AI koji se koristi u vojne, odbrambene ili nacionalne bezbjednosne svrhe iz regulative, uprkos značajnim implikacijama na ljudska prava .

Jedan očigledan previd je propust zakona da reguliše izvoz AI sistema kompanija iz EU u zemlje koje nisu članice EU, uključujući Izrael. To znači da kompanije iz EU mogu prodavati AI tehnologije, zabranjene ili strogo regulirane unutar EU, Izraelu bez adekvatnih mjera zaštite.

Posljedično, prepoznavanje lica, prediktivna policija i AI sistemi koji se koriste u automatiziranom ratovanju mogu se izvoziti u Izrael, potencijalno pogoršavajući kršenja ljudskih prava Palestinaca.

Na primjer, tokom trenutnog sukoba u Gazi, izraelsko vojno ciljanje vođeno umjetnom inteligencijom dovelo je do velikih civilnih žrtava, s AI sistemima koji su birali mete za automatske napade.

Na okupiranoj Zapadnoj obali, široka upotreba tehnologije za prepoznavanje lica ograničava kretanje Palestinaca, kršeći njihova prava na privatnost i slobodu kretanja.

Ova raspoređivanja, neprovjerena i nekontrolirana, predstavljaju ozbiljne prijetnje palestinskim pravima.

Široka izuzeća

Zakon takođe donosi zabrinjavajuće dodatke za nacionalnu bezbijednost i aplikacije za sprovođenje zakona. Uprkos pozivima civilnog društva da se zabrane invazivne tehnologije poput prepoznavanja lica i prediktivnog rada policije, zakon ih klasificira kao visokorizične umjesto da ih potpuno zabranjuje.

Agencije za provođenje zakona EU mogu koristiti daljinsko prepoznavanje lica u realnom vremenu u javnim prostorima pod određenim uvjetima, kao što je sprječavanje neposrednih prijetnji ili lociranje žrtava.

Međutim, ovi uslovi su otvoreni za tumačenje i potencijalnu zloupotrebu pod maskom sigurnosti i borbe protiv terorizma.

Zakon također dozvoljava retrospektivno prepoznavanje lica, koje može identificirati pojedince nakon činjenice, što nesrazmjerno utiče na obojene osobe, uključujući Palestince.

Štaviše, agencije za provođenje zakona izuzete su od objavljivanja detalja o AI sistemima koje koriste, što umanjuje odgovornost. Ova široka izuzeća za nacionalnu sigurnost potkopavaju predviđene zaštitne mjere zakona, rizikujući zloupotrebu AI tehnologija protiv palestinskih i propalestinskih aktivista u EU.

Kako bi se ublažila ova zabrinutost, nekoliko akcija je od suštinskog značaja za kreatore politike EU, organizacije civilnog društva i dobavljače umjetne inteligencije.

Prvo, ključno je proširiti djelokrug EU zakona o umjetnoj inteligenciji kako bi se regulirao izvoz AI sistema u zemlje koje nisu članice EU, osiguravajući da tehnologije proizvedene u EU ne doprinose kršenju ljudskih prava u inostranstvu. To uključuje uspostavljanje zaštitnih mjera za visokorizične sisteme i zabranu izvoza AI tehnologija zabranjenih unutar EU.

Osim toga, moraju se nametnuti stroži zahtjevi za visokorizične AI sisteme, posebno one koji se koriste u nadzoru i provođenju zakona.

Etički razvoj AI

Trebalo bi propisati mjere transparentnosti i odgovornosti, uključujući zahtjev da se procjene uticaja na ljudska prava sprovode i učine javno dostupnim, kao i zabranu invazivnih tehnologija kao što su prediktivni rad policije i prepoznavanje lica.

Štaviše, neophodno je suziti izuzeća za nacionalnu bezbijednost i sprovođenje zakona uspostavljanjem jasnih smjernica i mehanizama nadzora kako bi se osiguralo da sistemi vještačke inteligencije koji se koriste u bezbjednosne svrhe ne krše osnovna prava.

Zaštita palestinskih digitalnih prava je još jedan ključni prioritet. Kreatori politike EU i organizacije civilnog društva trebale bi se zalagati za ova prava tako što će osigurati da tehnologije umjetne inteligencije ne ukorijene okupaciju i ugnjetavanje, uključujući praćenje primjene AI na okupiranim teritorijama i pozivanje kompanija na odgovornost za njihovu ulogu u kršenju ljudskih prava.

Konačno, promocija etičkog razvoja umjetne inteligencije je ključna, jer kompanije usvajaju smjernice koje daju prioritet ljudskim pravima i transparentnosti.

Ovo uključuje provođenje temeljnih procjena rizika, angažovanje sa zainteresovanim stranama i osiguranje da tehnologije ne doprinose kršenju ljudskih prava.

Zakon EU o vještačkoj inteligenciji značajan je korak ka regulisanju vještačke inteligencije i ublažavanju njenih rizika. Međutim, njegov trenutni opseg i odredbe ne zadovoljavaju složene izazove koje postavljaju AI tehnologije u kontekstu kao što je izraelska okupacija palestinskih teritorija.

Proširenjem djelokruga zakona za regulisanje izvoza, jačanjem zaštitnih mjera za visokorizične sisteme i zatvaranjem rupa u nacionalnoj sigurnosti, EU može osigurati da njen regulacijski okvir za umjetnu inteligenciju štiti ljudska prava unutar i izvan svojih granica.

Kreatori politike, organizacije civilnog društva i kompanije moraju raditi zajedno na promoviranju etičkog razvoja umjetne inteligencije i zaštiti prava ranjivih populacija, uključujući Palestince, suočeni s naprednim tehnologijama.