Vještačka inteligencija nadzire i toalete u školama: Dobro došli u novu eru školskog nadzora

Škole širom Sjedinjenih Američkih Država uvode napredne sisteme nadzora zasnovane na vještačkoj inteligenciji – od dronova i prepoznavanja lica, pa sve do uređaja koji osluškuju zvukove u školskim toaletima. Ipak, i dalje postoji vrlo malo dokaza da ove tehnologije zaista čine djecu sigurnijom.

Unutar bijele štukaturne zgrade u Južnoj Kaliforniji, video-kamere upoređuju lica prolaznika s bazama podataka za prepoznavanje lica. Softver za analizu ponašanja, zasnovan na vještačkoj inteligenciji, pregledava snimke u potrazi za znakovima nasilja. Iza vrata toaleta, uređaj nalik detektoru dima snima zvukove i osluškuje znakove panike ili pozive u pomoć. Vani su dronovi spremni za aktiviranje i prikupljanje podataka iz zraka, dok čitači registarskih tablica kompanije Flock Safety – giganta nadzorne industrije vrijednog 8,5 milijardi dolara – provjeravaju da li vozila koja ulaze i izlaze s parkinga pripadaju osobama iz kriminalnih evidencija.

Ovo nije objekat državne sigurnosti. Ovo je srednja škola Beverly Hills.

Nadzornik školskog okruga Alex Cherniss tvrdi da je ovakav impresivan arsenal nadzornih alata neophodan kako bi se garantovala sigurnost učenika. „Nalazimo se u urbanom okruženju Los Angelesa, u jednom od najprepoznatljivijih gradova na svijetu. To znači da smo stalna meta – a samim tim i naša djeca i osoblje“, rekao je Cherniss.

Tokom fiskalne godine 2024/2025. školski okrug potrošio je 4,8 miliona dolara na sigurnost, uključujući i osoblje. Prema navodima okruga, sistemi nadzora svakodnevno registruju višestruke potencijalne prijetnje.

Sve više škola slijedi isti put

Oprema kakva se koristi u Beverly Hillsu može djelovati ekstremno, ali ona nije izuzetak. Širom SAD-a škole ubrzano implementiraju slične sisteme nadzora, u nadi da će se zaštititi od dugotrajnog i tragičnog vala masovnih pucnjava.

Samo ove godine zabilježeno je 49 smrtnih slučajeva od vatrenog oružja u školama. Godinu ranije bilo ih je 59, a 2023. godine 45, prema podacima organizacije Everytown for Gun Safety. Između 2000. i 2022. godine u američkim školama ubijena je 131 osoba, dok je 197 ranjeno – većinom djece.

S obzirom na ove zastrašujuće brojke, izdvajanje dijela školskog budžeta za najsavremenije AI sigurnosne alate mnogima se čini kao laka odluka.

„Ova zajednica želi učiniti sve što može da škole budu sigurnije“, kaže Cherniss. „Ako to znači naoružano obezbjeđenje, dronove, vještačku inteligenciju i čitače registarskih tablica – mi smo za.“

Da li novi nadzor zaista pomaže?

Skeptici, međutim, upozoravaju da nema dovoljno dokaza da tehnologije zasnovane na vještačkoj inteligenciji značajno smanjuju nasilje. Također ističu da one narušavaju povjerenje učenika.

Izvještaj Američke unije za građanske slobode (ACLU) iz 2023. godine pokazao je da se osam od deset najvećih školskih pucnjava u SAD-u, od Columbinea do danas, dogodilo u školama koje su već imale sisteme nadzora.

Chad Marlow, viši savjetnik za javnu politiku u ACLU-u i autor izvještaja, ističe da i dalje nedostaju nezavisna istraživanja koja bi potvrdila da su AI alati efikasniji u sprječavanju tragedija. „Vrlo je neobično tvrditi da će ova tehnologija zaštititi vašu djecu“, kaže Marlow.

Istraživanje je pokazalo i da nadzor stvara atmosferu nepovjerenja: 32% učenika uzrasta od 14 do 18 godina izjavilo je da se osjeća kao da su stalno pod prismotrom. U fokus-grupama, učenici su rekli da se zbog toga rjeđe povjeravaju nastavnicima o problemima mentalnog zdravlja ili zlostavljanju.

„Djeca ne vjeruju ljudima koje doživljavaju kao špijune. Povjerenje se gubi, a to na kraju čini okruženje manje sigurnim“, upozorava Marlow.

Školski okrug Beverly Hills se s tim ne slaže. „Ne postoji nivo ulaganja u sigurnost koji bismo mogli provesti bez saglasnosti roditelja i zajednice“, poručio je Cherniss.

Podrška učenika – ili navikavanje na nadzor

Nicole Gorbacheva, koja je ranije ove godine završila srednju školu Beverly Hills, kaže da podržava pojačane sigurnosne mjere, posebno u okrugu koji je u prošlosti bio meta prijetnji bombama, provala i antisemitskih incidenata.

„Tokom godina sam gledala kako se škola mijenja iz otvorenog kampusa u mnogo zatvorenije i zaštićenije okruženje“, kaže ona. „Ova tehnologija ne djeluje distopijski. Djeluje preventivno – kao da neko stalno pazi.“

Slične stavove dijele i druge škole. U srednjoj školi Rancocas Valley u New Jerseyju, direktor Christopher Heilig tvrdi da je softver za detekciju oružja ZeroEyes prepolovio vrijeme reakcije tokom simulacija aktivnog napada. „Kada spašavate živote, teško je raspravljati o rezultatima“, kaže on.

Greške, lažni alarmi i regulatorni pritisci

Ipak, sistemi nisu bez grešaka. ZeroEyes priznaje da njihova umjetna inteligencija ponekad pogrešno identifikuje bezopasne predmete kao oružje. U jednom slučaju 2023. godine, lažni alarm u školi u Teksasu doveo je do karantina i panike među učenicima.

Slične probleme imao je i Evolv, još jedan sistem za detekciju oružja koji koristi više od 800 škola. Američka Federalna trgovinska komisija (FTC) ukorila je kompaniju zbog obmanjujućih tvrdnji da njihova tehnologija može detektovati sve vrste oružja – što se u praksi pokazalo netačnim.

Kontroverze su dodatno produbile zabrinutost javnosti, naročito kada su u pitanju sistemi za analizu ponašanja koji tvrde da mogu prepoznati emocije i agresiju. Brojna istraživanja upozoravaju da su takvi sistemi često nepouzdani i pristrasni.

Ko odlučuje – i ko sve to nadzire?

Kako se AI nadzor širi po školskim kampusima, učenici, roditelji i nastavnici često nisu uključeni u donošenje odluka. Sindikat nastavnika u Beverly Hillsu podnio je žalbu zbog postavljanja kamera u prostorima poput biblioteka i sportskih dvorana, tvrdeći da su i to prostori za učenje koji zaslužuju zaštitu privatnosti.

Iako škole tvrde da poštuju privatnost i da se podaci ne dijele, stručnjaci upozoravaju da uvijek postoji rizik zloupotrebe ili hakovanja. To se pokazalo i u slučaju tinejdžera iz Portlanda koji je uspio hakovati uređaje za audio-nadzor u školskim toaletima.

Zagovornici sistema ističu i dodatne koristi: lakše pronalaženje djece, praćenje dolazaka i odlazaka, pa čak i detekciju medicinskih hitnih slučajeva. Kritičari, međutim, postavljaju ključno pitanje – da li se škole pretvaraju u zone stalnog nadzora u kojima se sigurnost gradi na račun povjerenja i privatnosti.

Odgovor na to pitanje, čini se, tek dolazi.

Thomas Brewster, Forbes