USA Skoldistriktet Lockport City School Districts ligger i delstaten New York i USA och dess föreståndare Michelle Bradley förklarar på distriktets hemsida att systemet är ett svar på bland annat skolskjutningar, och att skoldistriktet ser säkerhet som en prioriterad fråga.

Tekniken ska följa individer som rör sig på skolområdet – kategorier som skoldistriktet nämner är exempelvis sexualbrottslingar, elever och lärare som stängts av från skolan ”eller den som kan antas utgöra ett hot baserat på trovärdig information som presenteras för distriktet.”

Opålitlig teknik

Systemet som skolan installerar är Aegis och ska ha möjlighet att spara information i upp till två månader, men ska inte samla information om eller följa rörelsemönster för personer som har rätt att röra sig på skolområdena. Buzzfeed som rapporterat om skolornas nya teknik skriver dock att för att kameror ska kunna avgöra om personer tillhör de kategorier som inte har rätt att vistas på skolorna även måste analysera ansikten på de som inte gör det.  

I det skoldistrikt som nu inför tekniken ingår åtta skolor. Sedan tidigare används ansiktsigenkänning av åtminstone två privatskolor. Tekniken med ansiktsigenkänning är kontroversiell då den ofta inte är pålitlig, och framför allt inte när det gäller personer som rasifieras, eller när det gäller kvinnor.

Känner igen vita män

Människorättsorganisationen Human Rights Watch hänvisar till flera studier som visar att tekniken för ansiktsigenkänning är mest precis när det gäller vita män, men sämre vad gäller kvinnor som rasifieras. En studie av Joy Buolamwini, forskare vid M.I.T. Media Lab, granskade tre olika system för ansiktsigenkänning, två av dessa system gjorde fel i 35 procent av fallen när det gällde rasifierade och framför allt svarta kvinnor. 

Medborgarrättsrörelsen ACLU i New York är kritisk till projektet inte bara för att tekniken har dessa brister utan också för att den ska användas mot avstängda elever – ”det avslöjar att det (distriktet) bryr sig väldigt lite om sina elevers integritet och medborgerliga rättigheter”, säger Stefanie Coyle från New York Civil Liberties Union som menar att detta kommer att slå emot framför allt rasifierade elever, som i högre grad än vita elever brukar bestraffas med avstängning.

Förbud i San Fransisco

Coyle har uppmanat delstatens lagstiftande församling att stoppa projektet. Ett förslag om att tills vidare stoppa projektet klubbades igenom i underhuset i veckan, men senaten hann inte ta upp frågan. Enligt Michelle Bradley går skoldistriktet vidare med att införa tekniken men tror inte den kommer vara på plats till i början av september som tänkt.

I maj i år blev San Fransisco den första staden i USA att förbjuda att polisen och andra myndigheter använder sig av ansiktsigenkänning, och grannstaden Oakland är på väg att anta ett liknande förbud. Även på delstatsnivå har steg tagits för att förbjuda ansiktsigenkänning av polisen – Kaliforniens senat ska under sommaren behandla ett lagförslag om ett sådant förbud. Detta bland annat då det finns risk att  en oskyldig person skulle kunna felidentifieras som en efterlyst brottsling.

Kritiker av tekniken pekar också på det allvarliga scenario som blivit verklighet i Kina, och framför allt i Xinjiangprovinsen där kameror i gatumiljön och även inomhus är mycket vanligt och där ansiktsigenkänning används för att kontrollera och förfölja den muslimska minoriteten uighurer.