DEBATT. Massövervakning med ansiktsigenkänningsteknik hotar vår integritet och våra mänskliga rättigheter. Trots det ökar användningen. Nu måste all användning i syfte att massövervaka människor stoppas. Det kräver Amnesty som startat kampanjen Ban The Scan.
Ansiktsigenkänningsteknik används i allt högre grad för att övervaka våra samhällen. Men istället för att bidra till ökad trygghet utgör den istället ett allvarligt hot mot vår integritet och våra mänskliga rättigheter. Tekniken för ansiktsigenkänning skiljer sig från vanliga övervakningskameror genom att kamerorna matchar den iakttagna mot en databas med bilder från bland annat sociala medier. Insamlingen av bilder och data sker oavbrutet och utan tillstånd, oavsett om personen i fråga är skyldig till något brott eller inte. New York Times rapporterade nyligen om hur 600 polismyndigheter i USA använder sig av en databas från företaget Clearwater AI som består av tre miljarder bilder på ansikten som samlats in i smyg från Facebook och YouTube.
I USA har tekniken visat sig diskriminera svarta människor då algoritmerna bakom tekniken har betydligt lägre träffsäkerhet på svarta personer än vita. Tekniken speglar den rasism som återfinns inom den amerikanska poliskåren och leder till att oproportionerligt många oskyldiga svarta personer grips. Ett aktuellt exempel är när New York polisen försökte gripa BLM-aktivisten Derrick Ingram utan en arresteringsorder. Derrick satt hemma i sin lägenhet när ett dussintal kravallpoliser försökte ta sig in i hans hem med understöd av helikopter, omfattande avspärrningar och polishundar. Insatsen pågick i fem timmar medan polisen försökte förhöra Derrick utan juridiskt ombud. Allt han hade gjort var att delta i en fredlig protest. Agerandet var helt oproportionerligt och ett försök att tysta en framträdande politisk aktivist. För att spåra Derrick hade polisen använt ansiktsigenkänningsteknik på ett sätt som stred mot gällande regler. Fallet med Derrick Ingram tydliggör hotet som ansiktsigenkänningstekniken utgör mot mötesfriheten, föreningsfriheten och yttrandefriheten. För om människor begränsar sitt deltagande i fredliga demonstrationer på grund av rädsla för vad konsekvenserna kan bli om deras ansikten fastnar på bild i en kamera, som sedan riskerar att hamna i en bilddatabas för ansiktsigenkänning — vem kommer då att våga använda sin grundläggande rätt till att protestera?
I Kina har övervakning med ansiktsigenkänningsteknik bland annat använts i regionen Xinjiang där kinesiska myndigheter placerat över en miljon uigurer i omskolningsläger där de riskerar att utsättas för tortyr. Övervakningssystemen identifierar människor som tillhör folkgruppen uigurer, som traditionellt befolkat Xinjiang, och polisen kan följa deras minsta steg. Samma teknik används i det sociala kreditsystemet där kinesiska medborgare får poäng beroende på hur de beter sig. Har du gått mot rött ljus, shoppat för mycket eller umgåtts med “fel” personer? Då får du minuspoäng vilket kan leda till att du inte får studera på universitet, köpa fastighet, använda dejtingappar eller köpa tåg- och flygbiljetter.
Även i Sverige använder sig polismyndigheten av ansiktsigenkänningsteknik, bland annat som en del i insatsen Rimfrost mot gängkriminalitet i Malmö. Detta genomfördes utan att polismyndigheten informerade Integritetsskyddsmyndigheten. Och nyligen kom beskedet att polisen får böta 2,5 miljoner kronor för att man använt ansiktsigenkänningsteknik från Clearview AI och hanterat personuppgifter i strid med brottsdatalagen.
Samtidigt finns det en historia av ras- och etnisk profilering även i Sverige. Ett exempel är Skånepolisens register över romer som avslöjades 2013, i vilket över 4 000 romer hade registrerats i en olaglig databas enbart på grund av sin etniska tillhörighet. Ett annat exempel är det så kallade Reva-projektet, där polisen anklagades för att stoppa människor enbart på grund av att de hade “utländskt utseende” när de utförde id-kontroller i tunnelbanan. Ansiktsigenkänningsteknik riskerar därför att förstärka diskrimineringen av redan utsatta grupper även i Sverige.
Den pågående utvecklingen och hur myndigheter väljer att använda tekniska framsteg är minst sagt oroande. Frågan om massövervakning med ansiktsigenkänningsteknik måste diskuteras på ett sätt där konsekvenser av brottsbekämpningens moderna metoder lyfts fram i ljuset. Många städer världen över är redan nu bara en uppgradering från att använda ansiktsigenkänningsteknik på sin befolkning. När gränsen för vad som är tillåtet att övervaka och analysera flyttats ännu några steg kan det vara för sent att agera. Stater kan dock fortfarande förbjuda användningen eller reglera och stoppa utvecklingen. Amnesty kräver därför genast ett totalförbud mot användning, utveckling, produktion och försäljning av ansiktsigenkänningsteknik i massövervakningssyfte och som riktas mot både stater och privata aktörer.
Anna Johansson
Tillförordnad generalsekreterare Amnesty International Sverige
