En 26-årig mjukvaruingenjör i brittiska Southampton greps för ett inbrott i Milton Keynes – en stad han aldrig besökt – efter att brittisk polis använt ansiktsigenkänning som felaktigt matchade honom mot övervakningsbilder. Alvi Choudhury handfängslades i sitt hem och hölls frihetsberövad i nästan tio timmar innan han släpptes mitt i natten. Enligt honom visade CCTV-bilderna en betydligt yngre man utan skägg och med flera tydliga skillnader i utseende.
Systemet som används av brittisk polis är framtaget av tyska Cognitec och kör omkring 25 000 sökningar i månaden mot en databas med 19 miljoner bilder. Forskning beställd av brittiska inrikesdepartementet har visat att tekniken vid vissa inställningar ger betydligt fler falska träffar för svarta och asiatiska ansikten än för vita – något som väckt oro kring inbyggd bias i systemen. Polisen uppger att gripandet även grundades på en manuell visuell bedömning.
Sedan december har Thames Valley-polisen även använt live-ansiktsigenkänning på allmän plats och skannat omkring 100 000 personer, vilket lett till sex gripanden. Samtidigt har kritiken mot hur biometriska data lagras vuxit, särskilt kring personer som gripits men aldrig åtalats. Choudhurys bild fanns i systemet efter ett tidigare felaktigt gripande 2021.
Nu kräver han skadestånd och större transparens kring hur tekniken används och hur många som gripits felaktigt. Brittiska myndigheter uppger att riktlinjer och utbildning ses över och att ett nytt nationellt system med förbättrad, oberoende testad algoritm är under utveckling. Fallet väcker åter frågor om hur tillförlitlig AI-baserad ansiktsigenkänning egentligen är – och vem som bär ansvaret när tekniken har fel.
Via: The Guardian.