211service.com
Förutsägande polisarbete är fortfarande rasistiskt – vilken data den än använder
David McNew/Getty Images
Det är ingen hemlighet att förutsägande polisverktyg är det rasistiskt partisk . Ett antal studier har visat att rasistiska feedbackloopar kan uppstå om algoritmer är det utbildad på polisdata , såsom arresteringar. Men ny forskning visar att träning av prediktiva verktyg på ett sätt som är avsett att minska fördomar har liten effekt.
Arresteringsdata snedvrider prediktiva verktyg eftersom polisen är känd för att arrestera fler människor i svarta och andra minoritetskvarter, vilket leder till att algoritmer riktar mer polisarbete till dessa områden, vilket leder till fler arresteringar. Resultatet är att förutsägande verktyg felallokerar polispatruller: vissa stadsdelar är orättvist utpekade som hot spots för brott medan andra är underpoliserade.
Relaterad berättelse
Förutsägande polisalgoritmer är rasistiska. De måste demonteras. Brist på transparens och partisk utbildningsdata gör att dessa verktyg inte är lämpliga för ändamålet. Om vi inte kan fixa dem bör vi lämna dem.Till sitt försvar säger många utvecklare av prediktiva polisverktyg att de har börjat använda offerrapporter för att få en mer korrekt bild av brottsligheten i olika stadsdelar. I teorin borde offerrapporter vara mindre partiska eftersom de inte påverkas av polisens fördomar eller återkopplingsslingor.
Men Nil-Jana Akpinar och Alexandra Chouldechova vid Carnegie Mellon University och Maria De-Arteaga vid University of Texas i Austin visar att synen som offerrapporterna ger är också skev . Teamet byggde sin egen prediktiva algoritm med samma modell som finns i flera populära verktyg, inklusive PredPol, det mest använda systemet i USA. De utbildade modellen för offerrapportdata för Bogotá, Colombia, en av mycket få städer för vilka oberoende brottsrapporteringsdata finns tillgängliga på distriktsnivå.
När de jämförde deras verktygs förutsägelser mot faktiska brottsdata för varje distrikt, fann de att det gjorde betydande fel. Till exempel, i ett distrikt där få brott rapporterades, förutspådde verktyget cirka 20 % av de faktiska hot spots – platser med hög brottsfrekvens. Å andra sidan, i ett distrikt med ett stort antal rapporter förutspådde verktyget 20 % fler hot spots än vad det egentligen fanns.
För Rashida Richardson, en advokat och forskare som studerar algoritmisk bias vid Rutgers Law School i New Jersey, förstärker dessa resultat befintligt arbete som belyser problem med datamängder som används i prediktiv polisverksamhet. De leder till partiska resultat som inte förbättrar den allmänna säkerheten, säger hon. Jag tror att många förutsägande polisleverantörer som PredPol i grunden inte förstår hur strukturella och sociala förhållanden fördomar eller snedvrider många former av brottsdata.
Så varför fick algoritmen det så fel? Problemet med offerrapporter är att svarta människor är mer benägna att anmälas för brott än vita. Rikare vita människor är mer benägna att rapportera en fattigare svart person än tvärtom. Och svarta människor är också mer benägna att rapportera andra svarta. Precis som med arresteringsdata leder detta till att svarta stadsdelar flaggas som hot spots för brott oftare än de borde vara.
Andra faktorer förvränger också bilden. Offerrapportering är också relaterad till samhällets förtroende eller misstro mot polisen, säger Richardson. Så om du är i ett samhälle med en historiskt korrupt eller notoriskt rasistiskt partisk polisavdelning, kommer det att påverka hur och om människor rapporterar brott. I det här fallet kan ett förutsägande verktyg underskatta nivån av brottslighet i ett område, så det kommer inte att få den polisinsats det behöver.
Ingen quick fix
Ännu värre, det finns fortfarande ingen uppenbar teknisk fix. Akpinar och Chouldechova försökte justera sin Bogotá-modell för att ta hänsyn till de fördomar de observerade men hade inte tillräckligt med data för att göra stor skillnad – trots att det finns mer data på distriktsnivå för Bogotá än för någon amerikansk stad. I slutändan är det oklart om det är lättare att mildra partiskheten i det här fallet än tidigare ansträngningar som har fungerat för att avskaffa arresteringsdatabaserade system, säger Akpinar.
Vad kan göras? Richardson tror att allmänhetens påtryckningar att avveckla rasistiska verktyg och politiken bakom dem är det enda svaret. Det är bara en fråga om politisk vilja, säger hon. Hon noterar att tidiga användare av verktyg för förutsägande polisarbete, som Santa Cruz, har meddelat att de inte längre kommer att använda dem och att det har förekommit svidande officiella rapporter om användningen av förutsägande polisarbete av LAPD och Chicago PD. Men svaren i varje stad var olika, säger hon.
Chicago avbröt användningen av förutsägande polisarbete men återinvesterade i en databas för polisgäng, som Richardson säger har många av samma problem.
Det är oroande att även när statliga utredningar och rapporter finner betydande problem med dessa tekniker, räcker det inte med att politiker och polistjänstemän säger att det inte ska användas, säger hon.