Aktivisten demonterar rasistiska polisalgoritmer

Damon Casarez

Hamid Khan har varit samhällsorganisatör i Los Angeles i över 35 år, med ett konsekvent fokus på polisvåld och mänskliga rättigheter. Han pratade med oss ​​den 3 april 2020 för ett kommande podcastavsnitt om artificiell intelligens och polisarbete. När världen riktar sin uppmärksamhet mot polisbrutalitet och institutionell rasism, tänkte vi att vårt samtal med honom om hur han tror att teknik möjliggör rasism inom polisväsendet borde publiceras nu.

Khan är grundaren av Stop LAPD Spying Coalition, som har vunnit många landmärken rättsfall på uppdrag av de minoritetsgrupper den kämpar för. Dess arbete är kanske mest känt för förespråkande mot prediktiv polisverksamhet. Den 21 april, några veckor efter denna intervju, LAPD tillkännagav ett slut på alla förutseende polisprogram .

Khan är en kontroversiell figur som har tackat nej till partnerskap med grupper som Electronic Frontier Foundation (EFF) på grund av dess betoning på reformer. Han tror inte att reformen kommer att fungera. Intervjun har redigerats för längd och tydlighet.

Berätta om ditt arbete. Varför bryr du dig om polisövervakning?

Arbetet som vi gör, särskilt när vi tittar på Los Angeles Police Department, tittar på hur övervakning, informationsinsamling, lagring och delning historiskt har använts för att verkligen orsaka skada, för att spåra, spåra, övervaka, förfölja särskilda samhällen: samhällen som är fattiga, som är svarta och bruna, samhällen som skulle anses vara misstänkta och queera transkroppar. Så på olika nivåer är övervakning en process av social kontroll.

Tror du att tekniken har en roll i polisarbetet?

Stop LAPD Spying Coalition har några vägledande värderingar. Den första är att det vi tittar på inte är ett ögonblick i tiden utan en fortsättning på historien. Övervakning har använts i hundratals år. Några av de tidigaste övervakningsprocesserna går tillbaka till lyktlagarna i New York City i början av 1700-talet. Om du var en förslavad person, en svart eller en urbefolkning, och om du gick ut på det offentliga området utan din herre, var du tvungen att gå med en verklig bokstavlig lykta, med ljusveken och allt, för att i princip självidentifiera dig dig själv som misstänkt, som den andre.

Ett annat vägledande värde är att det alltid finns en annan. Historiskt sett finns det alltid ett hot mot systemet. Det finns alltid en kropp, en individ eller grupper av människor som anses vara farliga. De anses misstänkta.

Det tredje värdet är att vi alltid försöker desensationalisera retoriken om nationell säkerhet. För att hålla det väldigt enkelt och okomplicerat [försöker vi visa] hur miljön för informationsinsamling och informationsdelning rör sig och hur det är en process för att hålla ett öga på alla.

Algoritmer har ingen plats i polisarbetet.

Och en av våra sista vägledande värderingar är att vår kamp är rotad i mänskliga rättigheter. Vi är en starkt avskaffande grupp, så vårt mål är att avveckla systemet. Vi ägnar oss inte åt reformistiskt arbete. Vi betraktar också all policyutveckling kring transparens, ansvarighet och tillsyn som en mall för uppdragskrypning. Varje gång övervakningen blir legitimerad, är den öppen för att utökas med tiden. Just nu kämpar vi för att hålla drönarna på marken i Los Angeles, och vi kunde hålla dem på marken i några år. Och i slutet av mars meddelade Chula Vista Police Department i San Diego att de kommer att göra det utrusta sina drönare med högtalare att övervaka förflyttningen av personer som inte är inhysta.

Kan du förklara det arbete som Stop LAPD Spying Coalition har gjort med förutsägande polisarbete? Vilka är problemen med det ur ditt perspektiv?

PredPol var platsbaserad prediktiv polisverksamhet där en 500 x 500 kvadratmeter stor plats identifierades som en hot spot. Det andra kompanjonprogrammet, Operation Laser, var personbaserad prediktiv polisverksamhet.

Under 2010 tittade vi på de olika sätten som dessa [LAPD-övervakning]-program inleddes. Predictive policing var ett nyckelprogram. Vi lanserade formellt en kampanj 2016 för att förstå effekten av förutseende polisarbete i Los Angeles med målet att avveckla programmet, föra denna information till samhället och slå tillbaka.

Personbaserad prediktiv polisverksamhet hävdade att för individer som kallas personer av intresse eller vaneförbrytare, som kan ha haft någon historia tidigare, kunde vi använda ett riskbedömningsverktyg för att fastställa att de skulle återfalla. Så det var ett sifferspel. Om de hade något vapeninnehav tidigare tilldelades de fem poäng. Om de var villkorligt frigivna tilldelades de fem poäng. Om de var gänganslutna tilldelades de fem poäng. Om de hade haft interaktioner med polisen som en stopp-och-frisk, skulle de tilldelas en poäng. Och det blev där individer som var på villkorlig dom eller som skötte sina egna affärer och byggde upp sina liv sedan placerades i vad som blev känt som ett program för kroniska brottslingar, utan att många människor visste det.

Så plats blir kriminaliserad, människor blir kriminaliserade, och det är bara några sekunder bort innan pistolen kommer ut och någon blir skjuten och dödad.

Sedan, baserat på denna riskbedömning, var Palantir behandlar alla uppgifter , skapade LAPD en lista. De började släppa bulletiner, som var som en Most Wanted-affisch med dessa individers foton, adresser och historia också, och satte dem i patrullbilar. [De] började distribuera registreringsskyltläsare, stingrayen, IMSI-Catcher, CCTV och diverse annan teknik för att spåra deras rörelser och skapade sedan förhållanden på marken för att stoppa och trakassera och skrämma dem. Vi byggde mycket gräsrotskraft och i april 2019 avvecklades Operation Laser formellt. Den avbröts.

Och just nu går vi efter PredPol och kräver att PredPol också ska monteras ner. [LAPD meddelade ett slut på PredPol den 21 april 2020.] Vårt mål för avskaffandet och avvecklingen av detta program är inte bara rotat i skräp in, skräp ut; rasistisk data in och rasistisk data ut. Vårt arbete är verkligen förankrat i att det i slutändan tjänar hela den ideologiska ramen för patriarkat och kapitalism och vit överhöghet och kolonialism från nybyggare.

Vi släppte en rapport, Innan kulan träffar kroppen, i maj 2018 om förutseende polisarbete i Los Angeles, vilket ledde till att staden Los Angeles höll offentliga utfrågningar om datadrivet polisarbete, som var det första i sitt slag i landet. Vi krävde en kriminalteknisk granskning av PredPol av generalinspektören. I mars 2019 släppte generalinspektören revisionen och den sa att vi inte ens kan granska PredPol eftersom det helt enkelt inte är möjligt. Det är så, så komplicerat.

Algoritmer har ingen plats i polisarbetet. Jag tror att det är avgörande att vi förstår att det finns liv på spel. Detta språk av platsbaserad polisverksamhet är i sig en proxy för rasism. De är inte där för att polisa gropar och träd. De är där för att polisfolk på platsen. Så plats blir kriminaliserad, människor blir kriminaliserade, och det är bara några sekunder bort innan pistolen kommer ut och någon blir skjuten och dödad.

Teamledare för Stop LAPD Spying Coalition Hamid Khan (höger), Jamie Garcia (mitten) och Gen Dogon (vänster) i Skid Row-kvarteret i LA, där koalitionen har sitt huvudkontor.

DAMON CASAREZ

Hur säkerställer du att allmänheten förstår den här typen av polistaktik?

Offentliga register är ett riktigt bra verktyg för att få information. Vad är ursprunget till detta program? Vi vill veta: Vad var visionen? Hur formulerades det? Vad är syftet med finansieringen? Vad är det för ordförråd som de använder? Vilka är resultaten som de presenterar för finansiären?

Jag är en människa, och jag är inte här för att du bara packar upp mig och bara börjar experimentera på mig och sedan packar mig.

De [LAPD] skulle betrakta ett område, ett hyreshus, som hot spots och zoner. Och folk stoppades i en mycket snabbare takt [där]. Varje gång du stoppar någon går den informationen in i en databas. Det blev ett stort datainsamlingsprogram.

Vi krävde att de skulle släppa den hemliga listan som de hade över dessa individer. LAPD slog tillbaka, och vi vann rättegången för offentliga register. Så nu har vi en hemlig lista med 679 individer, som vi nu vill nå ut till. Och dessa är alla unga individer, övervägande omkring 90% till 95% svarta och bruna.

Att göra om området skapar förutsättningar på marken för mer utveckling, mer gentrifiering, mer vräkning, mer förflyttning av människor. Så polisen blev beskyddare av privat egendom och beskyddare av privilegier.

Vad säger du till människor som tror att teknik kan hjälpa till att lindra vissa av dessa problem inom polisväsendet, som fördomar, eftersom teknik kan vara objektiv?

För det första fungerar inte tekniken av sig själv. Från design till produktion till implementering till resultatet, det finns ständigt inbyggda fördomar. Det är inte bara fördomar hos människorna själva; dess den inneboende partiskheten inom systemet .

Det finns så många inflytandepunkter att vår kamp ärligt talat inte är att rensa upp data. Vår kamp är inte för en opartisk algoritm, eftersom vi inte tror att det ens matematiskt kan finnas en opartisk algoritm för polisarbete överhuvudtaget.

Vilka är de mänskliga rättigheterna när det kommer till polisteknik och övervakning?

Den första mänskliga rätten skulle vara att sluta experimenteras med. Jag är en människa, och jag är inte här för att du bara packar upp mig och bara börjar experimentera på mig och sedan packar mig. Det finns så mycket information om våra liv som har hänt. Från plantagekapitalism till rasifierad kapitalism till nu också övervakningskapitalism, vi är föremål för att köpas och säljas. Våra sinnen och våra tankar har förvandlats. Det har en förvirrande effekt också på vår kreativitet som människor, som en del av ett naturligt universum. Samtycke tillverkas av oss.

Med något som coronavirus ser vi verkligen att vissa människor är villiga att ge upp en del av sin data och en del av sin integritet. Vad tycker du om valet eller avvägningen mellan nytta och integritet?

Vi måste verkligen titta på det genom en mycket bredare lins. Att gå tillbaka till en av våra vägledande värderingar: inte ett ögonblick i tiden utan en fortsättning på historien. Så vi måste titta på kriser i det förflutna, både verkliga och påhittade.

Låt oss titta på OS 1984 i Los Angeles. Det ledde till den mest massiva expansionen av polisens befogenheter och militariseringen av Los Angeles Police Department och sheriffens avdelning under täckmantel av allmän säkerhet. Saken var Tja, vi vill hålla allt säkert. Men inte bara [blev] det ett permanent inslag och det nya normala, utan taktik utvecklades också. Eftersom gator var tvungna att städas bort, tvångsförs bort misstänkta kroppar, personer som inte var inhysta. Gängsveep ska ha börjat hända. Så unga svarta och bruna ungdomar arresterades i massor. Det här är som 1983, vilket leder till 1984.

1986-1987 i Los Angeles blev gängförelägganden ett permanent inslag. Detta resulterade i massiva gängdatabaser, och barn så unga som nio månader gamla gick in i dessa gängdatabaser. Det blev Operation Hammer, där de hade skaffat stridsvagnar och pansarfordon, som användes av SWAT, för att leverera narkotikabrott på låg nivå och för att gå ner och bryta ner människors hem.

Nu är vi vid ett ögonblick igen. Det är inte bara den strukturella expansionen av polisens befogenheter; vi måste se på att polisen nu i allt större utsträckning tar på sig roller som socialarbetare. Det har byggts under de senaste 10 åren. Det finns en hel del pengar för hälso- och mänskliga tjänster kopplade till det också. Till exempel, i Los Angeles, stadskontrollanten kom ut med en revision för ungefär fem år sedan, och de tittade på 100 miljoner dollar för hemlösa tjänster som staden tillhandahåller. Tja, gissa vad? Av det gick 87 miljoner dollar till LAPD.

Kan du ge ett specifikt exempel på hur polisens användning av teknik påverkar samhällsmedlemmar?

Underrättelseledd polisverksamhet är ett koncept som kommer från England, från Kent Constabulary och startade för cirka 30 år sedan i USA. Det centrala temat för underrättelseledd polisverksamhet är beteendeövervakning. Människors beteende måste övervakas och sedan bearbetas, och den informationen måste delas. Människor måste spåras och spåras.

Det finns inget som heter snällare, mildare rasism, och dessa program måste avvecklas.

Ett program som heter Suspicious Activity Reporting kom från 9/11, där flera aktiviteter som är helt grundlagsskyddade listas som potentiellt misstänkta. Till exempel att fotografera offentligt, använda videokameror offentligt, gå in i infrastruktur och fråga om öppettider. Det är observerat beteende som rimligen indikerar föroperativ planering av kriminell och/eller terroristaktivitet. Så du observerar någons beteende, vilket rimligen indikerar att det inte finns någon trolig orsak. Det skapar inte ett faktum, utan en oro. Den spekulativa och aningsbaserade polisverksamheten är verklig.

Vi kunde få siffror från LAPD:s See Something, Say Something-program. Och vad vi fann var att det fanns en 3:1 olika inverkan på det svarta samhället. Cirka 70 % av dessa See Something, Say Something-rapporter kom från övervägande vita samhällen i Los Angeles. Så nu beväpnas ett program och blir en licens för rasprofilering.

Målet är alltid att bygga makt mot att avskaffa dessa program, eftersom du inte kan reformera dem. Det finns inget som heter snällare, mildare rasism, och dessa program måste avvecklas.

Så du tror verkligen att reformen inte kommer att tillåta användning av dessa tekniker i polisarbetet?

Jag kan bara tala om min egen historia av 35 år av organisering i LA. Det handlar inte om att bli bättre, det är en fråga om att bli sämre. Och jag tror att tekniken främjar det. När man tittar på reformhistorien fortsätter vi att slå huvudet i väggen, och det fortsätter bara att komma tillbaka till samma gamla sak. Vi kan inte riktigt verka under antagandet att hjärtan och sinnen kan förändras, särskilt när någon har en licens att döda.

Jag är ingen teknolog. Vår försiktighet är för teknologerna: du vet, håll dig i ditt körfält. Följ samhället och följ deras vägledning.

Dölj