Naturligtvis vidmakthåller teknik rasism. Det var designat på det sättet.

Källa foto: Getty / Ms Tech

Idag faller USA samman under tyngden av två pandemier: coronavirus och polisbrutalitet.

Båda orsakar fysiskt och psykiskt våld. Båda dödar och försvagar svarta och bruna människor på ett oproportionerligt sätt. Och båda är animerade av teknik som vi designar, återanvänder och distribuerar – oavsett om det är kontaktspårning, ansiktsigenkänning eller sociala medier.

Den här historien var en del av vårt julinummer 2020

• Se resten av frågan
• Prenumerera

Vi använder ofta teknik för att lösa problem. Men när samhället definierar, ramar in och representerar färgade människor som problemet, gör dessa lösningar ofta mer skada än nytta. Vi har designat tekniker för ansiktsigenkänning som riktar sig mot brottsmisstänkta på basis av hudfärg. Vi har utbildade automatiserade riskprofileringssystem som oproportionerligt identifierar Latinx-folk som illegala invandrare. Vi har utarbetade kreditvärderingsalgoritmer som oproportionerligt identifierar svarta människor som risker och hindrar dem från att köpa bostäder, få lån eller hitta jobb.

Så frågan vi måste konfrontera är om vi kommer att fortsätta att designa och distribuera verktyg som tjänar rasismens och vits överhöghet,

Naturligtvis är det ingen ny fråga alls.

Omedborgerliga rättigheter

1960 konfronterade det demokratiska partiets ledare sitt eget problem: Hur kunde deras presidentkandidat, John F. Kennedy, stötta upp avtagande stöd från svarta människor och andra rasminoriteter?

En företagsam statsvetare vid MIT, Ithiel de Sola Pool , kontaktade dem med en lösning. Han skulle samla väljardata från tidigare presidentval, mata in den i en ny digital bearbetningsmaskin, utveckla en algoritm för att modellera röstbeteende, förutsäga vilka politiska ståndpunkter som skulle leda till de mest gynnsamma resultaten och sedan råda Kennedy-kampanjen att agera därefter. Pool startade ett nytt företag, the Simulmatics Corporation och verkställde sin plan. Han lyckades, Kennedy valdes, och resultaten visade upp kraften i denna nya metod för prediktiv modellering.

Rasspänningen eskalerade under hela 1960-talet. Sedan kom den långa, varma sommaren 1967. Städer över hela landet brann, från Birmingham, Alabama, till Rochester, New York, till Minneapolis, Minnesota och många fler däremellan. Svarta amerikaner protesterade mot det förtryck och den diskriminering som de utsattes för i händerna på USA:s straffrättssystem. Men president Johnson kallade det civil oordning och bildade Kerner-kommissionen för att förstå orsakerna till gettoupplopp. Kommissionen anlitade Simulmatics.

Som en del av ett DARPA-projekt som syftade till att vända strömmen av Vietnamkriget, hade Pools företag arbetat hårt med att förbereda en massiv propaganda och psykologisk kampanj mot Vietcong. President Johnson var ivrig att distribuera Simulmatics beteendepåverkansteknologi för att dämpa nationens inhemska hot, inte bara dess utländska fiender. Under täckmantel av vad de kallade en mediestudie, byggde Simulmatics ett team för vad som motsvarade en storskalig övervakningskampanj i de upploppsdrabbade områdena som fångade nationens uppmärksamhet den sommaren 1967.

Tremannalag gick in i områden där kravaller hade ägt rum den sommaren. De identifierade och intervjuade strategiskt viktiga svarta personer. De följde upp för att identifiera och intervjua andra svarta invånare, på alla ställen från barbershopar till kyrkor. De frågade invånarna vad de tyckte om nyhetsmediernas bevakning av upploppen. Men de samlade in data om så mycket mer också: hur människor rörde sig i och runt staden under oroligheterna, vilka de pratade med före och under och hur de förberedde sig för efterdyningarna. De samlade in data om användning av vägtullar, försäljning av bensinstationer och bussrutter. De fick inträde i dessa samhällen under sken av att försöka förstå hur nyhetsmedia förmodas uppflammade upplopp. Men Johnson och landets politiska ledare försökte lösa ett problem. De syftade till att använda informationen som Simulmatics samlade in för att spåra informationsflödet under protester för att identifiera påverkare och halshugga protesternas ledarskap.

De gjorde inte detta direkt. De mördade inte människor, satte människor i fängelse eller försvann dem i hemlighet.

Men i slutet av 1960-talet hade den här typen av information hjälpt till att skapa vad som kom att kallas informationssystem för straffrättsliga frågor. De förökade sig under årtiondena och lade grunden för rasprofilering, förutsägande polisarbete och rasinriktad övervakning. De lämnade efter sig ett arv som inkluderar miljontals svarta och bruna kvinnor och fängslade män.

Omformulera problemet

Svarthet och svarta människor. Båda kvarstår som vår nations – vågar jag säga till och med vår världs – problem. När kontaktspårning först dök upp i början av pandemin var det lätt att se det som ett nödvändigt men godartat verktyg för hälsoövervakning. Coronaviruset var vårt problem, och vi började designa ny övervakningsteknik i form av kontaktspårning, temperaturövervakning och hotkartläggningsapplikationer för att hjälpa till att hantera det.

Men något både märkligt och tragiskt hände. Vi upptäckte att svarta människor, latinska människor och ursprungsbefolkningar var oproportionerligt infekterade och drabbade. Plötsligt blev vi också ett nationellt problem; vi hotade oproportionerligt mycket att sprida viruset. Det förvärrades när det tragiska mordet på George Floyd av en vit polis skickade tusentals demonstranter ut på gatorna. När plundringarna och upploppen började sågs vi – svarta – återigen som ett hot mot lag och ordning, ett hot mot ett system som vidmakthåller vit rasmakt. Det får dig att undra hur lång tid det kommer att ta för brottsbekämpande myndigheter att implementera den teknik som vi först designade för att bekämpa covid-19 för att dämpa hotet som svarta människor förmodas utgöra mot nationens säkerhet.

Om vi ​​inte vill att vår teknik ska användas för att vidmakthålla rasism, måste vi se till att vi inte blandar ihop sociala problem som brottslighet eller våld eller sjukdom med svarta och bruna människor. När vi gör det riskerar vi att förvandla dessa människor till de problem som vi använder vår teknik för att lösa, det hot vi designar den för att utrota.

Charlton McIlwain är professor i media, kultur och kommunikation vid New York University och författare till Svart programvara: Internet och rasrättvisa, från AfroNet till Black Lives Matter

Dölj