211service.com
Problemen med AI idag sträcker sig århundraden tillbaka i tiden
Ari Liloan
I mars 2015 bröt protester ut vid University of Cape Town i Sydafrika över campusstatyn av den brittiske kolonialisten Cecil Rhodes. Rhodos, en gruvmagnat som hade skänkt marken som universitetet byggdes på, hade begått folkmord mot afrikaner och lagt grunden för apartheid. Under samlingsfanan Rhodes Must Fall krävde eleverna att statyn skulle tas bort. Deras protester utlöste en global rörelse för att utrota det koloniala arvet som finns kvar inom utbildning.
Händelserna provocerade också Shakir Mohamed, en sydafrikansk AI-forskare vid DeepMind, att reflektera över vilka koloniala arv som kan finnas i hans forskning också. 2018, precis när AI-fältet började räkna med problem som algoritmisk diskriminering, skrev Mohamed ett blogginlägg med sina första tankar. I den uppmanade han forskare att avkolonisera artificiell intelligens - att omorientera fältets arbete bort från västerländska nav som Silicon Valley och engagera nya röster, kulturer och idéer för att vägleda teknikens utveckling.
Nu i kölvattnet av förnyade rop för Rhodes Must Fall på Oxford Universitys campus, sporrat av George Floyds mord och den globala antirasismrörelsen, har Mohamed släppt en ny tidning tillsammans med sin kollega William Isaac och Oxford doktorand Marie-Therese Png. Den konkretiserar Mohameds ursprungliga idéer med specifika exempel på hur AI-utmaningar har sina rötter i kolonialismen, och presenterar strategier för att ta itu med dem genom att erkänna den historien.
Hur kolonialitet manifesterar sig i AI
Även om den historiska kolonialismen kan vara över, existerar dess effekter fortfarande idag. Detta är vad forskare kallar kolonialitet: idén att den moderna maktobalansen mellan raser, länder, rika och fattiga och andra grupper är förlängningar av maktobalanserna mellan kolonisatör och koloniserad.
Ta strukturell rasism som exempel. Européer uppfann ursprungligen begreppet raser och skillnaderna mellan dem för att rättfärdiga den afrikanska slavhandeln och sedan koloniseringen av afrikanska länder. I USA kan effekterna av den ideologin nu spåras genom landets egen historia av slaveri, Jim Crow, och polisbrutalitet.
På samma sätt, hävdar tidningens författare, förklarar denna koloniala historia några av de mest oroande egenskaperna och effekterna av AI. De identifierar fem manifestationer av kolonialitet på fältet:
Algoritmisk diskriminering och förtryck. Banden mellan algoritmisk diskriminering och kolonial rasism är kanske de mest uppenbara: algoritmer byggda för att automatisera procedurer och tränade på data inom ett rasistiskt orättvist samhälle slutar med att replikera dessa rasistiska resultat i sina resultat. Men mycket av stipendiet för denna typ av skada från AI fokuserar på exempel i USA. Att undersöka det i samband med kolonialitet möjliggör ett globalt perspektiv: Amerika är inte den enda platsen med sociala orättvisor. Det finns alltid grupper som identifieras och utsätts, säger Isaac.
Spökarbete. Fenomenet spökarbete , det osynliga dataarbete som krävs för att stödja AI-innovation, förlänger på ett snyggt sätt det historiska ekonomiska förhållandet mellan kolonisatör och koloniserad. Många tidigare amerikanska och brittiska kolonier – Filippinerna, Kenya och Indien – har blivit spökarbetande nav för amerikanska och brittiska företag. Ländernas billiga, engelsktalande arbetskraft, som gör dem till en naturlig passform för dataarbete, existerar på grund av deras koloniala historia.
Betatestning. AI-system testas ibland på mer sårbara grupper innan de implementeras för riktiga användare. Cambridge Analytica, till exempel, betatestade sina algoritmer vid valen i Nigeria och 2017 i Kenya 2015 innan de användes i USA och Storbritannien. Studier visade senare att dessa experiment aktivt störd den kenyanska valprocessen och urholkade den sociala sammanhållningen. Denna typ av testning återspeglar det brittiska imperiets historiska behandling av dess kolonier som laboratorier för nya mediciner och teknologier.
AI-styrning. De geopolitiska maktobalanser som kolonialtiden lämnade efter sig formar också aktivt AI-styrning. Detta har utspelat sig i den senaste tidens brådska att utarbeta globala AI-etiska riktlinjer: utvecklingsländer i Afrika, Latinamerika och Centralasien har till stor del lämnats utanför diskussionerna, vilket har lett till att vissa vägra att delta i internationella dataflödesavtal . Resultatet: utvecklade länder fortsätter att gynnas oproportionerligt mycket av globala normer utformade för deras fördel, medan utvecklingsländer fortsätter att hamna ytterligare efter.
Internationell samhällsutveckling. Slutligen påverkar samma geopolitiska maktobalanser hur AI används för att hjälpa utvecklingsländer. AI för gott eller AI för hållbar utveckling är ofta paternalistiska. De tvingar utvecklingsländer att vara beroende av befintliga AI-system snarare än att delta i att skapa nya designade för deras eget sammanhang.
Forskarna noterar att dessa exempel inte är heltäckande, men de visar hur långtgående koloniala arv är i global AI-utveckling. De binder också samman vad som verkar vara olika problem under en samlande tes. Det ger oss en ny grammatik och vokabulär för att prata om både varför dessa frågor är viktiga och vad vi ska göra för att tänka på och ta itu med dessa frågor på lång sikt, säger Isaac.
Hur man bygger dekolonial AI
Fördelen med att undersöka skadliga effekter av AI genom denna lins, hävdar forskarna, är den ram som den tillhandahåller för att förutsäga och mildra framtida skador. Png anser att det egentligen inte finns något sådant som oavsiktliga konsekvenser – bara konsekvenserna av de blinda fläckar som organisationer och forskningsinstitutioner har när de saknar mångsidig representation.
I denna anda föreslår forskarna tre tekniker för att uppnå dekolonial, eller mer inkluderande och fördelaktig, AI:
Kontextmedveten teknisk utveckling. Först bör AI-forskare som bygger ett nytt system överväga var och hur det kommer att användas. Deras arbete bör inte heller sluta med att skriva koden utan bör inkludera att testa den, stödja policyer som underlättar korrekt användning och organisera åtgärder mot olämpliga sådana.
Omvänd handledning. För det andra bör de lyssna på marginaliserade grupper. Ett exempel på hur man gör detta är den spirande praktiken av deltagande maskininlärning , som syftar till att involvera de personer som påverkas mest av maskininlärningssystem i deras design. Detta ger försökspersonerna en chans att utmana och diktera hur maskininlärningsproblem ramas in, vilken data som samlas in och hur och var de slutliga modellerna används.
Solidaritet. Marginaliserade grupper bör också ges stöd och resurser att initiera sitt eget AI-arbete. Flera grupper av marginaliserade AI-utövare finns redan, inklusive Deep Learning Indaba , Svart i AI , och Queer i AI , och deras arbete bör förstärkas.
Sedan de publicerade sin uppsats, säger forskarna, har de sett ett överväldigande intresse och entusiasm. Det signalerar åtminstone för mig att det finns en mottaglighet för det här arbetet, säger Isaac. Det känns som att det här är ett samtal som samhället vill börja engagera sig i.