AI-etiska grupper upprepar ett av samhällets klassiska misstag

Getty

Internationella organisationer och företag tävlar om att utveckla globala riktlinjer för etisk användning av artificiell intelligens. Deklarationer, manifest och rekommendationer svämmar över internet. Men dessa ansträngningar kommer att vara meningslösa om de inte tar hänsyn till de kulturella och regionala sammanhang där AI verkar.

AI-system har upprepade gånger visat sig orsaka problem som oproportionerligt påverkar marginaliserade grupper samtidigt som det gynnar ett fåtal privilegierade. De globala AI-etiska ansträngningarna som pågår idag – som det finns dussintals av – syftar till att hjälpa alla att dra nytta av denna teknik och att förhindra att den orsakar skada. Generellt sett gör de detta genom att skapa riktlinjer och principer för utvecklare, finansiärer och tillsynsmyndigheter att följa. De kan till exempel rekommendera rutinmässiga interna revisioner eller kräva skydd för användarnas personligt identifierbara information.

Vi tror att dessa grupper är välmenande och gör ett värdefullt arbete. AI-gemenskapen borde verkligen komma överens om en uppsättning internationella definitioner och begrepp för etisk AI. Men utan mer geografisk representation kommer de att producera en global vision för AI-etik som återspeglar perspektiven hos människor i endast ett fåtal regioner i världen, särskilt Nordamerika och nordvästra Europa.

Detta arbete är inte lätt eller okomplicerat. Rättvisa, integritet och partiskhet betyder olika saker (pdf) på olika platser. Människor har också olika förväntningar på dessa koncept beroende på deras egna politiska, sociala och ekonomiska realiteter. Utmaningarna och riskerna med AI skiljer sig också beroende på var man befinner sig.

Om organisationer som arbetar med global AI-etik misslyckas med att erkänna detta, riskerar de att utveckla standarder som i bästa fall är meningslösa och ineffektiva i alla världens regioner. I värsta fall kommer dessa felaktiga standarder att leda till fler AI-system och verktyg som vidmakthåller befintliga fördomar och är okänsliga för lokala kulturer.

2018, till exempel, var Facebook långsam med att agera på felaktig information sprider sig i Myanmar som i slutändan ledde till kränkningar av mänskliga rättigheter. En bedömning (pdf) betald av företaget fann att denna förbiseende delvis berodde på Facebooks riktlinjer för communityn och policyer för innehållsmoderering, som misslyckades med att ta itu med landets politiska och sociala realiteter.

Det finns en tydlig brist på regional mångfald i många AI-rådgivande styrelser, expertpaneler och råd.

För att förhindra sådana övergrepp måste företag som arbetar med etiska riktlinjer för AI-drivna system och verktyg engagera användare från hela världen för att hjälpa till att skapa lämpliga standarder för att styra dessa system. De måste också vara medvetna om hur deras policy gäller i olika sammanhang.

Trots riskerna finns det en tydlig brist på regional mångfald i många AI-rådgivande styrelser, expertpaneler och råd utsedda av ledande internationella organisationer. De expertrådgivningsgrupp för Unicefs AI for Children-projekt har till exempel inga representanter från regioner med högsta koncentrationen av barn och unga vuxna, inklusive Mellanöstern, Afrika och Asien.

Tyvärr, som det ser ut idag, löper hela området för AI-etik en stor risk att begränsa sig till språk, idéer, teorier och utmaningar från en handfull regioner - främst Nordamerika, Västeuropa och Östasien.

Denna brist på regional mångfald speglar strömmen koncentration av AI-forskning (pdf) : 86 % av artiklarna som publicerades vid AI-konferenser 2018 tillskrevs författare i Östasien, Nordamerika eller Europa. Och färre än 10 % av referenserna i AI-tidningar publicerade i dessa regioner är till artiklar från en annan region. Patenten är också mycket koncentrerade: 51 % av AI-patenten som publicerades 2018 tillskrevs Nordamerika.

De av oss som arbetar med AI-etik kommer att göra mer skada än nytta om vi tillåter fältets brist på geografisk mångfald att definiera våra egna ansträngningar. Om vi ​​inte är försiktiga kan vi sluta kodifiera AI:s historiska fördomar till riktlinjer som förvränger tekniken för kommande generationer. Vi måste börja prioritera röster från låg- och medelinkomstländer ( speciellt t slang i Global söder ) och de från historiskt marginaliserade samhällen.

Teknikens framsteg har ofta gynnat västerlandet samtidigt som de förvärrat ekonomisk ojämlikhet, politiskt förtryck och miljöförstöring på andra håll. Att inkludera icke-västerländska länder i AI-etiken är det bästa sättet att undvika att detta mönster upprepas.

Relaterad berättelse

Deltagande-tvätt kan bli nästa farliga modefluga inom maskininlärning Många människor deltar redan i fältets arbete utan erkännande eller lön.

Den goda nyheten är att det finns många experter och ledare från underrepresenterade regioner att inkludera i sådana rådgivande grupper. Men många internationella organisationer verkar inte anstränga sig särskilt hårt för att be om deltagande från dessa människor. Den nybildade Global AI Ethics Consortium , till exempel, har inga grundande medlemmar som representerar akademiska institutioner eller forskningscentra från Mellanöstern, Afrika eller Latinamerika. Detta utelämnande är ett skarpt exempel på koloniala mönster (pdf) upprepar sig själva.

Om vi ​​ska bygga etiska, säkra och inkluderande AI-system istället för att engagera oss i etiktvätt , måste vi först bygga förtroende med dem som historiskt har skadats av samma system. Det börjar med ett meningsfullt engagemang.

Vid Montreal AI Ethics Institute , där vi båda arbetar, försöker vi ta ett annat tillvägagångssätt. Vi är värd för digitala AI-etikträffar, som är öppna diskussioner som alla med internetuppkoppling eller telefon kan gå med i. Under dessa evenemang har vi haft kontakt med en mångfaldig grupp individer, från en professor som bor i Macau till en universitetsstudent som studerar i Mumbai.

Samtidigt har grupper som Partnership on AI, som inser bristen på geografisk mångfald inom AI mer allmänt, rekommenderade ändringar till visumlagar och föreslagna policyer som gör det lättare för forskare att resa och dela med sig av sitt arbete. Maskhane , en gräsrotsorganisation, samlar forskare som bearbetar naturliga språk från Afrika för att stärka maskinöversättningsarbete som har försummat icke-dominerande språk.

Det är uppmuntrande att se internationella organisationer som försöker inkludera fler olika perspektiv i sina diskussioner om AI. Det är viktigt för oss alla att komma ihåg att regional och kulturell mångfald är nyckeln till alla samtal om AI-etik. Att göra ansvarsfull AI till norm, snarare än undantag, är omöjligt utan röster från människor som inte redan har makt och inflytande.

TILL bhishek Gupta är grundaren av Montreal AI Ethics Institute och en maskininlärningsingenjör på Microsoft, där han sitter i CSE Responsible AI Board. Victoria Heath är forskare vid Montreal AI Ethics Institute och en senior forskare vid NATO Association of Canada .

Dölj