Att upprätta en etisk kod för AI kommer att vara svårare än vad folk tror

Varoon Mathur / AI Now Institute

Under de senaste sex åren har New Yorks polisavdelning sammanställt en enorm databas innehåller namn och personuppgifter på minst 17 500 personer som man tror är inblandade i kriminella gäng. Insatsen har redan kritiserats av medborgarrättsaktivister som säger att den är felaktig och rasdiskriminerande.

'Föreställ dig nu att gifta ansiktsigenkänningsteknik med utvecklingen av en databas som teoretiskt sett förutsätter att du är i ett gäng', sa Sherrilyn Ifill, ordförande och chefsjurist för NAACP Legal Defense Fund, på AI Now Symposium i New York i tisdags.

Advokater, aktivister och forskare betonar behovet av etik och ansvarighet vid design och implementering av AI-system. Men detta ignorerar ofta ett par knepiga frågor: vem får definiera den etiken, och vem ska genomdriva dem?

Sherrilyn Ifill (NAACP Legal Defense Fund), Timnit Gebru (Google) och Nicole Ozer (ACLU) i samtal vid AI Now 2018 Symposium. Andrew Federman för AI Now Institute

Inte bara är ansiktsigenkänning ofullkomlig, studier har visat att den ledande programvaran är mindre exakt för mörkhyade individer och kvinnor. Enligt Ifills uppskattning är polisdatabasen mellan 95 och 99 procent afroamerikaner, latino- och asiatiskamerikaner. 'Vi pratar om att skapa en klass av […] människor som är stämplade med en sorts kriminell tagg,' sa Ifill.

Samtidigt har polisavdelningar över hela USA, Storbritannien och Kina börjat använda ansiktsigenkänning som ett verktyg för att hitta kända brottslingar. I juni, södra Wales polisen släppte ett uttalande som motiverar deras användning av tekniken på grund av den 'allmännytta' som den ger.

Faktum är att tekniken ofta lyfter fram människors olika etiska standarder – oavsett om det är det censurerar hatretorik eller använda riskbedömningsverktyg för att förbättra den allmänna säkerheten .

I ett försök att belysa hur olika människors principer kan vara, skapade forskare vid MIT en plattform som heter Moralisk maskin att samla in mänskliga åsikter om de moraliska beslut som bör följas av självkörande bilar. De bad miljontals människor från hela världen att väga in varianter av klassikern vagn problem genom att välja vem en bil ska försöka prioritera vid en olycka. Resultaten visar på stor variation mellan olika kulturer.

Att etablera etiska standarder förändrar inte nödvändigtvis beteendet. I juni till exempel efter Google höll med för att avbryta sitt arbete på Project Maven med Pentagon, etablerade det en ny uppsättning av etiska principer att vägleda dess engagemang i framtida AI-projekt. Bara månader senare känner många Google-anställda att dessa principer har lagts vid sidan av ett bud på en 10 miljarder dollar kontrakt för försvarsdepartementet . TILL nyligen genomförd studie från North Carolina State University fann också att det inte förändrar deras beteende att be programvaruingenjörer att läsa en etisk kod.

Philip Alston, en internationell juridisk forskare vid NYU:s School of Law, föreslår en lösning på etikens tvetydiga och oansvariga natur: att omformulera AI-drivna konsekvenser i termer av mänskliga rättigheter. '[Mänskliga rättigheter finns] i konstitutionen', sa Alston vid samma konferens. 'De finns i rättighetsförordningen; de har tolkats av domstolar, sa han. Om ett AI-system tar bort människors grundläggande rättigheter borde det inte vara acceptabelt, sa han.

Philip Alston (NYU School of Law), Virginia Eubanks (University at Albany, SUNY) och Vincent Southerland (Center on Race, Inequality, and the Law at NYU) på scen vid symposiet. Andrew Federman för AI Now Institute

Alston är inte den enda som har kommit på den här lösningen. Mindre än en vecka före symposiet publicerade Data & Society Research Institute en förslag för att använda internationella mänskliga rättigheter för att styra AI. Rapporten innehåller rekommendationer för teknikföretag att engagera sig med medborgarrättsgrupper och forskare, och att genomföra konsekvensbedömningar av mänskliga rättigheter på livscyklerna för deras AI-system.

'Tills vi börjar ta med [mänskliga rättigheter] i AI-diskussionen,' tillade Alston, 'det finns inget hårt ankare.'

Dölj