De verkliga farorna med AI är närmare än vi tror

Glöm superintelligent AI: algoritmer skapar redan verklig skada. De goda nyheterna: tillbakakampen har börjat.

Förbi

• Karen Hao arkivsida

21 oktober 2020

William Isaac började forska om partiskhet i prediktiva polisalgoritmer 2016. David Vintiner

Så länge som människor har byggt maskiner har vi fruktat den dagen de skulle kunna förstöra oss. Stephen Hawking varnade känd för att AI skulle kunna innebära ett slut på civilisationen. Men för många AI-forskare känns dessa samtal oförtöjda. Det är inte så att de inte är rädda för att AI går amok – det är att de ser det redan hända, bara inte på det sätt som de flesta förväntar sig.

AI screenar nu jobbkandidater, diagnostiserar sjukdomar och identifierar misstänkta kriminella. Men istället för att göra dessa beslut mer effektiva eller rättvisa, vidmakthåller det ofta fördomarna hos de människor vars beslut det tränades på.

Den här historien var en del av vårt novembernummer 2020

• Se resten av frågan
• Prenumerera

William Isaac är senior forskare inom etik- och samhällsteamet på DeepMind, en AI-startup som Google förvärvade 2014. Han är också medordförande för Fairness, Accountability, and Transparency-konferensen – den främsta årliga sammankomsten av AI-experter, samhällsvetare, och advokater som arbetar inom detta område. Jag frågade honom om de nuvarande och potentiella utmaningarna som AI-utveckling står inför – såväl som lösningarna.

F: Ska vi vara oroliga för superintelligent AI?

A: Jag vill flytta frågan. Hoten överlappar varandra, oavsett om det är förutsägande polisarbete och riskbedömning på kort sikt, eller mer skalade och avancerade system på längre sikt. Många av dessa frågor har också en grund i historien. Så potentiella risker och sätt att närma sig dem är inte så abstrakta som vi tror.

Det finns tre områden som jag vill flagga. Den mest angelägna frågan är förmodligen den här frågan om värdeanpassning: hur designar man egentligen ett system som kan förstå och implementera de olika formerna av preferenser och värderingar hos en befolkning? Under de senaste åren har vi sett försök från beslutsfattare, industri och andra att försöka införliva värden i tekniska system i stor skala – inom områden som förutsägande polisarbete, riskbedömningar, anställningar etc. Det är uppenbart att de uppvisar någon form av partiskhet som speglar samhället. Det ideala systemet skulle balansera alla behov hos många intressenter och många människor i befolkningen. Men hur förenar samhället sin egen historia med strävan? Vi kämpar fortfarande med svaren, och den frågan kommer att bli exponentiellt mer komplicerad. Att rätta till problemet är inte bara något för framtiden, utan för här och nu.

Den andra skulle vara att uppnå påvisbar social nytta. Fram till denna punkt finns det fortfarande få empiriska bevis som bekräftar att AI-tekniker kommer att uppnå den breda sociala fördel som vi strävar efter.

Slutligen tror jag att den största som alla som arbetar i utrymmet är oroade över är: vilka är de robusta mekanismerna för tillsyn och ansvarsskyldighet.

F: Hur övervinner vi dessa risker och utmaningar?

S: Tre områden skulle räcka långt. Den första är att bygga en kollektiv muskel för ansvarsfull innovation och tillsyn. Se till att du tänker på var formerna av felaktig anpassning eller partiskhet eller skada finns. Se till att du utvecklar bra processer för hur du säkerställer att alla grupper är engagerade i processen för teknisk design. Grupper som historiskt sett marginaliserats är ofta inte de som får sina behov tillgodosedda. Så hur vi utformar processer för att faktiskt göra det är viktigt.

Den andra påskyndar utvecklingen av de sociotekniska verktygen för att faktiskt utföra detta arbete. Vi har inte en massa verktyg.

Den sista tillhandahåller mer finansiering och utbildning för forskare och praktiker – särskilt forskare och färgutövare – för att utföra detta arbete. Inte bara inom maskininlärning, utan också inom STS [vetenskap, teknik och samhälle] och samhällsvetenskap. Vi vill inte bara ha ett fåtal individer utan en gemenskap av forskare för att verkligen förstå mängden potentiella skador som AI-system utgör och hur man framgångsrikt kan mildra dem.

F: Hur långt har AI-forskare kommit i att tänka på dessa utmaningar, och hur långt måste de fortfarande gå?

S: 2016, minns jag, hade Vita huset precis kommit ut med en stor datarapport, och det fanns en stark känsla av optimism om att vi skulle kunna använda data och maskininlärning för att lösa några svårlösta sociala problem. Samtidigt fanns det forskare i det akademiska samfundet som hade flaggat i en mycket abstrakt mening: Hej, det finns några potentiella skador som kan göras genom dessa system. Men de hade i stort sett inte interagerat alls. De fanns i unika silor.

Sedan dess har vi bara haft mycket mer forskning inriktad på denna skärningspunkt mellan kända brister inom maskininlärningssystem och deras tillämpning i samhället. Och när folk började se det samspelet insåg de: Okej, det här är inte bara en hypotetisk risk. Det är ett verkligt hot. Så om du tittar på fältet i faser, så var fas ett väldigt tydligt och synligt att dessa problem är verkliga. Den andra fasen börjar nu brottas med bredare systemfrågor.

F: Så är du optimistisk när det gäller att uppnå brett baserad fördelaktig AI?

A: Jag är. De senaste åren har gett mig mycket hopp. Se på ansiktsigenkänning som ett exempel. Det var det fantastiska arbetet av Joy Buolamwini, Timnit Gebru och Deb Raji med att upptäcka intersektionella skillnader i noggrannhet över ansiktsigenkänningssystem [dvs. att visa att dessa system var mycket mindre exakta på svarta kvinnliga ansikten än vita manliga]. Det finns det förespråkande som hände i det civila samhället för att skapa ett rigoröst försvar av mänskliga rättigheter mot felaktig tillämpning av ansiktsigenkänning. Och även det stora arbete som beslutsfattare, tillsynsmyndigheter och samhällsgrupper från gräsrötterna och uppåt gjorde för att kommunicera exakt vad ansiktsigenkänningssystem var och vilka potentiella risker de utgjorde, och att kräva klarhet om vilka fördelarna för samhället skulle vara. Det är en modell för hur vi skulle kunna tänka oss att engagera oss i andra framsteg inom AI.

Men utmaningen med ansiktsigenkänning är att vi var tvungna att bedöma dessa etiska och värderingsfrågor medan vi offentligt distribuerade tekniken. I framtiden hoppas jag att några av dessa samtal sker innan de potentiella skadorna dyker upp.

F: Vad drömmer du om när du drömmer om framtiden för AI?

S: Det kan vara en bra utjämnare. Som om du hade AI-lärare eller handledare som skulle kunna vara tillgängliga för studenter och samhällen där tillgången till utbildning och resurser är mycket begränsad, skulle det vara mycket stärkande. Och det är en icke-trivial sak att vilja ha från den här tekniken. Hur vet du att det är stärkande? Hur vet du att det är socialt fördelaktigt?

Jag gick på forskarskolan i Michigan under vattenkrisen i Flint. När de första förekomsterna av blyrör dök upp fanns uppgifterna de hade om var rörsystemen fanns på registerkort längst ner i en administrativ byggnad. Bristen på tillgång till teknik hade försatt dem i en betydande nackdel. Det betyder att människorna som växte upp i dessa samhällen, av vilka över 50 % är afroamerikanska, växte upp i en miljö där de inte får grundläggande tjänster och resurser.

Så frågan är: Om de görs på lämpligt sätt, skulle dessa tekniker kunna förbättra deras levnadsstandard? Maskininlärning kunde identifiera och förutsäga var blyrören var, så det minskade de faktiska reparationskostnaderna för staden. Men det var ett stort åtagande, och det var sällsynt. Och som vi vet har Flint fortfarande inte fått bort alla rör, så det finns politiska och sociala utmaningar också - maskininlärning kommer inte att lösa dem alla. Men förhoppningen är att vi utvecklar verktyg som stärker dessa samhällen och ger meningsfull förändring i deras liv. Det är vad jag tänker på när vi pratar om det vi bygger. Det är vad jag vill se.

Dölj