Om AI ska hjälpa oss i en kris behöver vi en ny typ av etik

Ms Tech | Pixabay

Jess Whittlestone vid Leverhulme Center for the Future of Intelligence vid University of Cambridge och hennes kollegor publicerade en kommentarsstycke i Nature Machine Intelligence denna vecka och hävdade att om artificiell intelligens kommer att hjälp i en kris , vi behöver ett nytt, snabbare sätt att göra AI-etik, som de kallar etik för brådskande.

JESS WHITTLESTONE

För Whittlestone innebär detta att förutse problem innan de inträffar, att hitta bättre sätt att bygga in säkerhet och tillförlitlighet i AI-system och att betona teknisk expertis på alla nivåer av teknikens utveckling och användning. Kärnan i dessa rekommendationer är tanken att etik helt enkelt måste bli en del av hur AI görs och används, snarare än ett tillägg eller eftertanke.

I slutändan kommer AI att vara snabbare att distribuera när det behövs om det görs med inbyggd etik, hävdar hon. Jag bad henne tala om för mig vad det här betyder.

Denna intervju har redigerats för längd och tydlighet.

Varför behöver vi en ny typ av etik för AI?

Med den här pandemin är vi plötsligt i en situation där folk verkligen pratar om huruvida AI kan vara användbart, om det kan rädda liv. Men krisen har gjort det klart att vi inte har tillräckligt robusta etiska rutiner för att AI ska kunna distribueras säkert, och absolut inte sådana som kan implementeras snabbt.

Vad är det för fel på den etik vi har?

Jag tillbringade de senaste åren med att granska AI-etiska initiativ, titta på deras begränsningar och fråga vad vi mer behöver. Jämfört med något som biomedicinsk etik är den etik vi har för AI inte särskilt praktisk. Den fokuserar för mycket på principer på hög nivå. Vi kan alla vara överens om att AI ska användas för gott. Men vad betyder det egentligen? Och vad händer när principer på hög nivå hamnar i konflikt?

Till exempel har AI potential att rädda liv men detta kan komma på bekostnad av medborgerliga friheter som integritet. Hur hanterar vi dessa avvägningar på ett sätt som är acceptabla för många olika människor? Vi har inte kommit på hur vi ska hantera de oundvikliga meningsskiljaktigheterna.

AI-etik tenderar också att reagera på befintliga problem snarare än att förutse nya. De flesta av de frågor som folk diskuterar i dag kring algoritmisk fördom uppstod först när uppmärksammade saker gick fel, som t.ex. polisarbete och beslut om villkorlig frigivning.

Men etiken måste vara proaktiv och förbereda sig för vad som kan gå fel, inte vad som redan har gått fel. Självklart kan vi inte förutse framtiden. Men när dessa system blir kraftfullare och används i fler höginsatsdomäner, kommer riskerna att bli större.

Vilka möjligheter har vi missat genom att inte ha dessa rutiner på plats?

Det är lätt att överhypa vad som är möjligt, och AI kommer förmodligen aldrig att spela en stor roll i den här krisen. Maskininlärningssystem är inte tillräckligt mogna.

Men det finns en handfull fall där AI testas för medicinsk diagnos eller för resursallokering mellan sjukhus. Vi kanske hade kunnat använda den här typen av system mer allmänt, vilket minskat en del av belastningen på hälso- och sjukvården, om de hade utformats från början med etik i åtanke.

Speciellt med resursfördelning bestämmer du vilka patienter som är högst prioriterade. Du behöver ett inbyggt etiskt ramverk innan du använder AI för att hjälpa till med den typen av beslut.

Så är etik för brådskande bara en uppmaning att göra befintlig AI-etik bättre?

Det är en del av det. Det faktum att vi inte har robusta, praktiska processer för AI-etik gör det svårare i ett krisscenario. Men i tider som denna har man också ett större behov av transparens. Man pratar mycket om bristen på transparens med maskininlärningssystem som svarta lådor. Men det finns en annan typ av transparens, när det gäller hur systemen används.

Detta är särskilt viktigt i en kris, när regeringar och organisationer fattar brådskande beslut som innebär avvägningar. Vems hälsa prioriterar du? Hur räddar man liv utan att förstöra ekonomin? Om en AI används i offentligt beslutsfattande är transparens viktigare än någonsin.

Vad behöver förändras?

Vi måste tänka på etik annorlunda. Det borde inte vara något som händer på sidan eller efteråt – något som saktar ner dig. Det borde helt enkelt vara en del av hur vi bygger dessa system i första hand: ethics by design.

Jag känner ibland att etik är fel ord. Det vi säger är att maskinlärande forskare och ingenjörer måste utbildas för att tänka igenom konsekvenserna av det de bygger, oavsett om de gör grundforskning som att designa en ny förstärkningsinlärningsalgoritm eller något mer praktiskt som att utveckla en sjukvårdsansökan. Om deras arbete hittar sin väg till verkliga produkter och tjänster, hur kan det se ut? Vilka typer av frågor kan det väcka?

En del av detta har redan börjat. Vi arbetar med några forskare inom AI i tidiga karriärer och pratar med dem om hur de kan föra in detta sätt att tänka i deras arbete. Det är lite av ett experiment, för att se vad som händer. Men även NeurIPS [en ledande AI-konferens] ber nu forskare att inkludera ett uttalande i slutet av sina uppsatser som beskriver potentiella samhälleliga effekter av deras arbete.

Du har sagt att vi behöver personer med teknisk expertis på alla nivåer av AI-design och användning. Varför är det så?

Jag säger inte att teknisk expertis är det viktigaste av etiken, men det är ett perspektiv som måste representeras. Och jag vill inte låta som att jag säger att allt ansvar ligger på forskarna, eftersom många av de viktiga besluten om hur AI används tas längre upp i kedjan, av industrin eller av regeringar.

Men jag oroar mig för att de som fattar dessa beslut inte alltid helt förstår hur det kan gå fel. Så du måste involvera personer med teknisk expertis. Våra intuitioner om vad AI kan och inte kan göra är inte särskilt tillförlitliga.

Vad du behöver på alla nivåer av AI-utveckling är människor som verkligen förstår detaljerna i maskininlärning för att arbeta med människor som verkligen förstår etik. Tvärvetenskapligt samarbete är dock svårt. Människor med olika kompetensområden pratar ofta om saker på olika sätt. Vad en maskinlärande forskare menar med integritet kan skilja sig mycket från vad en advokat menar med integritet, och du kan sluta med att folk pratar förbi varandra. Det är därför det är viktigt för dessa olika grupper att vänja sig vid att arbeta tillsammans.

Du trycker på för en ganska stor institutionell och kulturell översyn. Vad får dig att tro att folk kommer att vilja göra det här snarare än att inrätta etiska styrelser eller tillsynskommittéer – vilket alltid får mig att sucka lite eftersom de tenderar att vara tandlösa?

Ja, jag suckar också. Men jag tror att den här krisen tvingar människor att se vikten av praktiska lösningar. Kanske istället för att säga, Åh, låt oss ha den här tillsynsnämnden och den tillsynsnämnden, kommer folk att säga: Vi måste få det här gjort, och vi måste få det gjort ordentligt.

Dölj