AI kan göras juridiskt ansvarig för sina beslut

Artificiell intelligens kommer att spela en betydligt större roll i samhället. Och det väcker frågan om ansvarighet. Om vi ​​förlitar oss på maskiner för att fatta allt viktigare beslut, kommer vi att behöva ha mekanismer för upprättelse om resultaten skulle visa sig vara oacceptabla eller svåra att förstå.

Men att få AI-system att förklara sina beslut är inte helt okomplicerat. Ett problem är att förklaringar inte är gratis; de kräver avsevärda resurser både i utvecklingen av AI-systemet och hur det i praktiken förhörs.

En annan oro är att förklaringar kan avslöja affärshemligheter genom att tvinga utvecklare att publicera AI-systemets inre funktioner. En fördel med dessa system är dessutom att de kan förstå komplexa data på sätt som inte är tillgängliga för människor. Så att göra deras förklaringar begripliga för människor kan kräva en minskning av prestanda.

Förklaringssystem måste vara åtskilda från AI-system, säger Harvard-teamet

Hur ska vi då göra AI ansvarig för sina beslut utan att kväva innovation?

Idag får vi ett slags svar tack vare Finale Doshi-Velez, Mason Kortz och andras arbete vid Harvard University i Cambridge, Massachusetts. Dessa personer är datavetare, kognitiva forskare och juridiska forskare som tillsammans har utforskat de juridiska frågor som AI-system väcker, identifierat nyckelproblem och föreslagit potentiella lösningar. Tillsammans är vi experter på förklaringar i lagen, på skapandet av AI-system och på förmågan och begränsningarna av mänskligt resonemang, säger de.

De börjar med att definiera förklaringar. När vi talar om en förklaring till ett beslut menar vi generellt skälen eller motiveringarna för just det utfallet, snarare än en beskrivning av beslutsprocessen i allmänhet, säger de.

Distinktionen är viktig. Doshi-Velez och co påpekar att det går att förklara hur ett AI-system fattar beslut på samma sätt som det går att förklara hur gravitationen fungerar eller hur man bakar en kaka. Detta görs genom att lägga ut de regler som systemet följer, utan att referera till något specifikt fallande föremål eller kaka.

Detta är rädslan för industrimän som vill hålla sina AI-system hemliga för att skydda sina kommersiella fördelar.

Men denna typ av transparens är inte nödvändig i många fall. Att förklara varför ett föremål föll i exempelvis en arbetsolycka kräver normalt inte en förklaring av gravitationen. Istället krävs vanligtvis förklaringar för att besvara frågor som dessa: Vilka var huvudfaktorerna i ett beslut? Skulle en förändring av en viss faktor ha ändrat beslutet? Varför ledde två liknande mål till olika beslut?

Att besvara dessa frågor kräver inte nödvändigtvis en detaljerad förklaring av hur ett AI-system fungerar.

Så när ska förklaringar ges? I huvudsak när nyttan överväger kostnaden. Vi finner att det finns tre villkor som kännetecknar situationer där samhället anser att en beslutsfattare är skyldig – moraliskt, socialt eller juridiskt – att ge en förklaring, säger Doshi-Velez och co.

Teamet säger att beslutet måste påverka en annan person än beslutsfattaren. Det måste finnas ett värde i att veta om beslutet är felaktigt. Och det måste finnas någon anledning att tro att ett fel har inträffat (eller kommer att inträffa) i beslutsprocessen.

Till exempel kan observatörer misstänka att ett beslut påverkades av någon irrelevant faktor, som att en kirurg vägrar att utföra en operation på grund av månens fas. Eller de kan misstro ett system om det fattade samma beslut under två helt olika uppsättningar av omständigheter. I så fall kan de misstänka att det inte har tagit hänsyn till en viktig faktor. En annan oro uppstår med beslut som verkar gynna en grupp orättvist, som när företagsledare fattar beslut som gynnar dem själva på bekostnad av deras aktieägare.

Det måste med andra ord finnas goda skäl att tycka att ett beslut är olämpligt innan man kräver en förklaring. Men det kan också finnas andra skäl att ge förklaringar, som att försöka öka förtroendet hos konsumenterna.

Så Doshi-Velez och co tittar på konkreta juridiska situationer där förklaringar krävs. De påpekar att rimliga sinnen kan och skiljer sig åt om det är moraliskt försvarbart eller socialt önskvärt att kräva en förklaring. Lagar å andra sidan är kodifierade, och även om man kan argumentera om en lag är korrekt, så vet vi åtminstone vad lagen är, säger de.

Enligt amerikansk lag krävs förklaringar i en mängd olika situationer och i olika detaljnivåer. Till exempel krävs förklaringar i fall av strikt ansvar, skilsmässa eller diskriminering; för administrativa beslut; och för domare och juryer. Men detaljnivån varierar enormt.

Allt detta har viktiga konsekvenser för AI-system. Doshi-Velez och co drar slutsatsen att juridiskt genomförbara förklaringar är möjliga för AI-system. Detta beror på att förklaringen till ett beslut kan göras separat från en beskrivning av dess inre funktion. Dessutom säger teamet att ett förklaringssystem bör anses vara skilt från AI-systemet.

Det är ett betydande resultat. Det betyder inte att tillfredsställande förklaringar alltid kommer att vara lätta att generera. Hur kan vi till exempel visa att ett säkerhetssystem som använder bilder av ett ansikte som input inte diskriminerar på grund av kön? Det är bara möjligt med ett alternativt ansikte som är lika på alla sätt utom för kön, säger teamet.

Men förklaringar till de beslut som AI-system fattar är i allmänhet möjliga. Och det leder laget till en tydlig slutsats. Vi rekommenderar att AI-system för närvarande kan och bör hållas till en liknande förklaringsstandard som människor för närvarande är, säger de.

Men vår användning och förståelse av AI kommer sannolikt att förändras på sätt som vi ännu inte förstår (och kanske aldrig kommer att göra). Av den anledningen kommer detta tillvägagångssätt att behöva ses över. I framtiden kanske vi vill hålla en AI till en annan standard, säger Doshi-Velez och co.

Ganska!

Ref: arxiv.org/abs/1711.01134 : Accountability of AI under the Law: The Role of Explanation

Dölj