211service.com
Att ge algoritmer en känsla av osäkerhet kan göra dem mer etiska
Algoritmer är bäst på att sträva efter ett enda matematiskt mål - men människor vill ofta ha flera inkompatibla saker. 18 januari 2019
Ms. Tech
Algoritmer används allt mer för att fatta etiska beslut. Det kanske bästa exemplet på detta är ett högteknologiskt grepp om det etiska dilemmat som kallas vagnproblemet: om en självkörande bil inte kan stoppa sig själv från att döda en av två fotgängare, hur ska bilens kontrollmjukvara välja vem som ska leva och vem som dör ?
I verkligheten är denna gåta inte en särskilt realistisk skildring av hur självkörande bilar beter sig. Men många andra system som redan är här eller inte långt borta kommer att behöva göra alla möjliga verkliga etiska avvägningar. Bedömningsverktyg som för närvarande används i det straffrättsliga systemet måste beakta risker för samhället mot skada på enskilda åtalade; autonoma vapen kommer att behöva väga soldaternas liv mot civilas liv.
Problemet är att algoritmer aldrig designades för att hantera så svåra val. De är byggda för att eftersträva ett enda matematiskt mål, som att maximera antalet räddade soldaters liv eller minimera antalet civila dödsfall. När du börjar ta itu med flera, ofta konkurrerande, mål eller försöker redogöra för immateriella saker som frihet och välbefinnande, finns det inte alltid en tillfredsställande matematisk lösning.
Vi som människor vill ha flera inkompatibla saker, säger Peter Eckersley, forskningschef för Partnership on AI, som nyligen släppte en papper som utforskar denna fråga. Det finns många situationer med hög insats där det faktiskt är olämpligt – kanske farligt – att programmera i en enda objektiv funktion som försöker beskriva din etik.
Dessa lösningslösa dilemman är inte specifika för algoritmer. Etiker har studerat dem i decennier och hänvisar till dem som omöjlighetsteorem. Så när Eckersley först upptäckte deras tillämpningar för artificiell intelligens, lånade han en idé direkt från etikområdet för att föreslå en lösning: tänk om vi byggde in osäkerhet i våra algoritmer?
Vi fattar beslut som människor på ganska osäkra sätt mycket av tiden, säger han. Vårt beteende som moraliska varelser är fullt av osäkerhet. Men när vi försöker ta det etiska beteendet och tillämpa det i AI, tenderar det att bli konkretiserat och gjort mer exakt. Istället, föreslår Eckersley, varför inte uttryckligen utforma våra algoritmer för att vara osäkra på vad som är rätt att göra?
Eckersley lägger fram två möjliga tekniker för att uttrycka denna idé matematiskt. Han börjar med premissen att algoritmer vanligtvis är programmerade med tydliga regler om mänskliga preferenser. Vi måste till exempel säga att vi definitivt föredrar vänliga soldater framför vänliga civila, och vänliga civila framför fiendens soldater – även om vi faktiskt inte var säkra eller inte trodde att det alltid borde vara fallet. Algoritmens design lämnar lite utrymme för osäkerhet.
Den första tekniken, känd som partiell ordning, börjar introducera bara den minsta osäkerhet. Du kan programmera algoritmen att föredra vänliga soldater framför fiendens soldater och vänliga civila framför fiendens soldater, men du skulle inte ange en preferens mellan vänliga soldater och vänliga civila.
I den andra tekniken, känd som osäker ordning, har du flera listor med absoluta preferenser, men var och en har en sannolikhet kopplad till den. Tre fjärdedelar av tiden kanske du föredrar vänliga soldater framför vänliga civila framför fiendens soldater. En fjärdedel av tiden kanske du föredrar vänliga civila framför vänliga soldater framför fiendens soldater.
Algoritmen skulle kunna hantera denna osäkerhet genom att beräkna flera lösningar och sedan ge människor en meny med alternativ med deras tillhörande kompromisser, säger Eckersley. Säg att AI-systemet var tänkt att hjälpa till att fatta medicinska beslut. Istället för att rekommendera en behandling framför en annan kan den presentera tre möjliga alternativ: ett för att maximera patientens livslängd, ett annat för att minimera patientens lidande och ett tredje för att minimera kostnaderna. Låt systemet vara uttryckligen osäkert, säger han, och lämna tillbaka dilemmat till människorna.
Carla Gomes, professor i datavetenskap vid Cornell University, har experimenterat med liknande tekniker i sitt arbete. I ett projekt har hon utvecklat ett automatiserat system för att utvärdera effekterna av nya vattenkraftsdammprojekt i Amazonas flodbassäng. Dammarna ger en källa till ren energi. Men de förändrar också djupt delar av floden och stör vilda ekosystem.
Det här är ett helt annat scenario än autonoma bilar eller andra [vanligtvis refererade etiska dilemman], men det är en annan miljö där dessa problem är verkliga, säger hon. Det finns två motstridiga mål, så vad ska du göra?
Det övergripande problemet är mycket komplext, tillägger hon. Det kommer att krävas en hel del forskning för att ta itu med alla frågor, men Peters tillvägagångssätt tar ett viktigt steg i rätt riktning.
Det är ett problem som bara kommer att växa med vårt beroende av algoritmiska system. Fler och fler, komplicerade system kräver att AI är ansvarig, säger Roman V. Yampolskiy, docent i datavetenskap vid University of Louisville. Ingen enskild person kan förstå komplexiteten i, du vet, hela aktiemarknaden eller militära svarssystem. Så vi har inget annat val än att ge upp en del av vår kontroll till maskiner.
En tidigare version av den här historien dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få den direkt levererad till din inkorg, prenumerera här gratis.