Vad kan AI-experter lära sig av buddhismen? Ett nytt förhållningssätt till maskininlärningsetik syftar till att ta reda på det

Kategori: Artificiell intelligens Postad 15 dec

Snabba framsteg inom AI har gett upphov till ett antal nya initiativ som syftar till att övertyga ingenjörer, programmerare och andra att prioritera etiska överväganden i sitt arbete – men nästan alla har sitt ursprung i rika västländer. En insats från den enorma ingenjörsföreningen IEEE försöker nu ändra på det, med sitt eget AI-etiska förslag som den säger kommer att vara ett globalt, flerspråkigt samarbete.

Bara under de senaste två åren har en rad nya ansträngningar för att utforska etik inom AI lanserats, inklusive den Elon Musk-stödda ideella OpenAI , företagsalliansen Partnership on AI , Carnegie Mellon Universitys AI-etikforskningscenter och Ethics & Society-forskningen enhet på Googles AI-dotterbolag DeepMind.

Men de flesta av dessa projekt är baserade i USA eller Storbritannien, leds av en liten grupp forskare och utfärdar endast uppdateringar på engelska, vilket kan begränsa deras förmåga att främja AI som gynnar hela mänskligheten, inte bara de i utvecklade länder.

Sedan 2016 har en grupp som heter IEEE globalt initiativ för etiska överväganden i artificiell intelligens och autonoma system har skrivit ett dokument som heter Ethically Aligned Design som rekommenderar samhälleliga och policyriktlinjer för teknologier som chatbots och hemrobotar. Denna vecka presenterade gruppen en uppdaterad version av dokumentet som integrerar feedback från människor i Östasien, Latinamerika, Mellanöstern och andra regioner.

Många av dessa kommentarer kom från medlemmar som initiativet rekryterats från Brasilien, Kina, Iran, Israel, Japan, Korea, Mexiko, Ryska federationen och Thailand i år. Gruppen uppgår nu till cirka 250 personer över hela världen och fortsätter att växa, enligt ordförande i ledningsgruppen Raja Chatila.

Dessa internationella medlemmar översatte delar av dokumentet till sina modersmål så att det kunde cirkuleras brett inom deras länder, och de lämnade in rapporter om tillståndet för AI-etiken i sina regioner till initiativets verkställande kommitté.

För att ytterligare diversifiera synpunkterna skapade initiativet en klassisk etisk kommitté för att identifiera icke-västerländska värdesystem, såsom buddhism eller konfucianism, som skulle kunna införlivas i dokumentets etiska riktlinjer. Gruppen begärde också feedback från uppsökande organisationer, som AI4All , som lär kvinnor och färgade personer om AI.

Det är ännu inte klart hur initiativet kommer att smälta samman dessa olika traditioner och synpunkter – den slutliga versionen kommer inte att publiceras förrän 2019 – men gruppen har några preliminära idéer. Att citera den buddhistiska tron ​​att ingenting existerar isolerat kan påminna AI-designers om att de bär ansvaret för de system de skapar, till exempel. På samma sätt skulle lära utvecklare om den filosofiska traditionen söder om Sahara Ubuntu, som betonar värdet av gemenskap, få dem att arbeta nära både med etiker och målgruppen för att se om deras behov identifieras och tillgodoses, enligt den senaste versionen av dokumentera.

Trots sin allvar finns det ingen garanti för att satsningen kommer att ge resultat. Liksom andra AI-etiska riktlinjer på gång, ger Ethically Aligned Design bara rekommendationer; det har inget sätt att genomdriva sina förslag. Men en växande medvetenhet om hur AI kan diskriminera användare om designers inte tar hänsyn till mångfald – och ökande konsumentkrav på ansvarighet – pekar på värdet av att tänka globalt när de formulerar etiska principer för AI.