2020, låt oss sluta tvätta AI-etik och faktiskt göra något

AI etiska val Getty

Förra året, precis när jag började bevaka artificiell intelligens, fick AI-världen ett stort väckarklocka. Det gjordes några otroliga framsteg inom AI-forskningen under 2018 – från förstärkningsinlärning till generativa motstridiga nätverk (GAN) till bättre förståelse av naturliga språk. Men året såg också ut flera högprofilerade illustrationer av den skada som dessa system kan orsaka när de sätts i drift för hastigt.

En Tesla kraschade på autopilot , döda föraren, och en självkörande Uber kraschade , döda en fotgängare. Kommersiella system för ansiktsigenkänning fungerade fruktansvärt i revisioner på mörkhyade människor , men teknikjättar fortsatte att sälja dem ändå, till kunder inklusive brottsbekämpande myndigheter. I början av detta år, när jag reflekterade över dessa händelser, skrev jag en resolution för AI-gemenskapen: Sluta behandla AI som magi och ta ansvar för att skapa, tillämpa och reglera den etiskt.

På något sätt gick min önskan i uppfyllelse. Under 2019 pratades det mer om AI-etik än någonsin tidigare. Dussintals organisationer producerade AI-etiska riktlinjer; företag skyndade sig att etablera ansvarsfulla AI-team och paradera dem inför media. Det är svårt att delta i en AI-relaterad konferens längre utan att en del av programmeringen är dedikerad till ett etikrelaterat budskap: Hur skyddar vi människors integritet när AI behöver så mycket data? Hur stärker vi marginaliserade samhällen istället för att utnyttja dem? Hur fortsätter vi att lita på media inför algoritmiskt skapad och distribuerad desinformation?

Men prat är just det - det räcker inte. Trots all läpparnas bekännelse till dessa frågor är många organisationers etiska riktlinjer för AI fortfarande vaga och svåra att implementera. Få företag kan visa påtagliga förändringar i hur AI-produkter och tjänster utvärderas och godkänns. Vi hamnar i en fälla av etik-tvätt, där äkta handling ersätts av ytliga löften. I det mest akuta exemplet bildade Google en nominell AI-etikstyrelse utan någon egentlig vetorätt över tvivelaktiga projekt, och med ett par medlemmar vars inkludering väckte kontrovers. En motreaktion ledde omedelbart till dess upplösning.

Samtidigt har behovet av ett större etiskt ansvar bara blivit mer akut. Samma framsteg som gjordes i GAN 2018 har lett till spridningen av hyperrealistiska djupförfalskningar, som nu används för att rikta in sig på kvinnor och urholka människors tro på dokumentation och bevis. Nya rön har belyst den massiva klimatpåverkan av djupinlärning, men organisationer har fortsatt att träna allt större och mer energislukande modeller. Forskare och journalister har också avslöjat hur många människor är bakom den algoritmiska ridån. AI-branschen skapar en helt ny klass av dolda arbetare – innehållsmoderatorer, dataetiketterare, transkriberare – som sliter under ofta brutala förhållanden.

Men allt är inte mörkt och dystert: 2019 var året för största gräsrotsförmågan mot skadlig AI från samhällsgrupper, beslutsfattare och teknikanställda själva. Flera städer – inklusive San Francisco och Oakland, Kalifornien och Somerville, Massachusetts – förbjöd offentlig användning av ansiktsigenkänning, och föreslagen federal lagstiftning kan snart förbjuda det från amerikanska allmännyttiga bostäder också. Anställda hos teknikjättar som Microsoft, Google och Salesforce blev också allt mer uttalade mot deras företags användning av AI för att spåra migranter och för drönarövervakning.

Inom AI-gemenskapen fördubblade forskarna också för att mildra AI-bias och undersökte på nytt de incitament som leder till fältets skenande energiförbrukning. Företag investerade mer resurser i att skydda användarnas integritet och bekämpa djupförfalskningar och desinformation. Experter och beslutsfattare arbetade tillsammans för att föreslå genomtänkt ny lagstiftning som syftade till att tygla oavsiktliga konsekvenser utan att dämpa innovation. Vid den största årliga sammankomsten på området i år blev jag både berörd och överraskad över hur många av keynotes, workshops och affischer som fokuserade på verkliga problem – både de som skapats av AI och de som den kunde hjälpa till att lösa.

Så här är mitt hopp för 2020: att industrin och den akademiska världen upprätthåller detta momentum och gör konkreta bottom-up- och top-down-förändringar som anpassar AI-utvecklingen. Medan vi fortfarande har tid, bör vi inte tappa drömmen ur sikte. För årtionden sedan började människor strävan efter att bygga intelligenta maskiner så att de en dag kunde hjälpa oss att lösa några av våra tuffaste utmaningar.

AI, med andra ord, är tänkt att hjälpa mänskligheten att blomstra. Låt oss inte glömma.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.

Dölj