211service.com
Fem sätt att göra AI till en större kraft för det goda 2021
En ballong är bunden till en metallvikt. En sax klipper av snöret som fixerar det på plats. Getty
För ett år sedan var ingen desto klokare på vad 2020 skulle ge, jag reflekteras på det avgörande ögonblicket som AI-gemenskapen befann sig i. Föregående år, 2018, hade en serie högprofilerade automatiserade misslyckanden, som t.ex. självkörande bilkrockar och diskriminerande rekryteringsverktyg . Under 2019 svarade fältet med mer prat om AI-etik än någonsin tidigare. Men prat, sa jag, räckte inte. Vi behövde vidta konkreta åtgärder. Två månader senare stängde coronaviruset ner världen.
I vår nya socialt distanserade verklighet som är avlägset med allt, kom dessa samtal om algoritmiska skador plötsligt till sin spets. System som hade varit i utkanten, typ HireVues ansiktsskanningsalgoritmer och verktyg för arbetsplatsövervakning , höll på att bli mainstream. Andra, gillar verktyg för att övervaka och utvärdera elever , snurrade upp i realtid. I augusti, efter ett spektakulärt misslyckande av den brittiska regeringen för att ersätta personliga tentor med en algoritm för universitetsantagning, samlades hundratals studenter i London för att skandera, Fuck the algoritm. Detta blir stridsropet 2020, twittrade AI-ansvarighetsforskaren Deb Raji, när en demonstrant från Stanford skrek det igen som svar på ett annat debacle några månader senare.
Samtidigt var det verkligen mer action. I en stor seger förbjöd eller avbröt Amazon, Microsoft och IBM sin försäljning av ansiktsigenkänning till brottsbekämpande myndigheter, efter att mordet på George Floyd stimulerade globala protester mot polisbrutalitet. Det var kulmen på två års kamp av forskare och medborgarrättsaktivister för att visa de ineffektiva och diskriminerande effekterna av företagens teknologier. En annan förändring var liten men ändå anmärkningsvärd: för första gången någonsin krävde NeurIPS, en av de mest framstående AI-forskningskonferenserna, forskarna att lämna ett etikutlåtande med sina papper.
Så här är vi i början av 2021, med mer offentlig och regulatorisk uppmärksamhet på AI:s inflytande än någonsin tidigare. Mitt nyårslöfte: Låt oss få det att räknas. Här är fem förhoppningar jag har för AI under det kommande året.
Minska företagens inflytande inom forskning
Teknikjättarna har oproportionerlig kontroll över riktningen för AI-forskning. Detta har flyttat riktningen för fältet som helhet mot allt mer big data och stora modeller, med flera konsekvenser. Det blåser upp klimatpåverkan av AI-framsteg, låser ut resursbegränsade laboratorier från att delta i fältet och leder till latare vetenskapliga undersökningar genom att ignorera mängden andra möjliga tillvägagångssätt. Som Googles avsättning av Timnit Gebru avslöjat , kommer teknikjättar lätt att begränsa möjligheten att undersöka andra konsekvenser också.
Men mycket av företagens inflytande handlar om pengar och bristen på alternativ finansiering. Som jag skrev förra året i min profil för OpenAI , försökte labbet initialt bara förlita sig på oberoende, rika givare. Satsningen visade sig ohållbar och fyra år senare tecknade OpenAI ett investeringsavtal med Microsoft. Min förhoppning är att vi kommer att se fler regeringar gå in i detta tomrum för att tillhandahålla icke-försvarsrelaterade finansieringsalternativ för forskare. Det kommer inte att vara en perfekt lösning, men det kommer att vara en början. Regeringar är skyldiga till allmänheten, inte slutresultatet.
Fokusera om på sunt förnuft
Den överväldigande uppmärksamheten på större och dåligare modeller har överskuggat ett av de centrala målen för AI-forskning: att skapa intelligenta maskiner som inte bara matchar mönster utan faktiskt förstår innebörden. Även om företagens inflytande är en stor bidragande orsak till denna trend, finns det också andra bovar. Forskningskonferenser och peer-review-publikationer lägger stor vikt vid att uppnå toppmoderna resultat. Men den senaste tekniken är det ofta dåligt mätt med tester som kan slås med mer data och större modeller.
Relaterad berättelse
Vi läste tidningen som tvingade bort Timnit Gebru från Google. Så här står det. Företagets stjärna etikforskare lyfte fram riskerna med stora språkmodeller, som är nyckeln till Googles verksamhet.
Det är inte så att storskaliga modeller aldrig skulle kunna nå sunt förnuft. Det är fortfarande en öppen fråga. Men det finns andra forskningsvägar som förtjänar större investeringar. Vissa experter har lagt sina satsningar på neurosymbolisk AI , som kombinerar djupt lärande med symboliska kunskapssystem. Andra experimenterar med mer probabilistiska tekniker som använder mycket mindre data, inspirerade av ett mänskligt barns förmåga att lära sig från väldigt få exempel.
År 2021 hoppas jag att fältet kommer att anpassa sina incitament till att prioritera förståelse framför förutsägelse. Detta skulle inte bara kunna leda till mer tekniskt robusta system, utan förbättringarna skulle också få stora sociala konsekvenser. Mottagligheten hos nuvarande djupinlärningssystem för att bli lurad undergräver till exempel säkerheten för självkörande bilar och utgör farliga möjligheter för autonoma vapen . Systemens oförmåga att skilja mellan korrelation och orsakssamband är också roten till algoritmisk diskriminering .
Styrka marginaliserade forskare
Om algoritmer kodar sina skapares värderingar och perspektiv bör ett brett snitt av mänskligheten finnas vid bordet när de utvecklas. Jag såg inga bättre bevis på detta än i december 2019, när jag gick på NeurIPS. Det året, med ett rekordstort antal kvinnor och minoritetstalare och deltagare, kunde jag känna innehållet i förfarandet påtagligt skifta . Det var fler samtal än någonsin som brottades med AI:s inflytande på samhället.
Vid den tiden hyllade jag samhället för dess framsteg. Men Googles behandling av Gebru , en av de få framstående svarta kvinnorna i industrin, visade hur långt det fortfarande är att gå. Mångfald i antal är meningslös om dessa individer inte har befogenhet att ta med sin levda erfarenhet i sitt arbete. Jag är dock optimistisk att tidvattnet håller på att förändras. Flampunkten som präglades av Gebrus eldning förvandlades till ett kritiskt ögonblick av reflektion för branschen. Jag hoppas att detta momentum leder till långvarig, systemisk förändring.
Centrera perspektiven för påverkade samhällen
Det finns också en annan grupp att ta med till bordet. En av de mest spännande trenderna från förra året var uppkomsten av deltagande maskininlärning . Det är en provokation att återuppfinna processen för AI-utveckling för att inkludera de som i slutändan blir föremål för algoritmerna.
I juli, den första konferensworkshopen dedikerade till detta tillvägagångssätt samlade ett brett utbud av idéer om hur det skulle kunna se ut. Förslagen inkluderade nya styrningsprocedurer för att be om feedback från samhället; nya metoder för modellrevision för att informera och engagera allmänheten; och föreslagna omdesigner av AI-system för att ge användarna mer kontroll över sina inställningar.
Min förhoppning för 2021 är att se fler av dessa idéer utforskas och antas på allvar. Facebook har redan börjat: om det följer upp med att tillåta sin externa tillsynsstyrelse att göra bindande ändringar av plattformens policy för innehållsmoderering, kan styrningsstrukturen bli en återkopplingsmekanism värd att emulera.
Kodifiera skyddsräcken till förordning
Hittills har gräsrotsinsatser lett till att rörelsen minskar algoritmiska skador och håller tekniska jättar ansvariga. Men det blir upp till nationella och internationella tillsynsmyndigheter att sätta upp fler permanenta skyddsräcken. Den goda nyheten är att lagstiftare runt om i världen har tittat på och håller på att utarbeta lagstiftning. I USA har kongressmedlemmar redan gjort det infördes räkningar för att ta itu med ansiktsigenkänning, AI-bias och deepfakes. Flera av dem också skickade ett brev till Google i december och uttryckte sin avsikt att fortsätta följa denna förordning.
Så mitt sista hopp för 2021 är att vi får se några av dessa lagförslag gå igenom. Det är dags att vi kodifierar vad vi har lärt oss under de senaste åren och går bort från fiktionen om självreglering.