211service.com
Harvard-forskare vill lära kongressen om AI
Foto från Harvard Square Chensiyuan/Wikimedia commons
När Facebooks vd Mark Zuckerberg vittnade inför den amerikanska kongressen insåg teknikexperter snabbt hur dåligt informerade hans frågeställare var. Så mycket som kongressen ville reglera den tekniska giganten, var det tydligt att de inte hade någon aning om hur. Istället lät de honom komma undan med storslagna påståenden om hur AI skulle lösa alla företagets problem.
För Dipayan Ghosh, en forskare vid Harvard Kennedy School (HKS), underströk utfrågningen det trängande behovet av att få amerikanska beslutsfattare att uppdatera sig om stora tekniska frågor – och AI i synnerhet.
AI är en enorm teknik, men det finns verkligen framträdande problem som vi har sett ta sitt eget liv i samhället, säger Ghosh, som var teknisk rådgivare i Obama-administrationen. Vi måste informera människor i maktpositioner om hur dessa system faktiskt fungerar, så nästa gång de inleder en regleringsinsats kommer de inte att vara dåligt informerade.
Ghosh är medregissör på en nytt AI-politiskt initiativ , som lanserades idag, tillsammans med Tom Wheeler, en senior forskare vid HKS och ordförande för US Federal Communications Commission under Obama.
Finansierat av HKS Shorenstein Center för medier, politik och offentlig politik, kommer initiativet att fokusera på att utöka det juridiska och akademiska stipendiet kring AI-etik och reglering. Det kommer också att vara värd för ett startläger för amerikanska kongressmedlemmar för att hjälpa dem att lära sig mer om tekniken. Förhoppningen är att med dessa kombinerade ansträngningar kommer kongressen och andra beslutsfattare att vara bättre rustade för att effektivt reglera och ta hand om AIs växande inverkan på samhället.
Under det senaste året har en rad högprofilerade teknikskandaler gjort allt tydligare konsekvenserna av dåligt implementerad AI. Detta inkluderar användningen av maskininlärning för att sprida desinformation genom sociala medier och automatisering av partiska och diskriminerande metoder genom ansiktsigenkänning och andra automatiserade system.
I oktober, vid det årliga AI Now-symposiet, betonade teknologer, människorättsaktivister och juridiska experter upprepade gånger behovet av system för att hålla AI ansvariga.
Regeringen har den långa sikten, sa Sherrilyn Ifill, president och chefsjurist för NAACP Legal Defense Fund. De har på många sätt ansvaret att förmedla historia till företag och andra företag som utvecklar dessa teknologier.
Men regeringen saknar kunskap för att bära detta ansvar, säger Ghosh. Om du frågar en kongressmedlem om AI är en del av desinformationsproblemet kan de säga 'jag tror inte det' eller 'jag vet inte', säger han.
Som en del av initiativet bad Ghosh och Wheeler ungefär 30 ledande experter inom datavetenskap, filosofi, ekonomi och andra områden att väga in frågor som diskriminering, rättvisa, transparens och ansvarsskyldighet.
Dessa perspektiv kommer att publiceras under de följande månaderna, med början med tre denna vecka: Catherine Tucker, professor vid MIT Sloan School of Management, om det ekonomiska sammanhanget för algoritmisk fördom; M.C. Elish och Danah Boyd, forskningsledare och grundare av Data & Society Research Institute, respektive, om etiken kring när och hur man använder AI-system utan att förvärra befintlig orättvisa; och Joseph Turow, professor vid Annenberg School for Communication, om de diskriminerande konsekvenserna av hyperanpassad marknadsföring.
Initiativet kommer att vara värd för ett startläger i Washington, DC, nästa februari för medlemmar av kongressen och deras teknikpolitiska personal för att hjälpa till att översätta artiklarna till produktiva politiska diskussioner. Lägret kommer att utforska vad det innebär att designa AI etiskt och vilka reglerande åtgärder som kan vidtas för att mildra dess skada och främja dess fördelar.
Ghosh inser att det nuvarande politiska klimatet gör det svårt att anpassa båda parter mot något mål, men han hoppas att de kommer att hitta en gemensam grund om hur brådskande frågan är.