211service.com
Kongressen vill skydda dig från partiska algoritmer, deepfakes och annan dålig AI
Simone Nironha
Förra onsdagen införde amerikanska lagstiftare en ny räkning som representerar en av landets första stora ansträngningar för att reglera AI. Det lär komma fler.
Det antyder en dramatisk förändring i Washingtons hållning mot en av detta århundrades mest kraftfulla teknologier. För bara några år sedan hade beslutsfattare liten benägenhet att reglera AI. Nu, när konsekvenserna av att inte göra det blir allt mer påtagliga, för en liten kontingent i kongressen fram en bredare strategi för att tygla tekniken.
Även om USA inte är ensamma i denna strävan – Storbritannien, Frankrike , Australien och andra har alla nyligen utarbetat eller antagit lagstiftning för att hålla teknikföretag ansvariga för sina algoritmer – landet har en unik möjlighet att forma AI:s globala inverkan som Silicon Valleys hem. En fråga i Europa är att vi inte är föregångare när det gäller utvecklingen av AI, säger Bendert Zevenbergen, tidigare teknikpolitisk rådgivare i Europaparlamentet och nu forskare vid Princeton University. Vi är typ mottagare av AI-teknik på många sätt. Vi är definitivt den andra nivån. Den första nivån är USA och Kina.
Det nya lagförslaget, kallat Algorithmic Accountability Act, skulle kräva att stora företag granskar sina maskininlärningssystem för partiskhet och diskriminering och vidtar korrigerande åtgärder i tid om sådana problem skulle identifieras. Det skulle också kräva att dessa företag granskar inte bara maskininlärning utan alla processer som involverar känslig data – inklusive personligt identifierbar, biometrisk och genetisk information – för integritets- och säkerhetsrisker. Skulle det gå igenom skulle lagförslaget lägga reglerande makt i händerna på USA:s Federal Trade Commission, den myndighet som ansvarar för konsumentskydd och antitrustreglering.
Lagförslaget är den första produkten av många månaders diskussion mellan lagstiftare, forskare och andra experter för att skydda konsumenter från de negativa effekterna av AI, säger Mutale Nkonde, en forskare vid Data & Society Research Institute som var involverad i processen. Det kommer som svar på flera uppmärksammade avslöjanden det senaste året som har visat den långtgående skada algoritmisk fördom kan ha i många sammanhang. Dessa inkluderar Amazons internt anställningsverktyg som straffade kvinnliga kandidater; kommersiella plattformar för ansiktsanalys och igenkänning som är mycket mindre exakta för mörkhyade kvinnor än ljusare män; och, mest nyligen, en rekommendationsalgoritm för Facebook-annonser som sannolikt upprätthåller diskriminering på arbetsmarknaden och boende oavsett annonsörens specificerade målgrupp.
Relaterad berättelse
Relaterad berättelse Bias kan smyga sig in i många stadier av djupinlärningsprocessen, och standardpraxis inom datavetenskap är inte utformade för att upptäcka det.Lagförslaget har redan hyllats av medlemmar i AI-etik- och forskningssamfundet som ett viktigt och genomtänkt steg mot att skydda människor från sådana oavsiktliga olika effekter. Bra första steg, skrev Andrew Selbst, en teknologi- och juridisk forskare vid Data & Society, vidare Twitter . Skulle kräva dokumentation, bedömning och försök att hantera förutsedda effekter. Det är nytt, spännande och otroligt nödvändigt.
Det kommer inte heller att vara det enda steget. Förslaget, säger Nkonde, är en del av en större strategi för att få tillsyn över alla AI-processer och produkter i framtiden. Det kommer sannolikt snart att läggas ett nytt lagförslag för att ta itu med spridningen av desinformation, inklusive deepfakes, som ett hot mot den nationella säkerheten, säger hon. En annan räkning som infördes på tisdagen skulle förbjuda manipulativ designpraxis som teknikjättar ibland använder för att få konsumenter att ge upp sin data. Det är en mångsidig attack, säger Nkonde.
Varje lagförslag är avsiktligt expansivt och omfattar olika AI-produkter och dataprocesser inom en mängd olika domäner. En av utmaningarna som Washington har brottats med är att en teknik som ansiktsigenkänning kan användas för drastiskt olika syften mellan branscher , såsom brottsbekämpning, bilar och till och med detaljhandel. Ur en regulatorisk synvinkel är våra produkter branschspecifika, säger Nkonde. De tillsynsmyndigheter som tittar på bilar är inte samma tillsynsmyndigheter som tittar på offentlig entreprenad, som inte är samma tillsynsmyndigheter som tittar på apparater.
Kongressen försöker vara fundersam över hur man omarbetar det traditionella regelverket för att tillgodose denna nya verklighet. Men det blir knepigt att göra det utan att påtvinga olika sammanhang en lösning som passar alla. Eftersom ansiktsigenkänning används för så många olika saker, kommer det att vara svårt att säga: 'Det här är reglerna för ansiktsigenkänning', säger Zevenbergen.
Nkonde förutser att denna regleringsrörelse så småningom kommer att ge upphov till ett nytt kontor eller en byrå som är specifikt inriktad på avancerad teknik. Det kommer dock att finnas stora hinder på vägen. Medan skydd mot desinformation och manipulativ datainsamling har fått bipartisan stöd, sponsras den algoritmiska ansvarighetsförslaget av tre demokrater, vilket gör det mindre sannolikt att det antas av en republikanskt kontrollerad senat och undertecknas av president Trump. Dessutom har för närvarande endast en handfull kongressmedlemmar ett tillräckligt djupt tekniskt grepp om data och maskininlärning för att närma sig reglering på ett lämpligt nyanserat sätt. De här idéerna och förslagen är en slags nisch just nu, säger Nkonde. Du har dessa tre eller fyra medlemmar som förstår dem.
Men hon är fortfarande optimistisk. En del av strategin framåt inkluderar att utbilda fler medlemmar om frågorna och ta med dem. När du utbildar dem om vad dessa räkningar innehåller och när räkningarna får medsponsorer, kommer de att flytta mer och mer in i centrum tills reglering av teknikindustrin är en no-brainer, säger hon.
Den här historien dök ursprungligen upp i vårt Webby-nominerade AI-nyhetsbrev The Algorithm. För att få det direkt levererat till din inkorg, registrera dig här gratis.