Kongressen vill ha svar från Google om Timnit Gebrus avsked

yvette clarke

Representant Yvette Clarke Foto från AP/Kathy Willens





Nio medlemmar av den amerikanska kongressen har skickat ett brev till Google där de ber den att klargöra omständigheterna kring dess tidigare etiska AI-medledare Timnit Gebrus påtvingade avgång. Leds av representanten Yvette Clarke och senator Ron Wyden, och medundertecknad av senatorerna Elizabeth Warren och Cory Booker, brevet sänder en viktig signal om hur kongressen granskar teknikjättar och tänker på kommande reglering.

Gebru, en ledande röst inom AI-etik och en av en liten handfull svarta kvinnor på Google, var utan ceremoniell avsked för två veckor sedan, efter en utdragen oenighet om en forskningsartikel. Pappret detaljerade riskerna med stora AI-språkmodeller tränat på enorma mängder textdata, som är en kärnlinje i Googles forskning, som driver olika produkter inklusive dess lukrativa Google-sökning.



Med hänvisning till MIT Technology Reviews täckning tar brevet upp tre frågor: potentialen för partiskhet i stora språkmodeller, det växande företagens inflytande över AI-forskning och Googles brist på mångfald. Den ber Googles vd Sundar Pichai om en konkret plan för hur den kommer att ta itu med var och en av dessa, såväl som för dess nuvarande policy för granskning av forskning och detaljer om dess pågående utredning av Gebrus exit (Pichai har åtagit sig denna utredning i ett internt memo , först publicerad av Axios). Eftersom kongressmedlemmar aktivt försöker förbättra AI-forskning, ansvarsskyldighet och mångfald genom lagstiftning och tillsyn, ber vi respektfullt din begäran till följande förfrågningar, står det i brevet.

I april 2019 presenterade Clarke och Wyden ett lagförslag, Algorithmic Accountability Act , som skulle kräva att stora företag granskar sina maskininlärningssystem för partiskhet och vidtar korrigerande åtgärder i tid om sådana problem skulle identifieras. Det skulle också kräva att dessa företag granskar alla processer som involverar känslig data – inklusive personligt identifierbar, biometrisk och genetisk information – för integritets- och säkerhetsrisker. Vid den tiden berömde många juridiska och tekniska experter lagförslaget för dess nyanserade förståelse för AI och datadriven teknik. Bra första steg, skrev Andrew Selbst, biträdande professor vid University California Los Angeles School of Law, på Twitter. Skulle kräva dokumentation, bedömning och försök att hantera förutsedda effekter. Det är nytt, spännande och otroligt nödvändigt.

Relaterad berättelse

Vi läste tidningen som tvingade bort Timnit Gebru från Google. Så här står det.

Företagets stjärna etikforskare lyfte fram riskerna med stora språkmodeller, som är nyckeln till Googles verksamhet.



Det senaste brevet är inte direkt kopplat till lagen om algoritmisk ansvarighet, men det är en del av samma satsning från vissa kongressmedlemmar för att skapa lagstiftning som skulle mildra AI-bias och andra skador av datadrivna, automatiserade system. Särskilt kommer det mitt i ett ökande tryck för antitrustreglering. Tidigare denna månad, US Federal Trade Commission lämnade in en antitrust-process mot Facebook för dess konkurrensbegränsande beteende och orättvisa konkurrensmetoder. Under sommaren publicerade House Democrats en 449-sidig rapport om Big Techs monopolistiska metoder.

Brevet kommer också i samband med stigande geopolitiska spänningar. När relationerna mellan USA och Kina har nått en rekordlåga nivå under pandemin, har amerikanska tjänstemän understrukit den strategiska betydelsen av framväxande teknologier som AI och 5G. Brevet lyfter också denna dimension och erkänner Googles ledarskap inom AI och dess roll i att upprätthålla USA:s ledarskap. Men det klargör att detta inte bör underskrida regleringsåtgärder, ett argument populariserad av Facebooks vd Mark Zuckerberg . För att säkerställa att Amerika vinner AI-racet, säger brevet, måste amerikanska teknikföretag inte bara leda världen inom innovation; de måste också säkerställa att sådan innovation återspeglar vår nations värderingar.

Vårt brev bör göra alla inom tekniksektorn, inte bara Google, uppmärksamma på att vi uppmärksammar, sa Clarke i ett uttalande till MIT Technology Review. Etisk AI är slagfältet för framtiden för medborgerliga rättigheter. Vår oro över den senaste utvecklingen handlar inte bara om en person; de handlar om hur det 21:a århundradet kommer att se ut om akademisk frihet och inkludering går tillbaka till andra prioriteringar. Vi kan inte mildra algoritmiska fördomar om vi hindrar dem som försöker forska och studera det.



Dölj