En ledande AI-etikforskare säger att hon har fått sparken från Google

Timnit Gebru

Kimberly White / Stringer





Den 2 december blev AI-forskaren chockad när de fick reda på att Timnit Gebru hade fått sparken från sitt inlägg på Google. Gebru, en av de ledande rösterna inom ansvarsfull AI-forskning, är bland annat känd för att vara medförfattare till banbrytande arbete som avslöjade diskriminerande karaktär av ansiktsigenkänning , var med och grundade Black in AI-affinitetsgruppen, och obevekligt förespråkar mångfald inom teknikindustrin .

Men på onsdagskvällen meddelade hon på Twitter att hon hade sagts upp från sin position som Googles etiska AI-medledare. Tydligen skickade min chefs chef ett e-postmeddelande [till] mina direktrapporter och sa att hon accepterade min uppsägning. Jag hade inte sagt upp mig, sa hon.

I en intervju med Bloomberg på torsdagen berättade Gebru att eldningen skedde efter ett utdraget slagsmål med hennes överordnade om publiceringen av en forskningsartikel om AI-etik. En av Gebrus tweets och en senare intern e-post från Jeff Dean, chef för Google AI, tyder på att tidningen var kritisk till miljökostnaderna och inbäddade fördomar hos stora språkmodeller.



Gebru, som hade skrivit uppsatsen tillsammans med fyra Google-kollegor och två externa medarbetare, hade lämnat in den till en forskningskonferens som hölls nästa år. Efter en intern granskning ombads hon att dra tillbaka tidningen eller ta bort namnen på Googles anställda. Hon svarade att hon skulle göra det om hennes överordnade uppfyllde en rad villkor. Om de inte kunde, skulle hon göra det jobba på en sista dejt , Hon sa.

Hon skickade också en frustrerad mejl till en intern listserv, Google Brain Women and Allies, som beskriver de upprepade svårigheterna hon hade upplevt som svart kvinnlig forskare. Vi hade precis en Black research alla händer med en sådan känslomässig uppvisning av förbittring, skrev hon. Vet du vad som hänt sedan dess? Tysta på ett så fundamentalt sätt som möjligt.

Gebru åkte sedan på semester och fick ett uppsägningsmeddelande från Megan Kacholia, VP of engineering på Google Research, innan hon återvände. Tack för att du klargjorde dina villkor, mejlet stod , som Gebru twittrade. Vi kan inte godkänna #1 och #2 som du begär. Vi respekterar ditt beslut att lämna Google till följd av detta, och vi accepterar din avgång. Hennes e-postmeddelande till listserv var oförenligt med förväntningarna hos en Google-chef, fortsatte det. Som ett resultat av detta accepterar vi din uppsägning omedelbart, med verkan idag.

På torsdagsmorgonen, efter ett utgjutande av stöd för Gebru på sociala medier, skickade Dean ett intern e-post till Googles AI-grupp med sin redogörelse för situationen. Han sa att Gebrus tidning inte uppfyllde vårt krav för publicering eftersom det ignorerade för mycket relevant forskning. Han sa också att Gebrus villkor inkluderade att avslöja identiteten på varje person som Megan och jag hade pratat med och konsulterat som en del av granskningen av tidningen och den exakta feedbacken.



Med tanke på Timnits roll som en respekterad forskare och chef i vårt etiska AI-team, mår jag dåligt över att Timnit har kommit till en plats där hon känner så här om det arbete vi gör, skrev han. Jag vet att vi alla verkligen delar Timnits passion för att göra AI mer rättvist och inkluderande.

Varken Gebru, Dean eller Googles kommunikation svarade på förfrågningar om kommentarer, och många detaljer kring händelsernas exakta utveckling eller orsaken till uppsägningen är fortfarande oklara. När de fortsätter att dyka upp har många väckt förnyad uppmärksamhet en tweet den 30 november som Gebru fäste högst upp på sin profil. Finns det någon som arbetar med reglering som skyddar forskare inom etisk AI, liknande whistleblowerskydd? det står. För med den mängd censur & skrämsel som pågår mot människor i specifika grupper, hur litar någon på att någon verklig forskning inom detta område kan äga rum?

Dölj