Googles anställda står i kö för att slänga Googles AI-etiska råd

Getty Images/Leon Neal

Nästan tusen Google-anställda, akademiska forskare och andra tekniska industrisiffror har skrivit på ett brev protesterar mot sammansättningen av ett oberoende råd som Google skapade för att vägleda etiken i sina AI-projekt.

Sökjätten meddelat skapandet av rådet förra veckan vid EmTech Digital, MIT Technology Reviews event i San Francisco. Känd som Advanced Technology External Advisory Council (ATEAC), har den åtta medlemmar inklusive ekonomer, filosofer, beslutsfattare och teknologer med expertis i frågor som algoritmisk bias. Det är tänkt att hålla fyra möten per år, med start denna månad, och skriva rapporter som är utformade för att ge feedback på projekt på företaget som använder artificiell intelligens.

Men två av dessa medlemmar visade sig vara kontroversiella. En, Dyan Gibbens, är VD för Trumbull, ett företag som utvecklar autonoma system för försvarsindustrin – ett omtvistat val med tanke på att tusentals Google-anställda protesterade mot företagets beslut att förse det amerikanska flygvapnet med AI för drönaravbildning. Den största upprördheten har dock kommit över inkluderingen av Kay Coles James, ordförande för Heritage Foundation, en tankesmedja som motsätter sig reglering av koldioxidutsläpp, tar en hård linje mot immigration och har argumenterat mot skyddet av HBTQ-rättigheter.

En ledamot i rådet, Alessandro köper , en professor vid Carnegie Mellon University som specialiserat sig på frågor om digital integritet, meddelade den 30 mars att han inte skulle ta rollen. Även om jag ägnar mig åt forskning som brottas med viktiga etiska frågor om rättvisa, rättigheter och inkludering inom AI, tror jag inte att detta är rätt forum för mig att engagera mig i detta viktiga arbete,' twittrade han .

Skapandet av ATEAC – och inkluderingen av Gibbens och James – kan i själva verket ha utformats för att blidka Googles högerkritiker. Ungefär samtidigt som rådet tillkännagavs träffade Sundar Pichai, Googles vd, president Donald Trump. Trump twittrade senare: Han uttalade starkt att han är helt engagerad i den amerikanska militären, inte den kinesiska militären. [Vi] diskuterade också politisk rättvisa och olika saker som Google kan göra för vårt land. Mötet slutade väldigt bra!

Men en Google-anställd som var involverad i utarbetandet av protestbrevet, som talade på villkor av anonymitet, sa att James är mer än bara en konservativ röst i rådet. Hon är en reaktionär som förnekar att transpersoner existerar, som stöder radikalt invandrarfientliga ståndpunkter och stödjer ståndpunkter som är anti-klimatförändringar och antivetenskapliga.

Vissa kända AI-algoritmer kan förstärka fördomar som redan setts i samhället; vissa har visat sig felidentifiera transpersoner , till exempel. I det sammanhanget är det faktum att [James] inkluderades ganska chockerande, sa den anställde. Dessa teknologier formar våra sociala institutioner, våra liv och tillgång till resurser. När AI misslyckas, misslyckas det inte för rika vita män som arbetar på teknikföretag. Det misslyckas för exakt de befolkningar som Heritage Foundations policy redan syftar till att skada.

Meddelanden som lades upp på en Googles internkommunikationsplattform kritiserade särskilt utnämningen av James. Enligt ett inlägg, tidigare rapporterat av Verge och bekräftat av den anställde, James förtjänar inte en Google-legitimerad plattform, och hör verkligen inte hemma i någon konversation om hur Googles teknik ska tillämpas på världen.

Från och med 17:30 amerikansk östlig tid idag hade det offentliga brevet, postat till Medium, undertecknats av 855 Google-anställda och 143 andra personer, inklusive ett antal framstående akademiker. James åsikter strider inte bara mot Googles uttalade värderingar, står det i brevet, utan de strider direkt mot projektet att säkerställa att utvecklingen och tillämpningen av AI prioriterar rättvisa framför vinst. Ett sådant projekt bör istället sätta representanter från utsatta samhällen i centrum för beslutsfattandet.

Korrektion : En tidigare version av den här historien sa att endast sju Google-anställda hade skrivit under brevet på Medium.

Dölj