211service.com
Hej Google, ledsen att du tappade ditt etiska råd, så vi skapade ett åt dig
Nåväl, det tog inte lång tid. Efter lite mer än en vecka backade Google tillbaka på att skapa sitt Advanced Technology External Advisory Council, eller ATEAC – en kommitté som ska ge företaget vägledning om hur man etiskt utvecklar ny teknik som AI. Inkluderingen av Heritage Foundations ordförande, Kay Coles James, i rådet orsakade ett ramaskri över hennes anti-miljövänliga, anti-HBTQ och anti-invandrare åsikter, och ledde nästan 2 500 Google-anställda att underteckna en begäran om att hon ska avlägsnas. Istället bestämde sig internetjätten helt enkelt för att lägga ner det hela.
Hur gick det så fel? Och kan Google rätta till dem? Vi fick ett dussin experter inom AI, teknik och etik för att berätta var företaget tappade vägen och vad det kan göra härnäst. Om dessa personer hade varit på ATEAC, kan historien ha fått ett annat resultat.
'Var transparent och specifik om de roller och ansvarsområden som etiknämnderna har'
Rashida Richardson, chef för policyforskning vid AI Now Institute
'Vi har ingen insikt om huruvida etiknämnder faktiskt är en moralisk kompass eller bara ytterligare en gummistämpel'
I teorin kan etiknämnder vara en stor fördel när det gäller att se till att AI-produkter är säkra och inte diskriminerande. Men för att etiska nämnder ska ha någon meningsfull inverkan måste de vara offentligt ansvariga och ha verklig tillsynsbefogenhet.
Det betyder att teknikföretag bör vara villiga att dela de kriterier de använder för att välja ut vem som får sitta i dessa etiska styrelser. De bör också vara transparenta och specifika om de roller och ansvarsområden som deras etiska nämnder har så att allmänheten kan bedöma deras effektivitet. I övrigt har vi ingen insikt i om etiknämnder faktiskt är en moralisk kompass eller bara ytterligare en gummistämpel. Med tanke på det globala inflytandet och ansvaret hos stora AI-företag är denna nivå av transparens och ansvarsskyldighet avgörande.
Fundera på vad det faktiskt innebär att styra tekniken effektivt och rättvist
Jake Metcalf, teknologietisk forskare vid Data & Society
ATEAC:s skräll visar oss hur full och omtvistad denna nya tid av teknisk etik sannolikt kommer att bli. Google har uppenbarligen missuppfattat rummet i det här fallet. Politiskt marginella befolkningar som är föremål för klassificerande nycker av AI/ML-tekniker kommer sannolikt att uppleva de värre etiska skadorna från automatiserat beslutsfattande. Google gynnar Kay Coles James för mångfald av synpunkter framför hennes öppna hat mot transpersoner visar att de inte tillräckligt överväger vad det faktiskt innebär att styra tekniken effektivt och rättvist.
”Etik betyder två olika saker som kan vara motsägelsefulla i praktiken. Företag är mottagliga för de förra och livrädda för de senare.
Det är knepigt för företag eftersom etik innebär två olika saker som kan vara motsägelsefulla i praktiken: det är både det dagliga arbetet med att förstå och mildra konsekvenser (som att köra ett bias-detektionsverktyg eller att vara värd för ett deliberativt designmöte), och bedömningen om hur samhället kan beställas mest rättvist (t.ex. om olika skador på marginaliserade samhällen innebär att en produktlinje bör ökas). Företag är mottagliga för de förra och livrädda för de senare. Men om AI-etik inte handlar om att förhindra automatiserat missbruk, blockera överföringen av farlig teknik till autokratiska regeringar eller förbjuda automatisering av statligt våld, då är det svårt att veta vad teknikföretag tror att det är annat än tomma gester. Under det trevliga nya etikrapporteringsverktyget som är överensstämmande med företagets KPI-mått finns en genuin oro över att liv står på spel. Att hålla dem i huvudet på en gång är en utmaning för företag byråkratiskt och för etiker som investerat i att se mer rättvis teknik vinna fram.
Erkänn först elefanten i rummet: Googles AI-principer
Evan Selinger, professor i filosofi vid Rochester Institute of Technology
Google satte kibosh på ATEAC utan att först erkänna elefanten i rummet: AI-principerna som vd Sundar Pichai formulerade under sommaren. Ledande akademiker, folk inom civilsamhällets organisationer och seniora anställda på teknikföretag har konsekvent sagt till mig att även om principerna ser bra ut på pappret, är de tillräckligt flexibla för att tolkas på ett sätt som kommer att befria Google från att behöva kompromissa med någon långsiktig tillväxt strategier – inte minst för att verkställighetsmekanismerna för att bryta mot principerna inte är väldefinierade, och i slutändan förblir hela företaget en självreglerande strävan.
Som sagt, det skulle säkerligen bidra till att göra ledarskap mer ansvarigt inför en etisk styrelse om gruppen var (a) korrekt sammansatt; (b) ges tydliga och robusta institutionella befogenheter (istället för att bara vara där för att ge råd). och (c) också själv hållas till transparenta ansvarsstandarder för att säkerställa att det inte blir en kugge i en rationaliserande, etisk tvättmaskin.
Ändra de personer som ansvarar för att sätta samman dessa grupper
Ellen Pao, grundare på Project Include
Detta misslyckade försök visar exakt varför Google behöver bättre rådgivare. Men kanske måste de också förändra de personer som ansvarar för att sätta samman dessa grupper – och kanske borde deras interna team också göra det här arbetet. Det var flera problem med resultatet som vi alla har sett, men också problem med processen. När du inte har kommunicerat till hela gruppen om vem de kommer att arbeta med är det ett stort misstag. Att ta med människor som är mer reflekterande av världen vi lever i borde ha skett internt innan man försökte sätta ihop en extern grupp.
Sidanteckning, folk bör undersöka grupperna de går med i, konferenspanelerna de talar vid och deras team innan de engagerar sig så att de vet vad de anmäler sig till. Det är otroligt hur mycket du kan påverka dem och hur du kan ändra sammansättningen av en grupp bara genom att fråga.
Bemyndig antagonism – inte dessa vänliga interna partnerskap och handhållningsansträngningar
Meg Leta Jones, biträdande professor i kommunikation, kultur och teknologi vid Georgetown University
Etiska styrelser är ingens dagliga jobb och erbjuder bara en möjlighet till sällsynta samtal på hög nivå som i bästa fall ger insikt och i värsta fall täckning. Om vi vill skapa förtroende för institutioner inklusive teknik, teknikföretag, media och myndigheter, kräver vår nuvarande politiska kultur motsättningar – inte dessa vänliga interna partnerskap och handhavande ansträngningar. Att stärka antagonister och stödja antagonism kan mer lämpligt och effektivt uppfylla målen för 'etisk AI.'
'Etiska styrelser ger i bästa fall insikt och i värsta fall täcker'
Titta inåt och stärka medarbetare som står solidariskt med utsatta grupper
Anna Lauren Hoffmann, biträdande professor vid The Information School vid University of Washington
Googles misslyckade ATEAC-styrelse klargör att AI-etik inte bara handlar om hur vi uppfattar, utvecklar och implementerar AI-tekniker – det handlar också om hur vi gör etik. Levde sårbarheter, fördelning av makt och inflytande, och vars röster blir förhöjda är alla viktiga överväganden när man utövar etik i den verkliga världen. För det ändamålet gör ATEAC-debaclet och andra fall av pushback (till exempel mot Project Maven , Dragonfly och policyer för sexuella trakasserier ) tydligt att Google redan har en enorm resurs i många av sina egna anställda. Även om vi också behöver meningsfull reglering och extern tillsyn, bör företaget blicka inåt och bemyndiga de redan marginaliserade anställda som är redo att organisera sig och stå i solidaritet med utsatta grupper för att ta itu med genomgripande problem med transfobi, rasism, främlingsfientlighet och hat.
En styrelse kan inte bara vara 'några viktiga personer vi känner.' Du behöver riktiga etiker
Patrick Lin, chef för Etik + Emerging Sciences Group på Cal Poly
Med Aaliyahs ord tror jag att nästa steg för Google är att damma av dig själv och försöka igen. Men de måste vara mer eftertänksamma om vem de sätter i styrelsen – det kan inte bara vara en 'låt oss fråga några viktiga personer vi känner'-lista, som version 1.0 av rådet verkade ha varit. För det första, om det finns ett uppriktigt intresse av att få etisk vägledning, behöver du verkliga etiker – experter som har professionell utbildning i teoretisk och tillämpad etik. Annars skulle det vara ett förkastande av värdet av expertis, som vi redan nu ser alldeles för mycket av, till exempel när det gäller grundläggande vetenskap.
'Tänk om företaget ville sammankalla ett AI-lagråd, men det fanns bara en advokat på det'
Tänk om företaget ville sammankalla ett AI-lagråd, men det fanns bara en advokat på det (precis som det bara fanns en filosof i AI-etikrådet v1.0). Det skulle höja allvarliga röda flaggor. Det räcker inte för någon att arbeta med frågor av juridisk betydelse – massor av människor gör det, inklusive jag, och de kan mycket väl komplettera expertutlåtandena från juridiska forskare och advokater. Men för att det rådet ska vara verkligt effektivt måste det inkludera faktiska domänexperter i sin kärna.
De senaste veckorna visade att direktorganisering fungerar
Os Keyes, doktorand i Data Ecologies Lab vid University of Washington
För att vara ärlig har jag inga råd till Google. Google gör precis vad företagsenheter i vårt samhälle är tänkta att göra; arbetar för politiska (och så reglerande och så ekonomiska) fördelar utan att låta ett spår av moral skära in i deras kvartalsresultat eller strategiska plan. Mitt råd är till alla utom Google. För personer utanför Google: ring dina representanter. Fråga vad de gör om AI-reglering. Fråga vad de gör om lobbykontroller. Fråga vad de gör om företagsreglering. För personer i akademin: ring dina instruktörer. Fråga vad de gör för att lära etikstudenter att etik bara är viktigt om den tillämpas och efterlevs. För personer inom Google: ring personerna utanför och fråga vad de behöver av dig. De senaste veckornas händelser visade att direktorganisering fungerar; solidaritet fungerar.
Fyra möten per år kommer sannolikt inte att påverka. Vi behöver agil etisk input
Irina Raicu, chef för programmet för internetetik vid Santa Clara University
Jag tycker att det här var ett fantastiskt missat tillfälle. Det fick mig att undra vem inom Google som var inblandad i beslutsfattandet om vem jag skulle bjuda in. (Detta beslutet i sig krävde olika insatser.) Men detta talar till det bredare problemet här: det faktum att Google tillkännagav skapandet av styrelsen utan någon förklaring av deras kriterier för att välja deltagare. Det diskuterades också väldigt lite om deras skäl för att skapa styrelsen, vad de hoppades att styrelsens inverkan skulle bli, etc. Hade de gett mer sammanhang hade den efterföljande diskussionen kanske blivit annorlunda.
Det finns andra frågor också; med tanke på hur snabbt AI utvecklas och distribueras, kommer fyra möten (även med en mångsidig grupp av AI-etiska rådgivare), under loppet av ett år, sannolikt inte att ha någon meningsfull effekt - dvs. att verkligen förändra forsknings- eller produktutvecklingsbanan. Så länge som modellen är agil utveckling behöver vi också agil etisk input.
Gruppen måste ha behörighet att säga nej till projekt
Sam Gregory, programchef på Witness
Om Google verkligen vill bygga in respekt för etik eller mänskliga rättigheter i AI-initiativen måste de först inse att en rådgivande styrelse, eller till och med en styrelse, bara är en del av ett större tillvägagångssätt. De måste redan från början vara tydliga med att gruppen faktiskt har befogenhet att säga nej till projekt och bli hörd. Sedan måste de vara tydliga om ramverket – vi skulle rekommendera att det baseras på etablerade internationella mänskliga rättigheterslagar och normer – och därför bör en individ eller grupp som har erfarenhet av att vara diskriminerande eller kränkande inte vara en del av den.
Undvik att behandla etik som ett PR-spel eller ett tekniskt problem
Anna Jobin, forskare vid Health Ethics and Policy Lab vid Swiss Federal Institute of Technology
Om Google menar allvar med etisk AI måste företaget undvika att behandla etik som ett PR-spel eller ett tekniskt problem och bädda in det i sina affärspraxis och processer. Den kan behöva omforma sina styrningsstrukturer för att skapa bättre representation och ansvar gentemot både sin interna arbetsstyrka och samhället i stort. I synnerhet måste den prioritera välfärden för minoriteter och utsatta samhällen över hela världen, särskilt människor som påverkas eller kan påverkas negativt av dess teknologi.
'Sök inte bara traditionell expertis, utan också insikter från människor som är experter på sina egna levda erfarenheter'
Joy Buolamwini, grundare av Algorithmic Justice League
När vi tänker på styrningen av AI måste vi inte bara söka traditionell expertis utan också insikter från människor som är experter på sina egna erfarenheter. Hur kan vi engagera marginaliserade röster i att forma AI? Hur skulle deltagande AI som centrerar åsikterna från dem som löper störst risk för de negativa effekterna av AI se ut?
'Jag kan inte föreställa mig någon rekommendation av en sådan rådgivande panel som står i vägen för vad marknaden efterfrågar'
Att lära sig av ATEAC-upplevelsen Google bör införliva kompenserade granskningsprocesser för communityn i utvecklingen av sina produkter och tjänster. Detta kommer att kräva meningsfull transparens och kontinuerlig tillsyn. Och Google och andra medlemmar i Partnership on AI bör avsätta en del av vinsten för att tillhandahålla konsortiumfinansiering för forskning om AI-etik och ansvarsskyldighet, utan att bara fokusera på AI-rättvisa forskning som enbart lyfter tekniska perspektiv.
Kanske är det till det bästa som fikonbladet om 'etisk utveckling' har visats bort
Adam Greenfield, författare till Radical Technologies
Allt vi har hört om den här styrelsen har varit skamligt, från den första instinkten att bjuda in James till beslutet att lägga ner den istället för att ägna energi åt att hantera konsekvenserna av det valet. Men eftersom mina känslor för AI mer eller mindre är de från Butlerian Jihad, kanske det är till det bästa som fikonbladet av 'etisk utveckling' har visats bort. I slutändan kan jag inte föreställa mig någon rekommendation av en sådan rådgivande panel, hur den än kan vara sammansatt, som står i vägen för vad marknaden efterfrågar och/eller den upplevda nödvändigheten av att konkurrera med andra aktörer som är engagerade i AI-utveckling.
'Det är uppmuntrande att se kraften i medarbetaraktivism'
Tess Posner, VD för AI4ALL
Det är fantastiskt att se företag, organisationer och forskare arbeta för att skapa etiska ramverk för AI. Den tekniska industrin upplever växtvärk inom detta område - att ta reda på hur man gör det här rätt är utmanande och kommer att ta tid och upprepningar. Vi tror att det är en möjlighet att fortsätta fråga vilka röster som behöver inkluderas, och se till att inkludera olika röster och röster som kan påverkas direkt av resultaten av fattade beslut. Det är uppmuntrande att se kraften i medarbetaraktivism som påverkar förändringar kring detta och andra tekniska frågor.