AI-gemenskapen måste ta ansvar för sin teknik och dess handlingar

Celeste Kidd Niall Carson / AP

På måndagen, vid invigningen av en av världens största sammankomster av AI-forskare, talade Celeste Kidd till tusentals deltagare i ett rum som är nästan dubbelt så stort som en fotbollsplan. Hon drog inte ut sina slag.

Det finns inget sådant som en neutral plattform, sa den inflytelserika vetenskapsmannen och framstående #metoo galjonsfiguren till de som samlades på NeurIPS-konferensen i Vancouver. Algoritmerna som driver innehåll online har stor inverkan på vad vi tror.

Kidd, professor i psykologi vid University of California, Berkeley, är känd inom sitt område för att ge viktiga bidrag till vår förståelse av theory of mind – hur vi skaffar kunskap och hur vi formar övertygelser. För två år sedan blev hon också känd i omvärlden när Time döpte henne Årets person bland andra som uttalat sig mot sexuella övergrepp och trakasserier.

På scenen delade Kidd med sig av fem lärdomar från sin forskning och visade hur teknikindustrins beslut kan påverka människor att utveckla falska övertygelser – till exempel förneka klimatförändringar. Nära slutet av sitt föredrag delade hon också med sig av sin erfarenhet av sexuella trakasserier som doktorand och riktas direkt några av missförstånden hon hade hört om #metoo-rörelsen från män.

Det kan verka som en skrämmande tid att vara en man inom tekniken just nu, sa hon till konferensbesökarna, av vilka ungefär 80 % är män i år. Det finns en känsla av att en karriär kan förstöras på grund av obekväma passningar eller missförstånd.

Det jag vill säga idag till alla män i rummet är att ni har blivit vilseledda, sa hon.

Hennes föredrag fick stående ovationer – ett sällsynt ögonblick i konferensens historia.

Kidds kommentarer kommer vid en tidpunkt då AI-gemenskapen – och teknikindustrin mer allmänt – har tvingats räkna med de oavsiktliga skadorna av dess teknologier. Bara under det senaste året har en serie uppmärksammade fall avslöjat hur djupförfalskningar kan misshandla kvinnor, hur algoritmer kan fatta diskriminerande beslut inom hälso- och sjukvård och kreditutlåning och hur utvecklingen av AI-modeller kan vara oerhört kostsamt för miljön. Samtidigt har samhället skakat av flera sexuella övergrepp och trakasserier , inklusive några överincidenter kl tidigare år av själva konferensen . Det har också fortsatt att lida av fruktansvärda mångfaldssiffror.

Men Kidds föredrag lyfte fram en viktig förändring som har börjat ske – en som kändes påtagligt i rummet den natten. Efter hennes föredrag ställde sig dussintals människor i rad vid mikrofonerna som var utspridda i rummet för att tacka henne för att hon talade ut om dessa frågor. Dussintals fler samlades runt henne efter sessionen – några bara för att skaka hennes hand i tacksamhet. För deltagare som minns den årliga sammankomsten för två år sedan, finns det en ny öppenhet för att erkänna dessa utmaningar och ett förnyat fokus på att göra bättre.

Dagen efter hennes föredrag satte jag mig ner med Kidd för att prata mer om de två meddelanden hon levererade, hur de är relaterade och hennes förhoppningar för framtiden.

Denna intervju har redigerats och komprimerats för tydlighetens skull.

I forskningsdelen av ditt föredrag avslutade du med ditt budskap: Det finns inget sådant som en neutral plattform. Hur kom du fram till denna slutsats från din forskning?

Något som jag bara har insett under de senaste åren – på grund av min interaktion med mina två doktorander – är att det egentligen inte finns någon skillnad mellan kunskap och övertygelser. Det är i princip samma sak.

Nu går vi mot att förstå hur denna dynamik som vi har observerat i labbexperiment sträcker sig till den verkliga världen. När någon går till internet och inte är säker på vad de ska tro, vad brukar de gå iväg med från dessa neutrala sökningar? Kan vi använda samma slags idéer för att försöka förklara varför människor tror att jorden är platt, och varför dessa missuppfattningar inte korrigeras? Det är inte ett område som jag har sett mycket uppmärksamhet på, men det är ett som jag tycker är väldigt viktigt.

Varför var det viktigt för dig att dela ditt budskap på denna konferens?

Så mycket av det vi tror nu kommer från onlinekällor. Särskilt barn – de bildar byggstenarna av kunskap som senare kommer att forma vad de tror på, vad de är intresserade av att lära sig om nedströms. För små barn finns det också anledning att förvänta sig att de konsumerar mer autoplay och föreslaget innehåll än vuxna. Så initialt löper de större risk att bli påverkade av algoritmen som driver innehåll, eftersom det är deras enda val.

Mitt föredrag var tänkt som ett budskap till personer som arbetar med systemen att ta hänsyn till hur dessa backend-beslut påverkar en enskild persons övertygelse, men också samhället som helhet. Jag tror inte att det finns tillräckligt med känslighet inom tekniken för hur de beslut du fattar bakom kulisserna om hur man driver innehåll påverkar människors liv.

Det finns ett vanligt stridsrop när frågor dyker upp om hur innehåll erbjuds – påståendet att plattformar är neutrala. Och det tycker jag är oärligt. De backend-beslut som du fattar påverkar direkt vad folk tror, ​​och folk vet detta. Så att låtsas som att det inte är någonting är oärligt.

När vi ändrar människors beteende, är det vi gör att ändra deras övertygelse. Och de förändringarna har verkliga, konkreta konsekvenser. När en förälder söker efter information om huruvida de ska vaccinera sitt barn eller inte – om de går fram till sin bärbara dator obestämda och de går därifrån beslutade, spelar det verkligen roll vilket innehåll som erbjöds, vilka åsikter som företräddes.

Jag tycker inte att det är rimligt att säga att du inte har något ansvar för vad en mamma gör mot sitt barn – oavsett om hon bestämmer sig för att vaccinera dem eller inte – eftersom det inte var något du tänkte på när du byggde systemet. Jag tycker att du har ett ansvar att överväga vilka återverkningar blir av back-end-besluten.

Du nämnde i den privata Q&A efter ditt föredrag att du aldrig har presenterat både din forskning och dina erfarenheter av sexuella trakasserier i ett offentligt forum. Varför brukar du separera dessa två och varför valde du att kombinera dem?

Jag börjar med den andra – jag gjorde ett undantag från regeln i det här fallet eftersom jag tyckte att det var väldigt viktigt för den här gruppen att höra det budskapet. Datavetenskap är ett område där kvinnor har haft väldigt svårt under lång tid att få grepp och bryta sig in. Det finns ett högt intresse tidigt, och sedan finns det ett läckande rör. Och jag vet att en av de saker som gör det väldigt svårt att göra det bra som kvinna på det här området är mindre mentorskap.

Jag vet att det är väldigt vanligt att män inom datavetenskap med goda avsikter är oroliga för att kränka kvinnor. Nedströmskonsekvensen av det är att kvinnor förlorar på utbildningsmöjligheter, men även män förlorar på de idéer och innovation som kvinnorna skulle komma med. Empiriska studier visar att mångfald leder till högre innovationstakt. Och möjligheten att prata med en stor del av de här männen i ett rum på en gång – jag kände att det var viktigt, och jag var tvungen att göra det.

Anledningen till att jag vanligtvis inte blandar dem: Jag valde inte vad som hände med mig mitt första år på gymnasiet i Rochester. Jag valde inte vad universitetets svar skulle vara. Jag ville ha en karriär inom vetenskap och jag vill skydda det, så jag vill inte prata mindre om vetenskap eftersom jag har uttalat mig om den här frågan. Men jag är också medveten om att de flesta människor inte får möjligheten, de får ingen plattform att säga ifrån. Det som vanligtvis händer med människor som trakasserades sexuellt tidigt i sin karriär och fick sin institution att hämnas är att de försvinner. Jag skulle inte känna mig okej att inte göra någonting. Människor som har privilegier måste använda det där de kan. Och detta var ett tillfälle att använda förmånen att hålla ett föredrag på NeurIPS för att hjälpa de yngre kvinnorna som förtjänar likabehandling.

Var du orolig för hur dessa kommentarer skulle landa?

Självklart. Men att vara rädd för responsen är ingen anledning att inte prata. Jag pratade lite om privilegier. Jag är också i en relativt privilegierad position på just den här konferensen eftersom det finns så många människor i industrin, och jag tror att pressen att hålla folk tysta är större på företag än de är i akademin, åtminstone inom tekniken just nu. Så om jag var orolig för att få sparken skulle det vara en extra sak som håller mig tyst. UC Berkeley var medveten om att jag uttalade mig om dessa frågor innan de anställde mig, och de har inte visat mig något annat än stöd och uppmuntran i kampen för rättvisa. Genom att vara på en plats som stöttar mig så kan jag säga saker utan rädsla för att bli av med jobbet och inte kunna betala maten till mitt barn. Och det är den andra anledningen till att jag kände att jag borde prata.

Jag förväntade mig fullt ut att vissa människor skulle vara arga. Det är 13 000 personer. Visst kan vissa människor missförstå mig. Jag talade bokstavligen om hur när vi använder ord är de tvetydiga och människor aktiverar olika begrepp. Det är inte möjligt att övertyga alla människor exakt vad du har i åtanke.

Även om du vanligtvis separerar dina samtal om din forskning och din aktivism, och du delade upp det i två sektioner på NeurIPS, så tar de upp för mig egentligen samma sak: hur man utvecklar ansvarsfull teknik genom att ta mer ansvar för dina beslut och handlingar.

Höger. Du nämnde för mig att det pratas mer i AI-gemenskapen om de etiska implikationerna, att det finns mer uppskattning för kopplingen mellan tekniken och samhället. Och jag tror att en del av det kommer från att samhället blir mer mångsidigt och involverar fler människor. De kommer från en mindre privilegierad plats och är mer medvetna om saker som partiskhet och orättvisa och hur teknologier som utformats för en viss demografi faktiskt kan skada missgynnade befolkningar.

Jag hoppas att det fortsätter. Vi måste prata med varandra för att göra framsteg. Och vi förtjänar alla att känna oss trygga när vi interagerar med varandra.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.

Dölj