Hon riskerade allt för att avslöja Facebook. Nu berättar hon sin historia.

Sophie Zhang, en före detta dataforskare på Facebook, avslöjade att det möjliggör global politisk manipulation och har inte gjort mycket för att stoppa det.

Christie Där Klok

förbi

• Karen Hao arkivsida

29 juli 2021

Världen lärde sig för första gången om Sophie Zhang i september 2020, då BuzzFeed News fick och publicerade höjdpunkter från en förkortad version av hennes nästan 8 000 ord långa exitmemo från Facebook.

Innan hon fick sparken var Zhang officiellt anställd som datavetare på låg nivå på företaget. Men hon hade blivit full av en uppgift som hon ansåg vara viktigare: att hitta och ta bort falska konton och likes som användes för att påverka val globalt.

Hennes memo avslöjade att hon hade identifierat dussintals länder, inklusive Indien, Mexiko, Afghanistan och Sydkorea, där denna typ av övergrepp gjorde det möjligt för politiker att vilseleda allmänheten och få makt. Det avslöjade också hur lite företaget hade gjort för att mildra problemet, trots Zhangs upprepade försök att uppmärksamma ledarskapet på det.

LYSSNA PÅ HISTORIEN HÄR

Jag vet att jag har blod på händerna vid det här laget, skrev hon.

På tröskeln till hennes avgång diskuterade Zhang fortfarande om hon skulle skriva PM överhuvudtaget. Det var kanske hennes sista chans att skapa tillräckligt internt tryck på ledarskapet för att börja ta problemen på allvar. I väntan på att skriva det, hade hon tackat nej till ett avgångsvederlag på nästan 64 000 USD som skulle ha inneburit att underteckna ett avtal utan nedsättning. Hon ville behålla friheten att uttala sig kritiskt om företaget.

Men det var bara två månader innan valet i USA 2020, och hon stördes av tanken att PM skulle kunna urholka allmänhetens förtroende för valprocessen om det släpptes i förtid till pressen. Jag var livrädd för att på något sätt bli James Comey 2020, säger hon och syftar på den tidigare FBI-chefen som dagar före valet 2016 berättade för kongressen att byrån hade återupptagit en utredning om Hillary Clintons användning av en privat e-postserver. Clinton fortsatte med att skylla på Comey för hennes förlust.

Till Zhangs stora lättnad hände det inte. Och efter valet gick hon vidare med sin ursprungliga plan. I april kom hon fram i två väktare artiklar med hennes ansikte, hennes namn och ännu mer detaljerad dokumentation av den politiska manipulation hon hade avslöjat och Facebooks försumlighet i hanteringen av den.

Hennes konto gav konkreta bevis för att stödja vad kritiker länge hade sagt på utsidan: att Facebook gör valinblandning lätt, och att om inte sådan aktivitet skadar företagets affärsintressen, kan det inte bry sig om att åtgärda problemet.

I ett uttalande förnekade Joe Osborne, en talesperson för Facebook, häftigt dessa påståenden. För de otaliga pressintervjuer hon har gjort sedan hon lämnade Facebook, har vi i grunden varit oense med Zhangs karaktärisering av våra prioriteringar och ansträngningar för att utrota övergrepp på vår plattform, sa han. Vi går aggressivt efter övergrepp runt om i världen och har specialiserade team fokuserade på detta arbete. Som ett resultat har vi redan tagit ner mer än 150 nätverk av koordinerat oäkta beteende ... Att bekämpa koordinerat oäkta beteende är vår prioritet.

Genom att gå ut till allmänheten och undvika anonymitet riskerade Zhang rättsliga åtgärder från företaget, skada på hennes framtida karriärmöjligheter och kanske till och med repressalier från de politiker hon avslöjade i processen. Det hon gjorde är väldigt modigt, säger Julia Carrie Wong, Guardian-reportern som publicerade hennes avslöjanden.

Efter nästan ett år av att undvika personliga frågor är Zhang nu redo att berätta sin historia. Hon vill att världen ska förstå hur hon blev så involverad i att försöka skydda demokratin över hela världen och varför hon brydde sig så djupt. Hon är också trött på att vara i garderoben som en transkvinna, en central aspekt av hennes identitet som informerade hennes handlingar på Facebook och efter att hon lämnade.

Hennes berättelse avslöjar att det verkligen är ren tur att vi nu vet så mycket om hur Facebook möjliggör valinblandning globalt. Zhang var inte bara den enda personen som bekämpade denna form av politisk manipulation; det var inte ens hennes jobb. Hon hade upptäckt problemet på grund av ett unikt sammanflöde av färdigheter och passion, och sedan tagit på sig det, driven av en extraordinär känsla av moraliskt ansvar.

För tillsynsmyndigheter runt om i världen som överväger hur de ska tygla företaget bör detta vara en väckarklocka.

Zhang planerade aldrig att vara i denna position. Hon är djupt introvert och hatar att stå i rampljuset. Hon gick med på Facebook 2018 efter att den ekonomiska pressen av att leva på deltidskontrakt i Bay Area hade slitit ner henne. När hon fick Facebooks erbjudande var hon direkt med sin rekryterare: hon trodde inte att företaget gjorde världen bättre, men hon skulle gå med för att hjälpa till att fixa det.

De sa till mig, 'Du skulle bli förvånad över hur många människor på Facebook som säger det', minns hon.

Det var lättare sagt än gjort. Liksom många nyanställda hade hon gått med utan att ha blivit tilldelad ett specifikt team. Hon ville arbeta med valintegritet, som letar efter sätt att mildra valrelaterade plattformsmissbruk, men hennes kompetens stämde inte överens med deras öppningar. Hon nöjde sig med ett nytt team som tacklade falskt engagemang istället.

Falskt engagemang hänvisar till saker som gilla-markeringar, delningar och kommentarer som har köpts eller på annat sätt oäkta genererats på plattformen. Det nya teamet fokuserade mer snävt på så kallad skriptad oäkta aktivitet – falska gilla-markeringar och delningar producerade av automatiserade bots och används för att öka någons popularitet.

I de allra flesta av sådana fall fick folk bara likes för fåfänga. Men efter ett halvår insåg Zhang att politiker kunde göra samma saker för att öka sitt inflytande och nå ut på plattformen. Det tog inte lång tid för henne att hitta exempel i Brasilien och Indien, som båda förberedde sig för allmänna val.

När hon letade efter skriptad aktivitet fann hon också något mycket mer oroande. Administratören för Honduras presidents Facebooksida, Juan Orlando Hernández, hade skapat hundratals sidor med falska namn och profilbilder för att se ut precis som användare – och använde dem för att översvämma presidentens inlägg med gilla-markeringar, kommentarer och delningar. (Facebook hindrar användare från att skapa flera profiler men tillämpar inte samma begränsning på sidor, som vanligtvis är avsedda för företag och offentliga personer.)

Aktiviteten räknades inte som manus, men effekten var densamma. Det kunde inte bara vilseleda den tillfällige observatören att tro att Hernández var mer omtyckt och populär än han var, utan det ökade också hans inlägg högre upp i folks nyhetsflöden. För en politiker vars omvalsseger 2017 allmänt ansågs vara bedräglig, var fräckheten – och implikationerna – alarmerande.

Alla var överens om att det var hemskt. Ingen kunde komma överens om vem som skulle vara ansvarig, eller ens vad som skulle göras.

Men när Zhang tog upp frågan, säger hon, fick hon ett ljummet mottagande. Sidans integritetsteam, som hanterar missbruk av och på Facebook-sidor, skulle inte blockera masstillverkningen av sidor för att se ut som användare. Nyhetsflödesintegritetsteamet, som försöker förbättra kvaliteten på vad som visas i användarnas nyhetsflöden, skulle inte ta bort de falska gilla-markeringarna och kommentarerna från rankningsalgoritmens övervägande. Alla var överens om att det var hemskt, säger Zhang. Ingen kunde komma överens om vem som skulle vara ansvarig, eller ens vad som skulle göras.

Efter att Zhang utövat påtryckningar i ett år togs nätverket av falska sidor slutligen bort. Några månader senare skapade Facebook en ny oäkta beteendepolicy för att förbjuda falska sidor som maskerar sig som användare. Men denna policyändring tog inte upp ett mer grundläggande problem: ingen ombads att genomdriva den.

Så Zhang tog initiativet själv. När hon inte arbetade med att skrubba bort fåfängagillar, kammade hon flitigt igenom dataströmmar och sökte efter användningen av falska sidor, falska konton och andra former av samordnad falsk aktivitet på politikers sidor. Hon hittade fall i dussintals länder, framför allt i Azerbajdzjan, där pages-tekniken användes för att trakassera oppositionen.

Men att hitta och flagga nya fall var inte tillräckligt. Zhang upptäckte att för att få bort eventuella nätverk av falska sidor eller konton, var hon tvungen att ständigt lobba på de relevanta teamen. I länder där sådan verksamhet utgjorde liten PR-risk för företaget, verkställighet kan skjutas upp upprepade gånger . (Facebook bestrider denna karaktärisering.) Ansvaret tyngde henne tungt. Var det viktigare att driva på ett fall i Bolivia, med en befolkning på 11,6 miljoner, eller i Rajasthan, Indien, med en befolkning nära 70 miljoner?

Sedan, hösten 2019, bröt veckor av dödliga civila protester ut i Bolivia efter att allmänheten bestridde resultatet av dess presidentval. Bara några veckor tidigare hade Zhang verkligen nedprioriterat landet för att ta hand om vad som verkade vara mer brådskande fall. Nyheten förtärde henne med skuld. Intellektuellt visste hon att det inte fanns något sätt att dra en direkt koppling mellan hennes beslut och händelserna. Den falska förlovningen hade varit så liten att effekten troligen var försumbar. Men psykologiskt och känslomässigt spelade det ingen roll. Det var då jag började tappa sömn, säger hon.

Medan någon annan kanske har valt att lämna ett så tungt jobb eller kanske befria sig från ansvar som ett sätt att klara sig, lutade Zhang sig in, till stor personlig kostnad, i ett försök att på egen hand rätta till ett fel.

Under året mellan händelserna i Bolivia och hennes avskedande ledde ansträngningen till att hennes hälsa kraftigt försämrades. Hon led redan av ångest och depression, men det blev betydligt – och farligt – värre. Alltid en glupsk läsare av världsnyheter kunde hon inte längre ta avstånd från den politiska turbulensen i andra länder. Trycket knuffade henne bort från vänner och nära och kära. Hon blev allt mer isolerad och gjorde slut med sin flickvän. Hon ökade sin ångest och sin antidepressiva medicin tills hennes dos hade sexdubblats.

Relaterad berättelse

Hur Facebook blev beroende av att sprida desinformation

Företagets AI-algoritmer gav det en omättlig vana för lögner och hatretorik. Nu kan inte mannen som byggde dem fixa problemet.

För Zhang är förklaringen till varför hon brydde sig så mycket bunden i hennes identitet. Hon växte upp i Ann Arbor, Michigan, dotter till föräldrar som hade immigrerat från Kinas fastland. Från tidig ålder hölls hon hög akademisk standard och visade sig vara en brådmogen forskare. När hon var sex eller sju läste hon en inledande fysikbok och blev fascinerad av universums byggstenar. Hennes passion skulle leda henne till att studera kosmologi vid University of Michigan, där hon publicerade två forskningsartiklar, en som ensam författare.

Hon var brinnande smart. Hon kan vara den smartaste student jag någonsin arbetat med, minns Dragan Huterer, hennes rådgivare på grundutbildningen. Jag skulle säga att hon var mer avancerad än en doktorand.

Men hennes barndom präglades också av svåra trauman. Redan som femåring började hon inse att hon var annorlunda. Hon läste en barnbok om en pojke vars vänner sa till honom att om han kysste hans armbåge skulle han förvandlas till en tjej. Jag tillbringade lång tid efter det med att försöka kyssa min armbåge, säger hon.

Hon gjorde sitt bästa för att dölja det och förstod att hennes föräldrar skulle tycka att hennes transpersonidentitet var oacceptabel. Men hon minns tydligt ögonblicket som hennes pappa fick reda på. Det var våren i åttan. Det hade precis regnat. Och hon kröp ihop i badrummet och funderade på om hon skulle hoppa ut genom fönstret när han slog ner dörren.

Till slut valde hon att inte hoppa och lät honom slå henne tills hon var blodig, säger hon: I slutändan bestämde jag mig för att jag var personen som stannade i ofullkomliga situationer för att försöka fixa dem. Dagen efter bar hon en långärmad skjorta för att täcka över blåmärkena och förberedde en ursäkt ifall en lärare skulle märka det. Det gjorde ingen, säger hon.

(När hon nåddes via e-post förnekade hennes pappa anklagelserna. Jag är ledsen att hon påstår att jag slog henne som barn efter att jag upptäckte hennes transpersonidentitet, vilket är helt falskt, skrev han. Men flera personer som kände Zhang från gymnasiet till i dag har bekräftat hennes berättelse om hennes fars kränkande beteende.)

Att ge upp dem och överge dem skulle vara ett svek mot själva kärnan i min identitet.

På college bestämde hon sig för att gå över, varefter hennes far förnekade henne. Men hon upptäckte snart att att äntligen uppfattas korrekt som kvinna fick sina konsekvenser. Jag visste precis hur folk behandlade mig när de trodde att jag var en snubbe. Det var väldigt annorlunda, säger hon.

Efter att ha blivit antagen till alla de främsta doktorandprogrammen för fysik valde hon att gå på Princeton University. Under orienteringen pekade personen som gav en rundtur i maskinverkstaden ut henne upprepade gånger framför gruppen med falska antaganden om att hon var mindre än kompetent. Det var min officiella introduktion till Princeton, och en mycket passande sådan, säger hon.

CHRISTIE DET ÄR EN KLOCKA

Därifrån blev sexismen bara värre. Nästan omedelbart började en manlig student att förfölja och trakassera henne sexuellt. För att klara sig valde hon en avhandlingsrådgivare på biofysikavdelningen, vilket gjorde det möjligt för henne att undkomma sin trakasserare genom att bedriva forskning i en annan byggnad. Problemet var att hon faktiskt inte var intresserad av biofysik. Och oavsett om det var av denna eller andra anledningar upplöstes hennes intresse för fysik långsamt.

Efter tre år, djupt olycklig, bestämde hon sig för att lämna programmet, dock inte utan att slutligen anmäla trakasserierna till universitetet. De var som: ’Det är ditt ord mot hans.’ Du kan säkert gissa nu varför jag utförligt dokumenterade allt jag gav till Julia, säger hon och syftar på Julia Carrie Wong på Guardian. Jag ville inte vara i en annan 'Han sa/hon sa' situation.

(En talesperson för Princeton sa att han inte kunde kommentera individuella situationer men förklarade universitetets åtagande att tillhandahålla en inkluderande och välkomnande utbildnings- och arbetsmiljö. Princeton försöker stödja alla medlemmar av campusgemenskapen som har upplevt sexuella missförhållanden, inklusive sexuella trakasserier, han sa.)

Vad dessa upplevelser har gemensamt är det faktum att jag upprepade gånger har upplevt att falla igenom ansvarets stolpar, skrev Zhang i sitt memo. Jag fick aldrig det stöd från de auktoritetspersoner jag behövde ... I varje fall fullbordade de sin plikt men bröt mot andan och jag betalade priset för deras beslut.

Då kanske du kan förstå varför det här var så personligt för mig själv från första början, varför jag kämpade så hårt för att folket i Honduras och Azerbajdzjan inte skulle glida igenom dessa springor, skrev hon. Att ge upp dem och överge dem skulle vara ett svek mot själva kärnan i min identitet.

Det var under starten av hennes fysiska och mentala nedgång hösten 2019 att Zhang började fundera på om hon skulle träda fram. Hon ville ge Facebooks officiella system en chans att fungera. Men hon oroade sig för att vara en enda punkt av misslyckande. Tänk om jag blev påkörd av en buss dagen efter? hon säger. Hon behövde någon annan för att få tillgång till samma information.

Av en slump fick hon ett mejl från en journalist i sin inkorg. Wong, då senior teknikreporter på Guardian, hade skickat meddelanden till Facebook-anställda som ville odla nya källor. Zhang tog chansen och gick med på att träffas för en off-the-record konversation. Den dagen lämnade hon av sin företagsutfärdade telefon och dator hos en före detta huskamrat som en försiktighetsåtgärd, i vetskap om att Facebook hade förmågan att spåra hennes plats. När hon kom tillbaka såg hon lite lättad ut, minns den före detta huskamraten Ness Io Kain: Man kunde se att hon kände att hon hade åstadkommit något. Det är ganska tyst, men det är definitivt påtagligt.

För ett ögonblick verkade saker på Facebook göra framsteg. Hon såg förändringen i politiken och nedläggningen av Honduras presidents falska nätverk som ett framåtskridande momentum. Hon uppmanades upprepade gånger att hjälpa till att hantera nödsituationer och fick beröm för sitt arbete, som hon fick höra var uppskattat och viktigt.

Men trots hennes upprepade försök att driva på för mer resurser, nämnde ledarskapet olika prioriteringar. De avfärdade också Zhangs förslag på en mer hållbar lösning, som att stänga av eller på annat sätt straffa politiker som var återfallsförbrytare. Det lämnade henne att möta en aldrig sinande brandslang: De manipulationsnätverk hon tog ner kom snabbt tillbaka, ofta bara timmar eller dagar senare. Det kändes allt mer som att jag försökte tömma havet med ett durkslag, säger hon.

Jag har aldrig hatat min autism mer än när jag gick med på Facebook.

Sedan, i januari 2020, vände strömmen. Både hennes chef och chefschef sa åt henne att sluta med sitt politiska arbete och hålla fast vid sitt tilldelade jobb. Om hon inte gjorde det skulle hennes tjänster på företaget inte längre behövas, minns hon att det sistnämnda sa. Men utan ett team tilldelat att fortsätta hennes arbete fortsatte Zhang att göra en del i hemlighet.

När trycket ökade och hennes hälsa förvärrades insåg Zhang att hon till slut skulle behöva lämna. Hon gjorde en plan för att ge sig av efter det amerikanska valet och ansåg att det var den sista och viktigaste händelsen hon behövde ta itu med. Men ledarskapet hade andra planer. I augusti fick hon beskedet att hon skulle få sparken för dålig prestation.

På hennes sista dag, timmar efter att hon postat sitt memo internt, raderade Facebook det (även om de senare återställde en redigerad version efter utbredd ilska hos anställda). Några timmar senare ringde en HR-person till henne och bad henne att också ta bort en lösenordsskyddad kopia som hon hade lagt ut på sin personliga hemsida. Hon försökte pruta: hon skulle göra det om de återställde den interna versionen. Dagen efter fick hon istället ett meddelande från sin värdserver om att den hade tagit ner hela hennes hemsida efter ett klagomål från Facebook. Några dagar efter det tog det ner hennes domän också.

Även efter allt som Facebook utsatte henne för, försummar Zhang att skylla sig själv. I sitt memo bad hon sina kollegor om ursäkt för eventuella problem hon kunde ha orsakat dem och för att hon lämnat dem utan att ha uppnått mer. I till Reddit AMA månader senare bad hon medborgarna i olika länder om ursäkt för att de inte agerade tillräckligt snabbt och för att de inte lyckades nå en långsiktig lösning.

För mig undrar Zhang, som är autist, högt vad hon kunde ha åstadkommit om hon inte varit det. Jag har ingen talang för att övertala och övertyga, säger hon. Om jag var någon född med en silvertunga, kanske jag kunde ha gjort förändringar.

Jag har aldrig hatat min autism mer än när jag gick med på Facebook.

Som förberedelse för att bli offentlig, Zhang gjorde en sista uppoffring: att dölja sin transidentitet, inte av rädsla för trakasserier, utan av rädsla för att det skulle distrahera från hennes budskap. I USA, där transpersoners rättigheter är mycket politiserade, ville hon inte att skyddet av demokratin skulle bli en partipolitisk fråga. Utomlands, där vissa länder behandlar att vara transpersoner som ett brott som kan straffas med fängelse eller till och med döden, ville hon inte att folk skulle sluta lyssna.

Det var i linje med en uppoffring hon upprepade gånger gjort när hon bevakade valinblandning globalt. Hon behandlade alla politiker lika, även när man tog bort den falska aktiviteten av en i Azerbajdzjan oundvikligen gav en motståndare som förespråkade homofobi . Jag gjorde mitt bästa för att skydda demokratin och rättsstatsprincipen globalt för människor, oavsett om de trodde att jag var människa, säger hon med en djup suck. Men jag tycker inte att någon ska behöva göra det valet.

Relaterad berättelse

Recension: Varför Facebook aldrig kan fixa sig själv

I An Ugly Truth avslöjar reportrarna Sheera Frenkel och Cecilia Kang Facebooks grundläggande brister genom en detaljerad redogörelse för åren mellan två amerikanska val.

Natten som Guardian-artiklarna publicerades väntade hon spänt på allmänhetens reaktion, orolig för om hon skulle kunna hantera mediauppmärksamheten. Jag tror att hon faktiskt överraskade sig själv över hur bra hon var i intervjuer, säger hennes flickvän, Lisa Danz, som Zhang blev ihop med efter att ha lämnat Facebook. Hon upptäckte att när det finns material som hon kan mycket väl och hon bara får frågor om det, kan hon svara.

Effekten blev till slut mindre än vad Zhang föreställde sig. S everal halv utlopp ts i USA gjorde uppföljningar, liksom utländska butiker från länder som drabbats av manipulationsverksamheten. Men så vitt hon är medveten om uppnådde den inte vad hon hade hoppats på: en tillräckligt stor PR-skandal för att Facebook äntligen skulle prioritera det arbete hon lämnade efter sig.

Facebook ifrågasätter återigen denna karaktärisering och säger att laget för falskt engagemang har fortsatt Zhangs arbete. Men Zhang pekar på andra bevis: nätverket av falska sidor i Azerbajdzjan finns fortfarande kvar. Det är uppenbart att de inte har varit framgångsrika, säger hon.

Ändå ångrar Zhang inte sitt beslut att träda fram. Jag var den enda i den här ansvarspositionen från början, säger hon, och någon fick ta ansvaret och göra det yttersta för att skydda människor.

Utan att hoppa över ett slag, skramlar hon sedan av sig konsekvenserna som andra har ställts inför för att gå upp mot de mäktiga i mer fientliga länder: journalister som mördas för att utreda regeringskorruption, demonstranter som skjuts ner för att ha registrerat sitt oliktänkande.

Jämfört med dem är jag småpotatis, säger hon.

Korrektion: En tidigare version av artikeln missade ett 'e' på Joe Osborne. Förlåt, Joe.