EmTech Stage: Facebooks CTO för desinformation

Desinformation och sociala medier har blivit oskiljaktiga från varandra; i takt med att plattformar som Twitter och Facebook har vuxit till en världsomspännande storlek, så har även hotet från spridningen av falskt innehåll ökat. Mitt under en flyktig valsäsong i USA och en rasande global pandemi visas kraften hos information för att ändra åsikter och rädda liv (eller äventyra dem). I den första av två exklusiva intervjuer med två av teknikvärldens mäktigaste personer sätter sig Technology Reviews chefredaktör Gideon Lichfield med Facebooks CTO Mike Schroepfer för att prata om utmaningarna med att bekämpa falskt och skadligt innehåll på en onlineplattform som används av miljarder runt om i världen. Denna konversation är från EmTech MIT virtuella konferens och har redigerats för längd och tydlighet.

För mer information om detta ämne, kolla in veckans avsnitt av Deep Tech och vår tekniska policytäckning .

Krediter:

Det här avsnittet från EmTech producerades av Jennifer Strong och Emma Cillekens, med särskilt tack till Brian Bryson och Benji Rosen. Vi är redigerade av Michael Reilly och Gideon Lichfield.

Transkript:

Stark: Hej allihop, det är Jennifer Strong. Förra veckan lovade jag att välja ut något att spela för dig från EmTech, vårt nyhetsrums stora årliga konferens. Så här är det. Med det amerikanska valet bara några dagar kvar, kommer vi att dyka rakt in i ett av de mest omtvistade ämnena inom teknikvärlden och bortom - desinformation.

Nu börjar mycket av detta på konspirationswebbplatser, men det är på sociala medier som det förstärks och sprids. Dessa företag vidtar allt mer djärva åtgärder för att förbjuda vissa typer av falska nyheter och extremistgrupper, och de använder teknik för att filtrera bort desinformation innan människor kan se den. De hävdar att de blir bättre och bättre på det, och en dag säger de att de kommer att kunna göra internet säkert igen för alla. Men kan de verkligen göra det?

I de kommande två avsnitten ska vi träffa de tekniska cheferna för Facebook och Twitter. De har båda tagit VÄLDIGT olika tillvägagångssätt när det kommer till desinformation, delvis för att mycket av det som händer på Facebook är i privata grupper, vilket gör det svårare att ta itu med. På Twitter händer det mesta offentligt. Så först ut - Facebook. Här är Gideon Lichfield, chefredaktör för Tech Review. Han är på EmTechs virtuella huvudscene för en session som frågar: 'Kan AI städa upp internet'? Den här konversationen har redigerats för längd och tydlighet.

Lichfield: Jag ska vända mig till vår första talare, som är Mike Schroepfer. Allmänt känd för alla sina kollegor som Schrep. Han är CTO för Facebook. Han har jobbat på Facebook sedan 2008 och när det var mycket mindre och han blev CTO 2013. Förra året skrev The New York Times en stor profil av honom, vilket är väldigt intressant läsning. Den fick titeln 'Facebook's AI whiz står nu inför uppgiften att rensa upp den. Ibland får det honom att gråta. Schrep, välkommen. Tack för att du är med oss ​​på EmTech.

Schroepfer: Hej Gideon, tack. Glad att vara här.

Lichfield: Facebook har gjort några ganska aggressiva drag, särskilt under bara de senaste månaderna. Du har vidtagit åtgärder mot QAnon, du har förbjudit förnekelse av förintelsen och anti-vaccinationsannonser. Men folk har varnat för QAnon i flera år, folk har varnat för felaktig information mot vaccination i flera år. Så varför tog det dig så lång tid? Vad, vad, förändrades i ditt tänkande för att få dig att vidta denna åtgärd?

Schroepfer: Ja, jag menar, världen förändras hela tiden. Det finns många nya uppgifter som du vet, om uppkomsten av antisemitiska trosuppfattningar eller bristande förståelse om Förintelsen. QAnon du vet har blivit mer hot om våld de senaste åren. Och tanken att det skulle finnas hot om våld kring ett val i USA är en ny sak. Och så, särskilt runt platser där samhället och saker som är kritiska händelser, som ett val, gör vi allt vi kan för att se till att människor känner sig trygga och säkra och informerade för att fatta beslutet de får fatta för att välja vem sitter i regeringen. Och så vi vidtar mer aggressiva åtgärder.

Lichfield: Du sa något nyss, du sa att det fanns mycket data. Och den typen av resonans hos mig med något som jag hade Alex Stamos, tidigare säkerhetschef på Facebook, sa han nyligen i en podcast, att på Facebook fattas beslut verkligen på grundval av data. Så är det som du behöver, du behövde ha överväldigande databevis, men du vet, förnekelsen av förintelsen orsakar skada eller QAnon orsakar skada innan du vidtar åtgärder mot det.

Schroepfer: Det jag skulle säga är detta. Vi driver en tjänst som används av miljarder människor runt om i världen, så ett misstag jag inte vill göra är att anta att jag förstår vad andra människor behöver, vad andra människor vill ha eller vad som händer. Och så, ett sätt att undvika det är att lita på expertis där vi har den. Så, du vet, till exempel för farliga organisationer, vi har många människor med bakgrund i kampen mot terrorism, åkte till West Point, vi har många människor med brottsbekämpande bakgrund där du pratar om röstinblandning, vi har experter med bakgrund och röstning och rättigheter.

Och så du, du lyssnar på experter, eh, och du tittar på data och du, och du försöker förstå det ämnet snarare än, du vet, du vill inte att jag fattar dessa beslut. Du, du vill ha typ av experter och du vill att data ska göra det. Och eftersom det inte bara är, du vet, den här frågan här, det är, det är frågor om integritet, det är frågor och lokaler, och, och, så jag skulle säga att vi försöker vara noggranna med att använda sorts expertis och data där vi kan, så vi gör inga antaganden om vad som händer i världen eller vad vi tror att människor behöver.

Lichfield: Nåväl, låt oss prata lite mer om QAnon, speciellt eftersom det tillvägagångssätt som du uppenbarligen tar för att hantera denna information, när du försöker träna dina AI:er att känna igen saker som är skadliga. Och svårigheten med det här tillvägagångssättet är att desinformationen hela tiden ändrar sin kontextspecifika natur, eller hur? Och desinformation om muslimer i Myanmar, vilket utlöste upplopp där. Du vet inte att det är desinformation förrän det börjar dyka upp. Problemet det verkar för mig med Q Anon är att det är ett sådant, det är inte som ISIS eller något. dess övertygelser fortsätter att förändra kontona, fortsätt att förändras. Så, hur tacklar man något som är så illa definierat som ett sådant hot?

Schroepfer: Tja, du vet, jag kommer att prata om detta och, och jag tror att en av de, ur ett tekniskt perspektiv, en av de svåraste utmaningarna som jag har varit mycket fokuserad på de senaste åren, på grund av liknande problem i form av subtilitet, kodat språk och kontradiktoriskt beteende, vilket är hatretorik. Det finns öppet hatretorik, vilket är väldigt uppenbart och du kan använda sorters fraser som du har lagt eller, eller, eller nyckelord. Men folk anpassar sig och de använder kodat språk och de gör det, du vet, dagligen, veckovis. Och du kan till och med göra detta med memes där du har en bild och sedan lägger du några ord ovanpå den, och det ändrar helt innebörden. Du luktar gott idag. Och bilderna på skunk är en helt annan sak än, du vet, en blomma, och du måste sätta ihop allt.

Och så, um, och på liknande sätt, som du säger, med QAnon och det kan finnas subtilitet och sådana saker. Det är därför jag har varit så fokuserad på, du vet, ett par viktiga AI-teknologier. En är att vi dramatiskt har ökat kraften hos dessa klassificerare att förstå och hantera nyanserad information. Du vet, för fem eller tio år sedan var typ nyckelord förmodligen det bästa vi kunde göra. Nu är vi vid den punkt där våra klassificerare upptäcker fel i märkningsdata eller fångar upp fel som mänskliga granskare ibland gör. Eftersom de är kraftfulla nog att fånga subtilitet i ämnen som, är detta ett inlägg som uppmuntrar till våld mot en väljare? Eller uttrycker de bara missnöje med att rösta eller denna befolkning? Det är två väldigt... tyvärr är det en, det är en fin linje när man ser på hur försiktiga människor försöker vara med att koda språket för att komma runt det.

Och så ser du liknande saker med QAnon och andra. Och så vi har klassificerare nu när, du vet, vårt toppmoderna arbete på flera språk och är verkligen imponerande i vad de har gjort genom tekniker som vi kan gå in på som självövervakning, um, att titta på, du vet, miljarder databitar för att träna. Och sedan den andra saken vi har är att vi använder en liknande teknik som den här, som låter oss göra, du vet, det bästa sättet att beskriva det som en sorts luddig matchning. Som är som en mänsklig granskare, spenderar tiden och säger, vet du vad, jag tror att dessa bitar av desinformation, eller det här är en QAnon-grupp, även om den är kodad på olika språk, vad vi sedan kan göra är att fläkta ut och hitta saker som är semantiskt lika, inte de exakta orden, inte nyckelord, inte regexes, um, men saker som är väldigt nära i a, i ett inbäddningsutrymme som är semantiskt lika. Och då kan vi vidta åtgärder mot dem.

Och detta tillåter vad jag kallar snabb reaktion. Så även om jag inte hade någon aning om vad det här var igår, idag, om ett gäng mänskliga granskare hittar det, kan vi sedan förstärka deras arbete över hela nätverket och implementera det proaktivt när som helst ny information. Bara för att sätta detta i ett sammanhang, du vet, under andra kvartalet tog vi ner 7 miljoner delar av covid-desinformation. Under fjärde kvartalet förra året fanns det uppenbarligen inget sådant som felaktig information om covid. Så vi var tvungna att bygga en ny klassificeringsteknik för att göra detta. Och det jag har utmanat laget är som att få ner vår klassificerares byggtid från vad som brukade vara många, många månader till, du vet, vad, ibland veckor, till dagar, till minuter. Första gången jag ser ett exempel, eller första gången jag läser en ny policy, vill jag kunna bygga en klassificerare som är funktionell i, ni vet, i miljardanvändarskala. Och du vet, vi är inte där än, men vi gör snabba framsteg

Lichfield: Väl. Så jag tror att det här är vad frågan är, hur snabba är framstegen, eller hur? Det där 7 miljoner desinformationsstatistiken. Jag såg det citerat av en talesperson för Facebook som svar på en studie som kom ut från Avaaz i augusti. Och den hade tittat på covid-desinformation som fann att de 10 bästa webbplatserna som spred desinformation hade fyra gånger så många uppskattade visningar på Facebook som motsvarande innehåll från webbplatserna för 10 ledande hälsoinstitutioner, som WHO, fann de att endast 16 % av all desinformation om hälsa, de analyserade, hade en varningsetikett från Facebook. Så med andra ord, du gör uppenbarligen mycket, du gör mycket mer än du gjorde och du, och du är fortfarande, med den räkningen långt efter kurvan. Hur, och det här är en kris som dödar människor. Så hur lång tid kommer det att ta dig att komma dit, tror du?

Schroepfer: Ja, jag menar, jag tror att, du vet, det är här, du vet, jag skulle vilja att vi publicerar mer information om detta. För vad du egentligen behövde för att jämföra äpplen med äpplen är den övergripande räckvidden för denna information, och typ vad är informationen, typ av exponeringsdiet för den genomsnittliga Facebook-användaren. Och jag tror att det finns ett par bitar som folk inte förstår. Den första är att de flestas nyhetsflöde är fyllt med innehåll från deras vänner. Som, nyhetslänkar, dessa är en slags minoritet av alla åsikter och folks nyhetsflöde och Facebook. Jag menar, poängen med Facebook är att få kontakt med dina vänner och du har förmodligen upplevt detta själv. Det är, du vet, inlägg och bilder och sånt.

För det andra, om saker som covid-desinformation, som vad du verkligen måste jämföra det med är att jämföra det, till exempel, med synpunkter på vårt covid-informationscenter, som vi bokstavligen tryckte till toppen av nyhetsflödet så att alla kunde få information på det. Vi gör liknande saker, um, för att rösta. Vi har hjälpt till att registrera nästan två och en halv miljon väljare, i USA. Liknande information, ni vet, för frågor om rasrättvisa med tanke på alla hemska händelser som har hänt i år. Så vad jag inte har är den omfattande studien av, du vet, hur många gånger har någon tittat på COVID-informationshubben jämfört med dessa andra saker? Du vet, men min gissning är att de får mycket mer av den bra informationen från oss.

Men se, du vet, när som helst något av det här flyr jag, är jag inte klar än. Det är därför jag fortfarande är här och gör mitt jobb är att vi vill bli bättre. Och, och, och ja, jag önskar att det var 0%. Jag önskar att våra klassificerare var 99,999 % korrekta. Dom är inte. Du vet, mitt jobb är att få dit dem så snabbt som mänskligt möjligt. Och när vi slutar det här samtalet, det är det jag ska jobba på. Vad jag kan göra är att bara titta på den senaste historien och projektframsteg framåt. För jag kan inte fixa det förflutna, men jag kan fixa idag och imorgon. När jag tittar på saker som, ni vet, hatretorik, där, ni vet, 2017, först hittade våra system bara ungefär en fjärdedel av delarna av hatretorik. Nästan tre fjärdedelar av det hittades av någon på Facebook först. Vilket är hemskt, vilket betyder att de blev utsatta för det och var tvungna att rapportera det till oss. Och nu är siffran uppe i 99, 94,5 %. Till och med under det sista, du vet, mellan andra kvartalet i år och samma tid förra året, 5Xed vi, mängden innehåll vi tar ner för hatretorik. Och jag kan spåra allt det där. Nu borde den siffran vara 99,99 och vi borde inte ens ha den här konversationen för du borde säga, jag har aldrig sett något av det här, och jag har aldrig hört talas om det, för det är borta.

Det är mitt mål, men jag kan inte nå dit än. Men om du bara tittar på det sista, du vet, när jag säger något 5Xs på ett år, eller det går från 24 % till 94 % på två år, som, och jag säger, vi har ett, vi är inte , Jag har inte slut på idéer, vi distribuerar fortfarande toppmoderna saker som den här veckan, nästa vecka, förra veckan, då är det därför jag är optimistisk överlag att vi kommer att flytta detta problem till en plats där det inte är det första du vill prata med mig om men jag är inte där än.

Lichfield: Det är ett tekniskt problem. Det är också uppenbarligen ett arbetskraftsproblem. Du kommer uppenbarligen att bli bekant med, eh, memo som Sophie Zhang, som var en före detta Facebook-dataforskare skrev när hon gick. Och hon skrev om hur hon arbetade i ett av teamen, ni har flera team som arbetar med att försöka identifiera skadlig information runt om i världen. Och hennes huvudsakliga klagomål, det verkar vara att hon kände att de här teamen var underbemannade och att hon var tvungen att prioritera beslut om huruvida, du vet, desinformation kring ett val i ett land skulle behandlas som farligt. Och när det, de besluten man prioriterade, kan det ibland ta månader för ett problem att hanteras och det kan få verkliga konsekvenser. Um, du har, jag tror, ​​vilka 15 000 mänskliga moderatorer just nu, tror du att du har tillräckligt med folk?

Schroepfer: Jag tror aldrig att vi har tillräckligt med folk på något. Så jag, du vet, jag har ännu inte varit på ett projekt där vi letade efter saker att arbeta med och jag menar det på allvar. Och vi, ni vet, på 35 000 personer som arbetar med detta från, ni vet, granskning och innehåll och säkerhets- och säkerhetssidan. Den andra saken som jag tror att vi inte pratar mycket om är, om du går och pratar med cheferna för mitt AI-team och frågar dem vad Schrep har bett oss att göra de senaste tre åren, det är integritet, det är innehållsmoderering . Det är inte coolt, nya saker. Det är som, hur bekämpar vi det här problemet? Och det har gått flera år vi har jobbat på det.

Så jag har tagit typ det bästa och det smartaste vi har i företaget och sagt, du vet, och det är inte så att jag måste beordra dem att göra det för att de vill jobba på det. Jag säger, vi har det här enorma problemet, vi kan hjälpa till, låt oss göra det här. Är vi klara ännu? Nej. Är jag otålig? Absolut. Önskar jag att vi hade fler som jobbade med det? Hela tiden. Du vet, vi måste göra våra avvägningar om dessa saker, och så, du vet, um, men mitt jobb, du vet, och vad vi kan göra med tekniken är att ta bort några av dessa avvägningar. Du vet, varje gång vi distribuerar en ny, kraftfullare klassificerare, um, som tar bort massor av arbete från våra mänskliga moderatorer, som sedan kan arbeta med problem på högre nivå. Du vet, istället för du, du vet, riktigt enkla beslut, de går vidare till desinformation och riktigt vaga saker och utvärderar farliga grupper och den sortens förflyttning av människor uppför svårighetskurvan är också att förbättra saker och ting. Och det är vad vi försöker göra.

Stark: Vi kommer att ta en kort paus - men först vill jag föreslå en annan show som jag tror att du kommer att gilla. Brave New Planet väger för- och nackdelar med ett brett utbud av kraftfulla innovationer inom vetenskap och teknik. Dr Eric Lander, som leder Broad Institute of MIT och Harvard utforskar svåra frågor som;

Lander: Ska vi ändra jordens atmosfär för att förhindra klimatförändringar? Och kan sanning och demokrati överleva effekterna av deepfakes?

Stark: Brave New Planet är från Pushkin Industries. Du kan hitta den var du än får dina poddar. Vi kommer tillbaka direkt efter detta.

[Annons]

Stark: Välkommen tillbaka till ett specialavsnitt av In Machines We Trust. Det här är en konversation mellan Facebooks Mike Schroepfer och Tech Reviews chefredaktör Gideon Lichfield. Det hände live på den virtuella scenen av vår EmTech-konferens, och det har redigerats för längd och tydlighet. Om du vill ha mer om detta ämne, inklusive vår analys, vänligen kolla in showanteckningarna eller besök oss på Technology Review dot com.

Lichfield: Ett par frågor som jag ska slänga in från publiken, hur påverkar desinformation Facebooks intäktsström? Och en annan är, um, om hur påverkar det förtroendet för Facebook? Jo, det verkar finnas en underliggande brist på förtroende för Facebook och hur mäter man förtroende? Och uttrycket som vi vill sätta på dessa frågor är, helt klart att du bryr dig om desinformation, helt klart att många av de som arbetar på Facebook bryr sig om det eller är oroliga för det, men det finns, jag tror att en underliggande fråga som folk har är bryr sig Facebook som företag om det, påverkas det av det tillräckligt negativt för att det verkligen ska kunna ta itu med problemet på allvar?

Schroepfer: Ja. Jag menar, se, jag är en person i samhället också. Jag bryr mig mycket om demokrati och framtiden och att främja människors liv på ett positivt sätt. Och jag utmanar dig att hitta, du vet, någon som känner annorlunda på våra kontor. Och så vi, ja, vi jobbar på Facebook, men vi är människor i världen och jag bryr mig mycket om framtiden för mina barn. Och tja, tja, du frågar, bryr vi oss? Och svaret är ja. Du vet, har vi incitamenten? Som vad har vi spenderat mycket av vår tid på att prata om idag? Vi pratade om desinformation och andra saker, du vet, ärligt talat, vad skulle jag hellre prata om? Jag skulle hellre prata om VR och och positiva användningar av AR och all den fantastiska nya teknologin vi bygger, för, du vet, det är, det är normalt vad en CTO skulle prata om.

Så det är uppenbarligen något som utmanar förtroendet för företaget, förtroendet för våra produkter, som är ett stort problem för oss, ehm, ur egenintressesynpunkt. Så även om du tror att jag är full av det, du bara, från en praktisk egenintressesynpunkt, som ett varumärke, som en konsumentprodukt som folk frivilligt använder varje dag, när jag försöker sälja en ny produkt som Portal , som är en kamera för ditt hem, som att folk litar på företaget som ligger bakom den här produkten och tror att vi har, du vet, deras, deras bästa avsikter i hjärtat. Om de inte gör det kommer det att bli en enorm utmaning för absolut allt jag gör. Så jag tror att intressena här är ganska samstämmiga. Jag tror inte att det finns många bra exempel på konsumentprodukter som är gratis, som överlever om folk inte gillar dem, inte gillar företagen eller tycker att de är dåliga. Så detta är ur en egenintressesynpunkt, en kritisk fråga för oss.

[Krediter]

Stark: Det här samtalet med Facebooks CTO är det första av två avsnitt om desinformation och sociala medier. I nästa del chattar vi med Twitters CTO. Om du vill höra vårt nyhetsrums analys av detta ämne och valet, har jag släppt en länk i våra programanteckningar. Jag hoppas att du kollar upp det. Det här avsnittet från EmTech producerades av mig och av Emma Cillekens, med särskilt tack till Brian Bryson och Benji Rosen. Vi är redigerade av Michael Reilly och Gideon Lichfield. Som alltid, tack för att du lyssnade. Jag är Jennifer Strong.

[TR ID]

Dölj