EmTech Stage: Twitters CTO för desinformation

I den andra av två exklusiva intervjuer satte Technology Reviews chefredaktör Gideon Lichfield sig ner med Parag Agrawal, Twitters tekniska chef för att diskutera ökningen av desinformation på den sociala medieplattformen. Agrawal diskuterar några av de åtgärder företaget har vidtagit för att slå tillbaka, samtidigt som han erkänner att Twitter försöker trä en nål för att mildra skada orsakad av falskt innehåll utan att bli en sanningsdomare. Denna konversation är från EmTech MIT virtuella konferens och har redigerats för tydlighetens skull.

För mer information om detta ämne, kolla in veckans avsnitt av Deep Tech och vår tekniska policytäckning .

Krediter:

Det här avsnittet från EmTech MIT producerades av Jennifer Strong och Emma Cillekens, med särskilt tack till Brian Bryson och Benji Rosen. Vi är redigerade av Michael Reilly och Gideon Lichfield.

Transkript:

Stark: Hej allihop, det är Jennifer Strong tillbaka med del två av vårt samtal om desinformation och sociala medier. Om Facebook är en mötesplats dit du går för att hitta din community, YouTube en konserthall eller backstage för något du är ett fan av, då är Twitter lite som det offentliga torget dit du går för att ta reda på vad som sägs om något. Men vilket ansvar har dessa plattformar när dessa samtal utvecklas? Twitter har sagt att ett av dess ansvar är att se till att det offentliga samtalet är hälsosamt. Vad betyder det och hur mäter man det?

Det är en fråga vi ställer till Twitters teknikchef Parag Agrawal. Här är han, i samtal med Tech Reviews chefredaktör Gideon Lichfield. Den spelades in på vår EmTech-konferens och har redigerats för längd och tydlighet.

Lichfield: För ett par år sedan fanns det ett projekt som du började prata om mätetal som skulle mäta vad ett hälsosamt offentligt samtal är. Jag har inte sett så mycket om det sedan dess. Så vad händer med det? Hur mäter du detta?

Agrawal: För två år sedan, när vi faktiskt arbetade med några personer på MITs medialabb och inspirerade av tänkandet, gav vi oss ut på ett projekt för att arbeta med akademiker utanför företaget, för att se om vi kunde definiera några enkla mätvärden eller mätningar för att indikera det offentliga samtalets hälsa. Vad vi insåg när vi arbetade med experter från många håll är att det är väldigt, väldigt utmanande att koka ner nyanserna och krångligheterna i vad vi anser vara ett hälsosamt offentligt samtal till några enkla att förstå, lättmätbara mått som du kan lita på. Och det här samtalet har informerat om en förändring i vår strategi.

Vad som har förändrats är huruvida vi är föreskrivande eller inte när vi försöker koka ner saker till några siffror. Men vad som återstår är att vi inser att vi måste arbeta med akademiska forskare utanför Twitter, dela mer av vår data i en öppen miljö, där de kan använda den för att göra forskning, för att avancera olika områden. Eh, och det finns ett gäng API-relaterade produkter som vi kommer att leverera under de kommande månaderna. Och en av sakerna som direkt ledde till det samtalet var i april, när vi såg, eh, COVID, eh, vi skapade en slutpunkt för covid-relaterade samtal som akademiska forskare kunde ha tillgång till. Eh, vi har sett forskning i fyra 20 länder, få tillgång till den.

Så i någon mening är jag glad att vi gav oss ut på den resan. Och jag hoppas fortfarande att med detta öppna tillvägagångssätt kommer det att finnas akademiker och vårt samarbete med dem, vilket i slutändan kommer att leda oss att förstå offentliga samtal och hälsosamma offentliga samtal tillräckligt för att kunna koka ner mätningen till några få mätvärden . Men jag är också exalterad över alla andra forskningsvägar som detta tillvägagångssätt öppnar upp för oss.

Lichfield: Har du en uppfattning om hur ett exempel på ett sådant mått skulle se ut?

Agrawal: Så när vi började prata om det här, antog vi att det fanns några mätvärden runt omkring, delar folk en känsla av verklighet? Har människor olika perspektiv och kan de utsättas för olika perspektiv? Vi tänkte på är konversationen civil, eller hur? Så konceptuellt är dessa alla egenskaper vi önskar i ett hälsosamt offentligt samtal. Utmaningen ligger i att kunna mäta dem på ett sätt som kan utvecklas i takt med att samtalet utvecklas, på ett sätt som är tillförlitligt och tål tidens tand, eftersom samtalet för två år sedan var väldigt annorlunda än samtalet idag. Utmaningarna för två år sedan, som vi förstod dem, är väldigt olika idag. Eh, och det är där några av utmaningarna och vår förståelse för vad sund offentlig organisation innebär fortfarande dyker upp för att vi ska kunna koka ner det i dessa enkla mätetal.

Lichfield: Låt oss prata lite om några av de saker du har gjort under de senaste åren. Jag menar, det har uppenbarligen varit mycket uppmärksamhet kring besluten att flagga några av Donald Trumps tweets. Jag tror att det mer systematiska arbetet du har gjort under de senaste åren mot desinformation, kan du sammanfatta huvudpunkterna i det du har gjort?

Agrawal: Vår inställning till det är inte att försöka identifiera eller flagga all potentiell felaktig information. Men vårt tillvägagångssätt bygger på att försöka undvika specifik skada som vilseledande information kan orsaka. Vi har varit fokuserade i vårt tillvägagångssätt och fokuserat på skada som kan göras med desinformation kring covid-19, som har att göra med folkhälsa, där ett fåtal personer som blir felaktigt informerade kan leda till konsekvenser för alla. På samma sätt fokuserade vi på desinformation kring vad vi kallar medborgerlig integritet, vilket handlar om att människor har förmågan att veta hur de ska delta i val.

Så ett exempel, bara för att klargöra detta, handlar om medborgerlig integritet, vi bryr oss om och vi vidtar åtgärder mot innehåll som kan felinformera människor som säger att du ska rösta den 5 november, när valdagen är den 3 november. Och vi försöker inte avgöra vad som är sant eller falskt när någon intar en politisk ståndpunkt eller när någon säger att himlen är lila eller blå, eller röd för den delen. Vårt tillvägagångssätt för desinformation är inte heller en som är fokuserad på att ta bort innehåll som den enda åtgärden, vilket är den regim vi alla har verkat inom i många år. Men det är ett allt mer nyanserat tillvägagångssätt med en rad interventioner, där vi funderar på om visst innehåll ska förstärkas utan sammanhang eller inte, eller om det är vårt ansvar att tillhandahålla något sammanhang så att människor kan se en massa information, men också har förmåga och lätthet att upptäcka allt samtal och sammanhang kring det, att informera sig om vad de väljer att tro på.

Lichfield: Hur utvärderar man om något är skadligt utan att också försöka ta reda på om det är sant, med andra ord, COVID specifikt till exempel?

Agrawal: Det är en bra fråga och jag tror att du i vissa fall litar på trovärdiga källor för att ge det sammanhanget. Så du behöver inte alltid avgöra om något är sant eller falskt, men om det finns risk för skada väljer vi att inte flagga något som sant eller falskt, utan vi väljer att lägga till en länk till trovärdiga källor, eller till ytterligare konversation kring det ämnet, för att ge människor sammanhang kring innehållet så att de kan bli bättre informerade, även när dessa data för förståelse och kunskap utvecklas. Och offentliga samtal är avgörande för den utvecklingen. Vi såg människor lära sig genom Twitter, på grund av hur de blev informerade. Och experter har samtal via Twitter för att förbättra vår förståelse kring denna sjukdom också.

Lichfield: Folk har varnat för QAnon i flera år. Du började ta ner QAnon-konton i juli. Vad tog dig sådan tid? Varför gjorde du... vad förändrades i ditt tänkande?

Agrawal: Det sätt vi tänker om QAnon eller vi tänkte på QAnon är att vi har en samordnad manipulationspolicy som vi har haft ett tag, och hur det fungerar är att vi arbetar med civila myndigheter och människorättsgrupper över hela världen för att försöka förstå vilka grupper, eller vilka organisationer, eller vilken typ av verksamhet som leder till en skada där det kräver åtgärder från oss. I efterhand önskar jag att vi hade agerat tidigare, men eftersom vi förstod hotet väl, genom att arbeta med dessa grupper, tog vi åtgärder och våra handlingar har inneburit en sorts minskad förstärkning av detta innehåll och flaggning av detta innehåll på ett sätt som lett till mycket snabb minskning av mängden räckvidd QAnon och relaterat innehåll fick på plattformen med över 50 %. Och sedan dess har vi sett varaktiga minskningar som ett resultat av denna flytt.

Lichfield: Jag får en hel del frågor från publiken, som typ alla frågar samma sak. Och de frågar i princip, ja, jag ska läsa dem. Vem får bestämma vad som är desinformation? Kan du ge en tydlig klinisk definition av felaktig information? Måste något ha skadlig avsikt för att vara desinformation? Hur vet du om dina trovärdiga källor är sanningsenliga, vad är det som mäter dessa källors trovärdighet och någon som till och med säger att jag har sett desinformation i de så kallade trovärdiga källorna. Så hur definierar du den frasen?

Agrawal: Jag tror att det är vår tids existentiella fråga. Att definiera desinformation är riktigt, riktigt svårt. När vi lär oss genom tiden utvecklas också vår förståelse av sanningen. Vi försöker att inte bedöma sanningen, vi fokuserar på potentiell skada. Och när vi säger att vi lutar oss mot trovärdiga källor, lutar vi oss också mot allt samtal på plattformen som också får prata om dessa trovärdiga källor och pekar ut potentiella luckor som ett resultat av vilka de trovärdiga källorna också utvecklar sitt tänkande eller vad de pratar om. handla om.

Så vi fokuserade mycket mindre på vad som är sant och vad som är falskt. Vi fokuserar mycket mer på potentiell skada till följd av att visst innehåll förstärks på plattformen utan lämpligt sammanhang. Och sammanhang är ofta bara ytterligare samtal som ger en annan syn på ett ämne så att människor kan se vidden av konversationen på vår plattform och utanför och göra sina egna beslut i en värld där vi alla lär oss tillsammans.

Lichfield: Tillämpar du en annan standard på saker som kommer från världsledare?

Agrawal: Vi har en policy kring offentligt innehåll i allmänhetens intresse, det är i vår policyram. Så ja, vi tillämpar olika standarder. Och detta bygger på förståelsen och vetskapen om att det finns visst innehåll från förtroendevalda som är viktigt för allmänheten att se och höra. Och att allt innehåll på Twitter inte bara finns på Twitter. Det är på redaktioner, det är på presskonferenser, men ofta finns källinnehållet på Twitter. Policyn för allmänintresse finns för att säkerställa att källinnehållet är tillgängligt. Vi flaggar dock mycket tydligt för alla runt omkring när sådant innehåll bryter mot någon av våra policyer. Vi tar det djärva draget att flagga det, märka det så att människor har det lämpliga sammanhanget att detta verkligen är ett exempel på en överträdelse, så att folk kan titta på innehållet i ljuset av den förståelsen.

Lichfield: Om du tar president Trump, fanns det en Cornell-studie som visade att - de mätte att 38% av covid-desinformationen nämner honom. De kallade dem den enskilt största drivkraften för desinformation kring COVID. Du flaggade några av hans tweets, men det finns mycket som han lägger ut som inte riktigt når upp till den strikta definitionen av desinformation, och som ändå vilseleder människor om pandemins natur. Så undergräver inte detta, detta undantag för offentliga tjänstemän, hela strategin?

Agrawal: Varje offentlig tjänsteman har tillgång till flera sätt att nå människor. Twitter är en av dem. Vi finns i ett stort ekosystem. Vårt tillvägagångssätt för att märka innehåll tillåter oss att, vid källan, flagga innehåll som potentiellt kan skada människor, och även ge människor ytterligare sammanhang och ytterligare konversation kring det. Så många av dessa studier, och jag är inte bekant med den du citerade, är faktiskt bredare än Twitter. Och handlar de om Twitter så pratar de om räckvidd och intryck, utan att prata om att människor också utsätts för annan information kring ämnet. Nu får vi inte bestämma vad folk väljer att tro, men vi får visa upp innehåll och en mångfald av synpunkter på vilket ämne som helst, så att människor kan ta sina egna beslut.

Lichfield: Det låter lite som att du försöker säga, ja, det är inte bara vårt fel. Det är allas fel. Och därför finns det inte mycket vi kan göra åt det.

Agrawal: Jag tror inte att jag säger det. Vad jag pratar om, ämnena desinformation har alltid funnits i samhället. Vi är nu en kritisk del av det offentliga samtalets struktur, och det är vår roll i världen. Det här är inte ämnen vi får frigöra oss från. Det här är ämnen som kommer att förbli aktuella idag och som kommer att förbli aktuella om fem år. Jag lever inte i illusionen att vi kan göra något som på magiskt sätt gör att problemet med vilseledande information försvinner. Vi har inte den typen av makt eller kontroll. Och jag skulle ärligt talat inte vilja ha den makten eller kontrollen. Men vi har förmånen att lyssna på människor, att ha en mångfald av människor på vår plattform, att de uttrycker en mångfald av synpunkter, de saker som verkligen betyder något för alla, och för att vi ska kunna visa upp dem med rätt sammanhang så att samhället kan lära av varandra och gå framåt.

Lichfield: När man pratar om att låta folk se innehåll och dra sina egna slutsatser eller komma till sina egna åsikter, det är den typen av språk som förknippas med, jag tror att sociala medieplattformar traditionellt presenterade sig själva. 'Vi är bara ett neutralt utrymme, folk kommer och använder oss, vi försöker inte döma.' Och det verkar lite strida mot det du sa tidigare om att vilja främja ett sunt offentligt samtal, vilket helt klart innebär många värderingar om vad som är sunt. Så hur förenar du de två?

Agrawal: Åh, jag säger inte att vi är en neutral part i hela det här samtalet. Som jag sa, vi är en kritisk del av det offentliga samtalets struktur. Och du vill inte att vi ska döma vad som är sant eller vad som är falskt i världen. Och ärligt talat kan vi inte göra det globalt i alla länder vi arbetar i, i alla kulturer och alla nyanser som finns. Vi har dock förmånen att ha alla på plattformen som kan ändra saker, ge människor mer kontroll och måste styra konversationen på ett sätt så att det blir mer mottagligt och gör att fler röster kan höras och för alla. av oss för att bli bättre informerade.

Lichfield: En av de saker som vissa observatörer säger att du kan göra som skulle göra stor skillnad skulle vara att avskaffa funktionen för trendiga ämnen, eftersom det är där en hel del desinformation kommer upp till ytan. Saker som QAnon-hashtaggen räddar barnen, eller så fanns det en konspirationsteori om Hillary Clinton-anställda som riggar valmötet i Iowa. Ibland hittar sådana saker in i trendämnen, och då har de ett stort inflytande. Vad tycker du om det?

Agrawal: Jag vet inte om du såg det, men just den här veckan gjorde vi en förändring i hur trender och trendämnen fungerar på plattformen. Och en av sakerna vi gjorde var att vi kommer att visa sammanhang på allt som trender, så att folk är bättre informerade när de ser vad folk pratar om.

Stark: Vi ska ta en kort paus - men först... jag vill tipsa om en annan show som jag tror att du kommer att gilla. Brave New Planet väger för- och nackdelar med ett brett utbud av kraftfulla innovationer inom vetenskap och teknik. Dr. Eric Lander, som leder Broad Institute of MIT och Harvard, utforskar svåra frågor som

Lander: Ska vi ändra jordens atmosfär för att förhindra klimatförändringar? Och kan sanning och demokrati överleva effekterna av deepfakes?

Stark: Brave New Planet är från Pushkin Industries. Du kan hitta den var du än får dina poddar. Vi kommer tillbaka direkt efter detta.

[Annons]

Stark: Välkommen tillbaka till ett specialavsnitt av In Machines We Trust. Detta är en konversation mellan Twitters tekniska chef Parag Agrawal och Tech Reviews chefredaktör Gideon Lichfield. Om du vill ha mer om detta ämne, inklusive vår analys, vänligen kolla in showanteckningarna eller besök oss på Technology Review dot com.

Lichfield: Valet är uppenbarligen väldigt nära. Och jag tror att många frågar vad som kommer att hända särskilt på valdagen, när rapporter börjar komma in från opinionsundersökningarna finns det oro för att vissa politiker kommer att sprida rykten om våld eller röstfusk eller andra, andra problem , vilket i sin tur kan utlösa demonstrationer och våld. Och så det är något som alla sociala plattformar kommer att behöva reagera på väldigt snabbt i realtid. Vad ska du göra?

Agrawal: Vi har arbetat igenom val i många länder under de senaste fyra åren. Indien, Brasilien, stora demokratier lärde sig genom var och en av dem, och vi har arbetat under åren för att vara bättre förberedda för vad som komma skall. Förra året gjorde vi en förändring kring policyn för att förbjuda all politisk reklam på Twitter, vilket var i väntan på dess potential att göra skada. Och vi ville att vår uppmärksamhet skulle fokuseras, inte på reklam, utan på det offentliga samtalet som sker organiskt för att kunna skydda det och förbättra det, särskilt när det gäller samtal kring valen.

Vi gjorde en hel del arbete med teknik för att bli bättre på att upptäcka och förstå statliga dåliga aktörer och deras försök att manipulera val, och vi har varit väldigt transparenta om detta. Vi har publicerat hundratals sådana operationer till allmänheten från över 10 länder, med tiotusentals konton var och en och terabyte med data som gör det möjligt för personer utanför företaget att analysera det och förstå manipulationsmönstren. Och vi har gått vidare med produktförändringar för att göra det mer hänsynsfullt och omtänksamt i hur människor delar innehåll och hur människor förstärker innehåll.

Så vi har gjort en massa av det här arbetet som förberedelser och genom lärande på vägen. För att få ett svar om valnatten. Vi har också stärkt policyerna för vår medborgerliga integritet för att inte tillåta någon, någon kandidat eller någon över alla raser att kunna göra anspråk på ett val när en vinnare inte har utropats. Vi har också strikta åtgärder för att undvika uppvigling till våld. Och vi har ett team redo, som kommer att arbeta 24/7 för att försätta oss i ett agilt tillstånd.

Med det sagt, vi har gjort ett gäng arbete för att förutse vad som kan hända, men en sak som vi säkert vet är att det som sannolikt kommer att hända inte är något vi exakt har förutsett. Så vad kommer att vara viktigt för oss den kvällen och framåt, och till och med fram till den tiden att vara förberedda, att vara smidiga, att svara på feedbacken vi fick på plattformen, att svara på konversationen du ser på och utanför plattformen, eh, och försöka göra vårt bästa för att tjäna det offentliga samtalet i denna viktiga tid i detta land.

Lichfield: Någon i, eh, i publiken frågade något som jag inte tror att du skulle gå med på, vilket var, sa de, borde Facebook och Twitter stängas av i tre dagar före valet? Men kanske en mer blygsam version av det vore, finns det något slags innehåll som du tycker borde stängas ner precis innan ett val?

Agrawal: Bara den här veckan är en av de framträdande förändringarna som är värda att prata om i detalj att vi fick människor att tänka mer, mer eftertanke när de retweetar. Så istället för att enkelt kunna retweeta innehåll utan ytterligare kommentarer, lägger vi nu till som standard att folk lägger till en kommentar när de retweetar. Och detta är av två skäl, en för att lägga till ytterligare överväganden när du retweetar och förstärker visst innehåll och två, för att få innehåll att delas med mer sammanhang om vad du tycker om det så att folk förstår varför du delar det, och vad sammanhanget kring samtalsuppsättningen är. Vi fick också trenderna att förändras som jag beskrev tidigare. Det här är ändringar som är avsedda att få konversationen på Twitter att bli mer genomtänkt.

Som sagt, Twitter kommer att vara ett väldigt, väldigt kraftfullt verktyg under valtiden för att människor ska förstå vad som händer, för att människor ska få riktigt viktig information. Vi har etiketter på alla kandidater. Vi har information på plattformen om hur de kan rösta. Vi har feedback i realtid från människor över hela landet, som berättar för folk vad som händer på plats. Och allt detta är viktig information för alla i det här landet att vara medvetna om under den tiden. Det är ett ögonblick då var och en av oss letar efter information och vår plattform fyller en särskilt viktig roll den dagen.

Lichfield: Du är fångad i en lite svår plats eftersom någon i publiken också påpekar, att du försöker bekämpa desinformation, du vill också skydda yttrandefriheten som ett kärnvärde, och även i USA som den första ändring. Hur balanserar du dessa två?

Agrawal: Vår roll är inte att vara bunden av det första tillägget, utan vår roll är att tjäna ett hälsosamt offentligt samtal och våra rörelser återspeglar saker som vi tror leder till ett hälsosammare offentligt samtal. Den typ av saker som vi gör åt det här är att fokusera mindre på att tänka på yttrandefriheten, utan på att tänka på hur tiderna har förändrats. En av förändringarna idag som vi ser är tal är lätt på internet. De flesta kan prata. Där vår roll särskilt framhålls är vem som kan höras. Den bristvara idag är uppmärksamhet. Det finns mycket innehåll där ute. Många tweets där ute, inte allt får uppmärksamhet, någon delmängd av det får uppmärksamhet. Och så alltmer rör sig vår roll mot hur vi rekommenderar innehåll och den sortens, är, är, en kamp som vi arbetar igenom när det gäller hur vi ser till att dessa rekommendationssystem som vi bygger, hur vi riktar människors uppmärksamhet leder till ett hälsosamt offentligt samtal som är mest deltagande.

Lichfield: Nåväl, vi har inte tid, men tack för en riktigt intressant inblick i hur du tänker kring dessa mycket komplicerade frågor.

Agrawal: Tack Gideon för att du har mig.

[Musik]

Stark: Om du vill höra vårt nyhetsrums analys av detta ämne och valet... Jag har släppt en länk i våra programanteckningar. Jag hoppas att du kollar upp det. Det här avsnittet från EmTech producerades av mig och av Emma Cillekens, med särskilt tack till Brian Bryson och Benji Rosen. Vi är redigerade av Michael Reilly och Gideon Lichfield. Som alltid, tack för att du lyssnade. Jag är Jennifer Strong.

[TR ID]

Dölj