Facebooks före detta säkerhetschef: Att be Big Tech att polisa hatretorik är en farlig väg

Josh Edelson | Med tillstånd av Stanford University

Fram till för några veckor sedan var Alex Stamos Facebooks säkerhetschef. Han ledde jakten på rysk politisk desinformation på plattformen efter det amerikanska valet 2016. Nu vid Stanford University tillkännagav han nyligen skapandet av Stanford Internet Observatory – ett projekt för att ta itu med hatretorik, propaganda och manipulation genom att sammanföra akademiska forskare, samhällsvetare, beslutsfattare och teknikjättarna själva.

Som många andra tycker Stamos att tekniska plattformar som Facebook och Google har för mycket makt. Men han håller inte med om uppmaningarna att bryta upp dem. Och han hävdar att just de människor som säger att Facebook och Google är för kraftfulla ger dem Mer makt genom att insistera på att de gör mer för att kontrollera hatretorik och propaganda.

Det är en farlig väg, varnar han. Om demokratiska länder får teknikföretag att införa begränsningar för yttrandefriheten, så kommer autokratiska företag också att göra det. Snart kommer tekniken att möjliggöra maskinhastighet, realtidsmoderering av allt vi säger online. När vi försöker tygla Big Tech riskerar vi att skapa Big Brother. Så vad är lösningen? Jag pratade med Stamos på hans kontor i Stanford för att ta reda på det. (Intervjun har komprimerats och redigerats för tydlighetens skull.)

Du sa nyligen att det redan är för sent att rädda mellanårsperioden 2018 från utländsk inblandning. Vem är skyldig att låta det hända, med tanke på allt vi lärde oss 2016?

Tre saker hände under 2016. Det var en desinformations- och propagandakampanj av [Rysslands] Internet Research Agency och relaterade grupper. Det var läckagekampanjen där GRU [ryska militära underrättelsetjänsten] bröt sig in i e-postmeddelandet från DNC [Demokratiska nationella kommittén] och sedan planterade berättelser [i media]. Och det var en utforskande penetration av valsystemen i 21 stater.

Det första problemet har haft mest arbete [gjort på det] eftersom det helt faller inom plattformarnas ansvar. De har definierat vad som är en politisk annons och vad som är en problemannons, skapat annonstransparens, definierat vad som är olämplig samordning och börjat tillämpa dessa regler.

Ryssarna kunde skicka sitt B-lag för att hacka sig in i DNC. Jag är inte säker på att folk är redo för A-laget.'

På GRU:s hack och läcka-kampanj har väldigt lite hänt. Det har skett uppgraderingar av säkerheten vid DNC. Jag förväntar mig att de flesta kampanjer är mer försiktiga. Men det verkar inte finnas någon grossistuppgradering av säkerheten bland kampanjer och kandidater. Ryssarna kunde skicka sitt B-lag för att hacka sig in i DNC. Jag är inte säker på att folk är redo för A-laget.

På den tredje har vi nästan ingenting gjort. Du har fortfarande 10 000 valmyndigheter [i USA] som kör val. Vi har ett antal stater utan pappersbackup [för omröstningar]. Det finns alldeles för många myndigheter som ansvarar för sin egen säkerhet för att vi ska kunna säkra [val] utan att den federala regeringen tillhandahåller en enorm mängd resurser. Det är där jag tror att vi har en av de mest sårbara.

Så är desinformation/propagandaproblemet till största delen löst?

I ett fritt samhälle kommer du aldrig att eliminera det problemet. Jag tror att det viktigaste [i USA] är reklamtransparensen. Med eller utan någon utländsk inblandning delar partierna, kampanjerna, PACs [politiska aktionskommittéer] här i USA upp väljarna i små hinkar, och det är en dålig sak. Transparens är en bra början.

Nästa steg vi behöver är federal lagstiftning för att sätta en gräns för annonsinriktning. Det finns tusentals företag i ekosystemet för internetannonsering. Facebook, Google och Twitter är de enda som har gjort något, eftersom de har fått mest pressbevakning och mest press från politikerna. Så utan lagstiftning kommer vi bara att trycka in alla angripare i den långa svansen av reklam, till företag som inte har dedikerade team som letar efter ryska desinformationsgrupper.

Facebook har kritiserats för rysk politisk inblandning både i USA och i andra länder, folkmordet i Myanmar , och mycket annat. Känner du att Facebook till fullo har förstått omfattningen av sitt inflytande och sitt ansvar?

Jag tror att företaget verkligen förstår dess inverkan. Det svåra är att lösa det. Nittio procent av Facebook-användarna bor utanför USA. Långt över hälften bor i antingen icke-fria länder eller demokratier utan skydd för tal. Ett av problemen är att komma på lösningar i dessa länder som inte omedelbart går till en mycket mörk plats [d.v.s. censur].

'Jag tror att [Facebook] verkligen förstår dess inverkan. Det svåra är att lösa det.'

En annan är att ta reda på vilka problem man ska lägga ingenjörsresurser bakom. Oavsett hur stort ett företag är finns det bara ett visst antal problem du [kan ta itu med]. Ett av problemen som företag har haft är att de är i ett brandbekämpningsläge där de hoppar från nödsituation till nödsituation.

Så när de personalar upp blir det bättre, men vi behöver också en mer informerad extern diskussion om de saker vi vill att företagen ska fokusera på – vilka är problemen som absolut måste lösas och vad som inte är det. Du nämnde en massa problem som faktiskt är väldigt olika, men folk suddar ut dem alla tillsammans.

Tycker du att teknikföretag har för mycket makt? Ska Facebook tvingas avyttra sig från Instagram och WhatsApp, till exempel?

Om antitrustfolk tycker att det är lämpligt att tvinga fram avyttring av enskilda plattformar är det upp till dem. Jag tror inte att det varken löser dessa problem eller gör dem värre. Det som skulle göra saker värre är att bryta upp specifika produkter. Tio WhatsApps är värre än en WhatsApp, och tio Facebooks är värre än en Facebook, eftersom du förlorar stordriftsfördelarna [och] förmågan att ha välbemannade team som är experter på den här typen av övergrepp [hatpropaganda, propaganda, etc. .].

Sanningen är att de stora företagen har varit de lyhörda. Alla ignorerar de små företagen eftersom det inte ger bra rubriker. Facebook har gjort mer än de allra flesta andra företag.

Hur reglerar man i en värld där tekniken går så snabbt framåt medan regleringen går så långsamt? Hur ska ett samhälle sätta vettiga gränser för vad teknikföretag gör?

Men just nu efterfrågar inte samhället gränser för vad de gör. Det efterfrågar att teknikföretag gör det Mer . Och jag tror att det är en farlig väg. I alla de problem du nämnde – rysk desinformation, Myanmar – är det du säger till dessa företag att vi vill att du ska ha mer makt att kontrollera vad andra människor säger och gör.

'Om fem eller tio år kan det finnas... maskinhastighet, realtidsmoderering av allt vi säger online.'

Det är mycket farligt, särskilt med framväxten av maskininlärning. Om fem eller tio år kan det finnas maskininlärningssystem som förstår mänskliga språk lika väl som människor. Vi kan sluta med maskinhastighet, realtidsmoderering av allt vi säger online. Så de krafter vi ger teknikföretagen just nu är de krafter som dessa maskiner kommer att ha om fem år.

Vilket är det grundläggande problemet som Stanford Internet Observatory försöker lösa?

Det finns inget specifikt akademiskt område som studerar missbruk av teknik, förutom högtekniska brister. Datavetenskapliga institutioner forskar om nya typer av utnyttjande, nya typer av buggar, esoteriska kryptografiska lösningar, men du kan inte ta doktorsexamen som studerar mobbning och trakasserier och de tekniska lösningarna på dem. Du kanske har statsvetare som studerar sociala nätverks inverkan på demokratin och personer på psykologavdelningen som studerar effekten av användningen av Instagram på tonåringar som är suicidala, men de saknar tekniska färdigheter och infrastruktur.

Så Stanford Internet Observatory kommer att vara ett permanent program, bemannat med datavetare, mjukvaruingenjörer, utredare och analytiker som förstår hur man interagerar med tekniska plattformar och hur man gör dataanalys i mycket stor skala. Den gruppen kan sedan tillhandahålla tjänster till akademiska grupper överallt och göra sin egen forskning. Då kan vi katalysera arbete som förmodligen inte skulle hända eftersom det inte faller rent in i någon enskild akademisk sfär.

Vilka är några av lösningarna du arbetar med?

Om du tittar på 2016, vad du ser är underrättelsemisslyckanden mellan den amerikanska regeringen [och] allierade regeringar, och mellan dessa regeringar och de tekniska plattformarna. Vi måste fundera över ansvaret för dessa olika grupper och hur man anpassar det faktum att techföretagen agerar på ett kvasi-statligt sätt. Vilken typ av kontroller ska de ha på plats och vid vilken tidpunkt börjar och slutar deras ansvar? Vi arbetar med rekommendationer för kongressen för nästa år.

Vi bygger också upp förmågan att övervaka användningen av desinformation i olika val. Vårt mål är att ha det igång inför de indiska och europeiska valen nästa år.

Demokrater kommer oundvikligen att vara mer mottagliga än republikaner för den här typen av lösningar. Hur gör man detta partipolitiskt?

Tanken att valinblandning bara hjälper republikaner är galen. Den ryska lekboken finns där ute. Svagheterna i vårt system har påvisats. Vi har signalerat till våra motståndare att de kan blanda sig i vårt val och vi kommer inte att göra något för att verkligen straffa det.

'Mitt budskap till republikanerna är: 'Låt oss lösa det här problemet innan ni måste ha en egen 2016.'

Så jag förväntar mig fullt ut att andra motståndare kommer att engagera sig i framtida val. Kina, Iran, Nordkorea – tanken att alla dessa länder kommer att stödja republikaner är löjlig. Så mitt budskap till republikanerna är: Låt oss fixa det här problemet innan ni måste ha ett eget 2016.

Den här diskussionen måste gå förbi Trump. Republikanerna slutar med en hjärnfrysning om du antyder att Trump inte valdes rättvist. Så vi måste bara prata om sårbarheterna och vilken möjlig påverkan det har under 2020. När jag pratar privat med republikaner är de mycket mer mottagliga för detta.

En relaterad fråga är bristen på teknisk läskunnighet bland politiker. Hur löser man det?

Dessa människor har i allmänhet ganska smarta medarbetare, men de flesta av personalen har inte arbetat med teknik. Så vi måste uppmuntra människor som har arbetat inom tekniken att gå och arbeta i DC. Det finns exempel som Chris Soghoian [en teknikaktivist, som nu arbetar för senator Ron Wyden] där tekniker går till kongressen och har enorm inverkan individuellt.

Och det går åt båda hållen. Vi måste lära datavetare om historia och etik, och vi måste undervisa fria konster om grunderna för teknik så att de har förmågan att vara inflytelserika. Förmågan att prata med nördar på ett sätt som de respekterar är enormt kraftfull, och det är något som saknas från kongressen just nu.

Dölj