Middag i antibiblioteket

Marius förbannade och klämde fast ett mikrofonstativ mellan krockbalkarna på TV-studiodörren. Om SWAT är på väg har vi inte mycket tid, sa han.
Jag förstår inte. Michaela, som fram till för ett par minuter sedan hade streamat sin intervju live, satt fortfarande på en av de ovala stolarna under de heta ljusen. Vad pratar de om?

Den kubformade tv-studion hade svartmålade väggar som omgav det ljusa scenområdet. Stora monitorer på väggarna visade samma liveflöde som de hade för fem minuter sedan, men nu blinkade en röd banderoll längst ner på skärmarna: AKTIV SKÖTARE VID KOMPLETT BILDERBYGGANDE.

Den här historien var en del av vårt septembernummer 2018

• Se resten av frågan
• Prenumerera

Michaela pekade på en rörlig gestalt på skärmen. Det ser ut som du - men -

Marius nickade. Äh-ha. Tydligen gillar jag automatgevär.

Adan, deras kameraman, hade ringt upp ett lokalt nyhetsflöde efter att de första ropen av panik och förvirring filtrerat genom studions tjocka dörrar. Vad den visade var helt och hållet inte vad de tre såg. Marius befann sig i den fönsterlösa studion på andra våningen, tomhänt, men monitorerna visade vad som såg ut som en drönarmatning av honom som rörde sig in och ut ur synen genom byggnadens fönster på 10:e våningen. Han var beväpnad, och då och då pausade han och sköt, lugnt och metodiskt.

Marius skakade avsky på huvudet. Hej, Adan, kan du hjälpa mig med det här?

Kameramannen låg böjd över sin bärbara dator. Förlåt, jag måste ta reda på vem som har kapat vår signal.

Samma personer som äger SWAT-teamet, sa Marius. Men glöm vad jag sa. Jag tror det är bättre att du går härifrån.

Varför?

Se. Marius pekade på monitorerna. De visade ett virrvarr av vittnesmobilvideor. Där! Ett flitigt skott visade en man som låg i en korridor, döda ögon stirrade uppåt, en mörk fläck på bröstet.

Men ... Adan gapade. Det är jag.

Ja. Den här scenen är inte verklig än. Lyssna, Adan, jag menar det: du måste gå. SWAT-teamet är inte på väg hit för att rädda någon av oss. De är här för att se till att det som finns där uppe – pekade han – stämmer överens med det som finns här nere.

Michaela reste sig och stirrade på honom. Så det är på riktigt. Antibiblioteket är verkligt.

Och snart, antinätet. Michaela, jag är så ledsen. Jag borde inte ha sagt något. Jag visste att de kanske tittade. Trodde att de skulle bli arga om jag avslöjade det, men jag trodde aldrig att de skulle göra det här. Med dörren åtminstone något säker gick han till Adan vid mixerbordet. Någon lycka?

Adan skakade på huvudet. Jag vet inte om de avlyssnar vårt flöde här inne, vid routern eller någonstans utanför.

Allt det här materialet, sa Michaela. Datorgenereras den i realtid? Som du sa — av ett antibibliotek?

Ja. Han log sorgset mot henne. Du fick mer än du hade räknat med, antar jag. Ärligt talat, jag tänkte bara prata om Augmented Manners. Jag antar att du tryckte på mina knappar, jag...

SWAT-teamet är inte på väg hit för att rädda någon av oss. De är här för att se till att det som finns där uppe stämmer överens med det som finns här nere.

Det är okej. Hon tittade på monitorerna, lite bedrövad själv. Att gräva efter sanningen är vad jag gör, eller brukade göra. Tydligen är jag bra på det ... Vad gör vi nu?

TV-apparaterna visade ett svart pansarfartyg som plöjde upp avenyn, med Complete Pictures som byggde några kvarter framför den.

Jag tror, ​​sa Marius med en grimas, vi är på väg att försvinna.

---

För Michaela hade denna morgon utlovat något annat än bitter besvikelse, för en förändring. Hon hade ägnat de senaste två åren åt att försöka bygga upp sin karriär igen, efter att hon avslöjat oegentligheter i kampanjen i förra valet. Hon hade blivit stämd för förtal, doxad och gjort en paria av den vinnande sidan, och till slut förlorade hon sitt jobb.

Nu, efter månader av att spela in blomshower och kostymkonvent för lokal TV, hade hon äntligen jagat en vän till en vän som kände någon och lyckats skapa en exklusiv intervju med en växande IT-gud. Marius Rivas, redan en mindre kändis i hackervärlden, var ung, karismatisk och engagerande, ännu inte rik men säker på att bli miljardär om några år; och han var notoriskt svår att hitta, än mindre intervju. Michaela använde sin produkt, Augmented Manners. Helvete, nästan alla hon kände gjorde det – en av tio amerikanska vuxna, enligt företagets reklamblad. På gatan kallade folk den redan för den nya iPhone, årtiondets oumbärliga uppfinning. Men traditionella medier visste inte vad de skulle göra av det. Deras tvekan hade gett henne den öppning hon behövde.

Välkommen tillbaka till nyhetsflödet för kompletta bilder. Jag heter Michaela Kline – ja, den där Michaela Kline – och idag pratar jag med Marius Rivas, grundare och VD för Augmented Manners. Hon vände sig mot honom med ett leende. Marius, du har kallat den 'den första riktiga politiska appen.' Det är bara en telefonapp, men den har den här magiska förmågan att få människor att arbeta tillsammans. Hur gör den detta?

Marius flinade och ryckte på axlarna, en jösses gest som skulle göra stora saker för hans image. Det är ganska okomplicerat, faktiskt. Du förstår, när folk pratar menar de ofta helt olika saker med samma ord. Säg, vad jag menar med 'liberal' kan skilja sig mycket från vad du menar. Eller, säg, 'familjevärderingar.' Eller till och med 'rättvisa' eller 'sanning.' Och det är problemet: människor som tror att de delar samma språk pratar förbi varandra, eftersom de faktiskt inte delar en förståelse för den del av språket som betyder något — konnotationer av ord.

Augmented Manners använder simultanöversättningsteknik för att översätta inom det engelska språket, snarare än mellan det och ett annat. Om appen har tillgång till profilen på sociala medier för personen du pratar med kan den bedöma hur de uttrycker sig ganska bra. Med din egen röst kommer den att ändra triggerord och fraser till mer neutrala synonymer. I grund och botten fungerar det som en översättare, eller medlare, som hjälper den andra sidan att höra vad du menar snarare än bara vad du säger.

Varför tror du att det grips så snabbt?

Han började prata glatt om adoptionsfrekvens och strukturerade dialoger, och Michaela började slappna av.

Och det kanske hade gått bra om hon inte hade frågat Marius var han kom ifrån.

---

Marinen hade sin egen cyberkrigföringsenhet. Jag gjorde allt jag kunde för att förflytta mig till det. Jag ville tjäna mitt land på det bästa sätt jag visste – genom att programmera. Det första projektet jag fick var att bekämpa falska nyheter. Vi blev tillsagda att komma på ett sätt att desarmera det – för det är propaganda, eller hur? Det är desinformation eller lögner som tjänar fienden. Och jag tänkte, bra! Det här är vad jag var menad att göra.

Cyberkrigsprojektet fokuserade på hur man undertrycker falska nyheter och förstärker signalen om sanningen. Det fanns fake-news-fabriker, så ett av mina första jobb var att hitta sätt att hacka sig in i dem. Jag är ganska bra; det fungerade. Vi kunde stänga ner de stora. Men det gjorde ingen skillnad. Falska nyheter hade blivit virala. Det fanns lika många källor till det som det fanns människor som tvivlade på Big Media. En hel del av befolkningen spammade nätet – hur bekämpar man det?

Jag började tänka på det annorlunda och fokuserade inte på vad falska nyheter är utan vad det är till för. Vad är dess produkt? Svaret är enkelt: tvivel. Falska nyheter är utformade för att så tvivel. Jag gick till min teamledare, en senior officer vid namn Cather, och berättade för honom att det inte skulle fungera att spela mullvad med källorna. Om falska nyheter är en teknik för tvivel, behövde vi bygga en teknik av förtroende.

Cather hade en annan plan. Varför inte slå dem i deras eget spel? Fabrikerna hade små resurser jämfört med våra. Vi hade superdatorer som kunde tillverka desinformation i farten. Varför inte använda dem för att spamma spammare?

Projektgruppen var stor. Jag kanske borde ha lagt märke till Cathers anställningsmetoder tidigare. Jag vaknade en dag och insåg att jag var omgiven av en - ja, en viss typ av person ...

Vilken typ? hon frågade.

Intensiva, tysta unga vita män. Humorlös. Till och med som civila klippte de håret. Klänning i svart. Deras e-postsignaturer är citat från Jordan Peterson.

Åh, sa hon.

Projektet handlade bara om att defangera falska nyheter. Problemet var att de här killarna faktiskt inte kunde se vad som var fel med det till att börja med. För dem fanns det inga riktiga nyheter – det hade aldrig varit det. Det fanns bara mer eller mindre kraftfulla meddelanden. Jag hade gått med på Cathers plan att bekämpa eld med eld eftersom jag fortfarande trodde att vi gjorde det för att rensa en väg för sanningen. Men tum för tum, nästan omärkligt, styrde Cather och hans pojkar projektet bort från att använda falska nyheter för att bekämpa falska nyheter ... mot att bara göra bättre versioner av dem.

Han kunde inte hejda sig nu; han pratade mer och mer i detalj om vad han hade gjort, och allt eftersom han gjorde det blev han mer och mer passionerad. Michaela var intensivt medveten om kamerorna och att allt han sa strömmade live. Han verkade inte bry sig - han hade fallit över en klippa av beslut, och det fanns ingen väg tillbaka för honom.

Cather döpte om oss till Project Antilibrary. Och ett antibibliotek är precis vad vi byggde. Vi tog de nyaste spelmotorerna, som kan producera fotorealistisk video i realtid, och vi parade dem till fotodatabaser över platser och människor. Till en början använde vi gator och styrelserum i Ryssland och Kina. Det visade sig dock vara så enkelt att bygga databaserna att vi till slut sa: 'Vad i helvete - låt oss göra hela världen!' Vi byggde ett system som kunde deepfake livevideo från var som helst på planeten, av vem som helst vi hade en bild eller videoinspelning av. Vi kunde deepfake röster också – perfekt, förstås.

Det fanns redan system för att skriva falska vetenskapliga artiklar; vi förbättrade dem så att vi kunde generera blogginlägg, tv-nyhetsinslag som lästs upp av USA:s favoritsändare, stöddokumentation, you name it. Jag typ surfade mig igenom allt det här, moraliskt. Jag red på en våg av förnekelse, som jag antar att koncentrationslägervakter gjorde.

Men de där tysta unga männen... De såg något i det vi byggde som jag inte ens kunde gissa mig till just då. När jag lämnade hade vi ett verktyg som kunde producera ett bokstavligt biblioteks värde av helt falskt material: videor, artiklar, subtilt meningslösa böcker korsreferenserade och stödda av andra meningslösa böcker – ett sant antibibliotek – och göra det snabbare än nyheterna cykel, eller till och med sociala medier, skulle kunna hänga med.

Så du lämnade marinen?

Han nickade. Jag kunde se vart Cathers arbete ledde. Och jag kände moraliskt att jag var tvungen att motverka det på något sätt. Men vi hade arbetat tillsammans och analyserat hur desinformation fungerar. Jag visste att det inte fanns något sätt att attackera det direkt, så jag designade Augmented Manners.

Kan du berätta mer om det? Vad skulle Augmented Manners göra för att motverka falska nyheter? Det verkar som att det löser ett annat problem, problemet med hur människor kommunicerar—

Men det är precis det. Falska nyheter är designade för att bryta ner vår förmåga att lita på varandra. Så jag byggde något som skulle hjälpa dig att se den verkliga personen du pratade med. Det skulle vara som din egen personliga diplomat. Du går runt, din diplomat pratar med andras diplomater. Den hittar en gemensam grund, bygger broar, lär sig vilka dina värderingar är och hur man kan kombinera det du vill med vad andra människor vill ha. Ja, det är verkligen den första sanna politiska appen, i den meningen att den gör vad politiken ska göra: anpassa alla till kollektiva beslut. Den försökte inte angripa vektorn för fake-news-sjukdomen; den är utformad för att immunisera oss mot dess effekter.

Och det fungerar! Augmented Manners är den hetaste appen på tre olika plattformar!

Marius suckade och skakade på huvudet. Till Michaelas oro såg han besegrad ut snarare än självsäker. Jag har haft mardrömmar ända sedan vi lanserade Augmented Manners ... jag tror att de är mitt undermedvetna som försöker få mig att tänka igenom det, att inse vart Cather egentligen är på väg med sitt arbete.

Vilket är? Hon tittade oroligt på Adan, som rynkade pannan bakom mixerbordet.

Marius satt framåt nu, händerna knäppta mellan knäna. Antibiblioteket körs på ett kluster av superdatorer. Men du vet, datorer blir snabbare och billigare hela tiden. Och med neuralnät och kvantmaskiner visste vi att vi kunde dubbla vår hastighet, tredubbla den. Jag förstår slutspelet nu. Det är att bygga ett system som kan skräddarsy varje del av media en person konsumerar till vilket budskap du vill förmedla, i farten och på alla upplösningsnivåer. Inte bara ett biblioteks värde av falsk sanning, utan alla belopp, upp till och inklusive ett internets värde. Jag har börjat kalla det för antinät.

Och här är grejen: han har byggt den.

Det var då monitorerna flimrade och sedan visade Marius Rivas sparka tillbaka sin stol och skrika medan han viftade med ett automatgevär som framtrollades från ingenstans.

---

Marius tittade på monitorerna. De visade polis och SWAT som drog upp till byggnaden. Han tittade på dörren som han nyss barrikaderat. Jag kanske har fel. Jag tror att vi måste lämna.

Om du har rätt, vad hjälper det? Adan föll ihop i sin stol. Även om vi går online och viftar med våra shorts mot världen, kommer de att hävda att vi är falska nyheter.

Marius steg tillbaka. Det är sant - just nu. Men vet du vad jag sa om att inte kunna slåss mot antinätet direkt? Jag ... kan ha fel om det.

Michaela blinkade och tittade sedan ner från monitorerna till honom. Vad menar du?

När jag och Cather byggde antibiblioteket var vi fixerade vid politik och samhälle. Vi tittade på hur deepfaking kan påverka val, åsikter, sociala rörelser. Om vi ​​har tur är det så Cather och hans kunder har fortsatt att tänka.

Varför?

Vet du vad grupptänk är? När ett helt team delar en världsbild så intensivt att de bokstavligen inte kan se saker – uppenbara saker för dig eller mig – utanför den? Om vi ​​har tur ... uttryckt det så här: jag var redan mest igenom Manners-projektet innan några vänner som inte är intresserade av politik och samhälle påpekade en ... kanske en akilleshäl till både antibiblioteket och antinät. Deras lösning finns redan där ute. Jag vet bara inte om det kommer att avslöja sig i tid för att rädda oss.

Hon blinkade mot honom. Vad pratar du om?

Han ryckte på axlarna. Se, om du är rent politisk, kanske du tror att det inte skulle få någon konsekvens att fejka allas nyheter och sociala medier. Du kan bara styra dem som boskap, och det skulle vara det.

Men hela den moderna ekonomin bygger på korrekta data. Utan det är produktionsmålen fel, flygplanen går inte i tid, sakerna skickas till fel adresser. Felmarginalerna är så fina nu att, låt oss säga, att misslyckas med att förutsäga det exakta vädret för New York på fyra dagar kommer att få en internationell kaskadeffekt.

Han grävde i fickan efter sin telefon, tittade på den och grimaserade. Har ni, någon av er, en signal?

De tog båda fram sina smartphones och höll upp dem. De var djupt inne i byggnaden. Inga galler, sa Adan.

Jag har en, sa Michaela.

Kan jag låna det? Marius sträckte sig efter sin telefon. Han öppnade webbläsaren och knackade in en adress. Det är en motsägelse, eller hur? muttrade han medan han arbetade. Systemet som växer fram vill samtidigt ljuga för oss om allt, även när det kräver helt korrekta data i alla skalor för att det ska fungera alls. Allt från taxiplatser till töjningsmätaravläsningar i brodistanser – allt måste vara korrekt.

De kommer att vara här vilken sekund som helst, sa Michaela. Ska vi ta oss ur det här stället eller inte?

Han hörde henne knappt. När hon flyttade runt för att titta på telefonskärmen såg hon att han fyllde i ett långt formulär på en grå webbsida som inte hade någon grafik eller titel. Några kodare kom till mig för ett tag sedan, sa han. De förklarade om Internet of Things blockchain som alla dessa sensorer rapporterar till. Varje sensor sätter en krypterad signatur på varje datapaket den skickar, och dessa knyts ihop i en blockkedja på nästa nivå, som rapporterar upp raden till nästa. Det är en ursprungskedja, med granskningsbara, offentligt tillgängliga bevis vid varje steg att data inte har manipulerats.

Han skrattade. Föreställ dig mig när jag insåg det: vi behöver inte bygga anti-antinätet! Det finns redan!

Jag förstår inte, sa Michaela hopplöst. Hur hjälper det oss?

För om du kan bygga en oförstörbar pyramid av fakta av IoT-sensordata, sa Marius, kan du göra samma sak med journalistisk fakta.

Åh. Hennes ögon blev stora. Åh?

Dörren skramlade när någon eller något försökte tvinga upp den. Det här är polisen! Herr Rivas, öppna dörren och skjut ut ditt vapen. Du har en minut på dig att följa.

Förhandlar de inte? Michaela hörde sig själv säga. Varför förhandlar de inte?

Snabbt! Adan kom ut bakom konsolen och tog tag i Michaelas arm. Han väste under andan: Jag har dragit ut hyllorna ur förvaringsskåpet under mixern. Du kanske kan tränga in dig där...

Bra idé, viskade Marius. Sedan lade han ryggen mot väggen, bredvid dörren. Hallå! han skrek. Hur många tror du är här inne?

Det blev tyst utifrån. Du har en video där Adan Stokley mördas, eller hur? han fortsatte. Nå—Adan, kan du komma hit? Adan gick motvilligt för att gå med honom. Prata med dem, väste Marius.

Hej hej. Det här är Adan. Jag är inte död.

Vem är det? skällde rösten utifrån. Vad spelar du på?

Jag är ingen gisslan, ropade Adan. Vi mår bra!

Dessa vänner till mig, de berättade för mig att de har byggt en hybrid, sa Marius och pratade knappt över en viskning så bara Michaela och Adan kunde höra. Han avslutade med att ange sina uppgifter och klickade på OK-knappen i gammal stil längst ner i formuläret. Sedan blåste han ut en tung suck. Deras system låter vem som helst fråga IoT-blockkedjan om dess vittnesmål som ett oförstörbart vittne till vad som helst, förutsatt att uppgifterna inte kränker någons integritet. Så, till exempel, finns det hundratals diagnossystem i det här rummet – i lamporna, väggarna, till och med stolarna – som rapporterar slitage till tillverkarna, byggnadsägarna ... Men den data kan användas för att vittna om andra saker som händer i rummet. Eller händer inte. Som, från tryckvågsavläsningar, om någon har avfyrat en pistol här inne.

Gå under här! När Adan hjälpte Michaela att klämma sig under mixerpulpet, protesterade hon till Marius, Dessa vänner till dig, de kan bevisa vad som verkligen hände här!

Adan stängde skåpet. Marius kom fram till den och lutade sig in mot dess dörr så att Michaela kunde höra. När den väl är igång kan vittnesmålstjänsten inte stängas av utan att krascha ekonomin. Men det är inte klart än; vi hade inte kommit på hur vi skulle göra det tillgängligt för alla. Lyssna, precis nu skickade jag ett meddelande till mina vänner. Sa åt dem att ställa in systemet för att spåra en viss uppsättning ingångar: din, Michaela. Mina vänner kommer att kunna hitta dig - och att gömma dig, hoppas jag. Jag har gett dem så mycket hjälp jag kan. Det är dags att lämna över det till någon som du som vet hur man söker efter sanningen och berättar för världen om den.

Mina vänner kommer att kunna hitta dig - och att gömma dig, hoppas jag. Jag har gett dem så mycket hjälp jag kan. Det är dags att överlämna det till någon som du som vet hur man söker efter sanningen.

Studiodörren kraschade inåt och ljusen slocknade, och sedan var det kaos och skottlossning.

Michaela kunde knappt andas i det varma och klaustrofobiskt mörka skåpet. Hon hörde någon ropa, någon annan?

Inget på infrarött, sa en annan röst. Kroppar rusade fram och tillbaka, och så blev allt plötsligt tyst.

Hon var för livrädd för att röra sig, säker på att hon var på väg att hittas eller skjutas genom skåpsdörrarna. Tystnaden sträckte sig ut i långa sekunder, sedan en minut.

Ljus dök upp igen i springan mellan dörrarna.

Michaela knuffade och ramlade ut. Hon stod för att finna ateljén tom, dess dörr hängde öppen från ett gångjärn.

Stolarna var välta; hon gick förbi dem till dörren och tittade försiktigt genom den. Ytterkontoret, som vanligtvis var livligt, var tomt, även ljuset släckt. De kom på när hon klev ut.

Hon rynkade pannan åt de surrande lysrören och gick sedan tillbaka efter sin telefon, som låg vid en av stolarna. Hon tog sin handväska från mixerbordet. Efter att ha stått där en lång stund ringde hon upp ett lokalt nyhetsflöde på telefonen. Det var inte svårt att hitta liveflödet hon var ute efter: Complete Pictures-byggnaden var framme och mitt på huvudsidan.

SWAT-teamet trängde sig ut ur byggnaden när polisen byggde en avspärrning runt den främre ingången. I deras kölvatten tog ambulanspersonal fram bårar. Det var tre av dem.

Marius Rivas synlösa ögon panorerade förbi kamerans skakiga perspektiv. Hans slappa arm floppade över sidan av båren. Hans skjorta var mörk av blod. Bakom honom kom Adan med slutna ögon, armarna korsade över bröstet. Michaela snyftade till vid åsynen.

Och så stirrade hennes egna ögon tillbaka på henne från den tredje båren. För bara ett ögonblick såg hon sig själv som andra måste se henne, en bild på en skärm, den något krokiga näsan böjd i motsatt riktning mot vad hon såg i spegeln, hennes hår och axlar var subtilt annorlunda. Ändå var denna Michaela Kline uppenbarligen död.

Bårarna gick vidare och kameran panorerade till en andfådd kommentator. Steg för steg, ögonen inte riktigt spårade någonting, drev Michaela genom kontoret till trappan och ner för dem. Tystnad på våningen nedanför. Hon fortsatte förbi bottenvåningen, på väg mot parkeringshuset.

Hennes bil var ett flyg längre ner, men någon instinkt varnade henne att inte åka till den. SWAT tittade uppenbarligen inte på nyheterna. De hade ännu inte upptäckt obalansen i antalet bårar som kom ut ur byggnaden, men det kunde inte vara länge. På trappavsatsen där hon stod fanns en nödutgång som ledde till en gränd.

Hon var död. Alla visste det. Hon tänkte på sitt liv av frustrationer, på den tomma lägenheten som bara hennes hyresvärdinna skulle bry sig om att rensa ut, på hennes återvändsgränd jobb. Även om hon gjorde något slags affär med den här Cather eller hans mästare och på ett mirakulöst sätt kom tillbaka till livet, vad var poängen med att försöka bygga upp sin karriär igen? Det skulle vara en lögn, ett liv som ägnades åt antibiblioteket.

Hon började kolla sändningen på sin telefon igen och kom sedan ihåg vad Marius hade gjort på den. Hon grävde i sin handväska efter en penna och anteckningsbok och skrev ner den numrerade webbadressen till webbplatsen han hade varit på. Sedan slog hon till telefonen tills den gick sönder och sköt upp dörren till gränden.

Det fanns ingen utanför, bara drivande plastpåsar och den blåa bulken av en soptunna. Mumlet från en folkmassa kom från höger; Michaela svängde till vänster och började gå.

Allt hon hade nu var en adress, men hon hade varit en undersökande reporter. Det fanns verkligen fakta, det fanns verkligen en kedja av sanningar, och hon följde den kedjan...

Tills det ledde henne ut från antibiblioteket.

Karl Schroeder är futurist och författare till 11 science fiction-böcker. Hans senaste roman är Miljonen. Hans nästa roman, som kommer 2019, är stjäla världar, om framtiden för arbete (och inbrott) i ett nära framtida, post-real Amerika.

Dölj