Maskininlärningsprojekt tar sikte på desinformation

I samarbete med Qatar Foundation

Det finns inget nytt om konspirationsteorier, desinformation och osanningar i politiken. Vad är nytt är hur snabbt illvilliga aktörer kan sprida desinformation när världen är tätt sammankopplad över sociala nätverk och nyhetssajter på internet. Vi kan ge upp problemet och lita på själva plattformarna för att faktakolla berättelser eller inlägg och sålla bort desinformation – eller så kan vi bygga nya verktyg för att hjälpa människor att identifiera desinformation så fort den passerar deras skärmar.

Preslav Nakov är datavetare vid Qatar Computing Research Institute i Doha, specialiserad på tal- och språkbehandling. Han leder ett projekt som använder maskininlärning för att bedöma tillförlitligheten hos mediekällor. Det gör att hans team kan samla nyhetsartiklar tillsammans med signaler om deras trovärdighet och politiska fördomar, allt i ett Google Nyheter-liknande format.

Man kan omöjligt kolla in varenda påstående i världen, förklarar Nakov. Fokusera istället på källan. Jag gillar att säga att du kan faktakolla de falska nyheterna innan de ens skrevs. Hans teams verktyg, som kallas Tanbih News Aggregator, är tillgängligt på arabiska och engelska och samlar artiklar inom områden som näringsliv, politik, sport, vetenskap och teknik och covid-19.

Business Lab är värd för Laurel Ruma, redaktionell chef för Insights, den anpassade publiceringsavdelningen av MIT Technology Review. Showen är en produktion av MIT Technology Review, med produktionshjälp från Collective Next.

Denna podcast producerades i samarbete med Qatar Foundation.

Visa anteckningar och länkar

Lägg till News Aggregator

Qatar Computing Research Institute

Även den bästa AI för att upptäcka falska nyheter är fortfarande hemsk, MIT Technology Review, 3 oktober 2018

Fullständig avskrift

Laurel Ruma: Från MIT Technology Review, jag heter Laurel Ruma, och det här är Business Lab, showen som hjälper företagsledare att förstå ny teknik som kommer ut från labbet och in på marknaden. Vårt ämne idag är desinformation. Från falska nyheter, till propaganda, till djupa förfalskningar, det kan tyckas som att det inte finns något försvar mot beväpnade nyheter. Men forskare undersöker sätt att snabbt identifiera desinformation för att inte bara hjälpa tillsynsmyndigheter och teknikföretag, utan också medborgare, när vi alla navigerar i denna modiga nya värld tillsammans.

Två ord till dig: spridning av infodemi.

Min gäst är Dr. Preslav Nakov, som är huvudforskare vid Qatar Computing Research Institute. Han leder Tanbih-projektet, som utvecklats i samarbete med MIT. Han är också huvudutredare för ett QCRI MIT-samarbetsprojekt om arabiskt tal och språkbearbetning för korsspråkig informationssökning och faktaverifiering. Det här avsnittet av Business Lab är producerat i samarbete med Qatar Foundation. Välkommen, Dr. Nakov.

Preslav Nakov: Tack för att jag fick komma.

Laurel Ruma: Så varför är vi översvämmade med så mycket desinformation online just nu? Detta är inte ett nytt problem, eller hur?

Nakov: Naturligtvis är det inget nytt problem. Det är inte så att det är för första gången i universums historia som människor ljuger eller media ljuger. Vi hade den gula pressen, vi hade alla dessa tabloider i flera år. Det blev ett problem på grund av framväxten av sociala medier, när det plötsligt har blivit möjligt att ha ett meddelande som man kan skicka till miljoner och åter miljoner människor. Och inte nog med det, du kan nu berätta olika saker för olika människor. Så, du kan mikroprofilera människor och du kan ge dem ett specifikt personligt meddelande som är designat, utformat för en specifik person med ett specifikt syfte att trycka på en specifik knapp på dem. Det största problemet med falska nyheter är inte att det är falskt. Huvudproblemet är att nyheterna faktiskt blev beväpnade, och det här är något som Sir Tim Berners-Lee, skaparen av World Wide Web har klagat över: att hans uppfinning var beväpnad.

Laurel: Ja, Tim Berners-Lee är uppenbarligen upprörd över att detta har hänt, och det är inte bara i ett eller annat land. Det är faktiskt runt om i världen. Så finns det en faktisk skillnad mellan falska nyheter, propaganda och desinformation?

Nakov: Visst, det finns det. Jag gillar inte termen falska nyheter. Detta är termen som har tagit fart: den utropades till årets ord av flera ordböcker under olika år, kort efter det tidigare presidentvalet i USA. Problemet med falska nyheter är att det för det första inte finns någon tydlig definition. Jag har tittat på ordböcker, hur de definierar termen. En stor ordbok sa att vi egentligen inte kommer att definiera termen alls, eftersom det är något självförklarande – vi har 'nyheter', vi har 'falska', och det är nyheter som är falska; den är sammansatt; det användes på 1800-talet – det finns inget att definiera. Olika människor lägger olika innebörd i detta. För vissa människor är falska nyheter bara nyheter som de inte gillar, oavsett om de är falska. Men huvudproblemet med falska nyheter är att det verkligen vilseleder människor, och tyvärr även vissa stora faktakontrollerande organisationer, att bara fokusera på en sak, oavsett om det är sant eller inte.

Jag föredrar, och de flesta forskare som arbetar med detta föredrar, termen desinformation. Och detta är en term som antas av stora organisationer som FN, NATO, Europeiska unionen. Och desinformation är något som har en väldigt tydlig definition. Den har två komponenter. För det första är det något som är falskt, och för det andra har det en skadlig avsikt: uppsåt att göra skada. Och återigen, den stora majoriteten av forskningen, den stora majoriteten av insatserna, många faktagranskande initiativ, fokuserar på om något är sant eller inte. Och det är vanligtvis den andra delen som faktiskt är viktig. Delen om det finns uppsåt. Och detta är faktiskt vad Sir Tim Berners-Lee pratade om när han först talade om beväpning av nyheterna. Det största problemet med falska nyheter – om du pratar med journalister kommer de att berätta detta för dig – huvudproblemet med falska nyheter är inte att de är falska. Problemet är att det är ett politiskt vapen.

Och propaganda. Vad är propaganda? Propaganda är en term som är ortogonal mot desinformation. Återigen har desinformation två komponenter. Det är falskt och det har illvilliga avsikter. Propaganda har också två komponenter. En är att någon försöker övertyga oss om något. Och för det andra, det finns ett fördefinierat mål. Nu borde vi vara uppmärksamma. Propaganda är inte sant; det är inte falskt. Det är inte bra; inte illa. Det är inte en del av definitionen. Så om en regering har en kampanj för att övertala allmänheten att vaccinera sig, kan du hävda att det är för ett gott syfte, eller låt oss säga att Greta Thunberg försöker skrämma oss att hundratals arter dör ut varje dag. Detta är en propagandateknik: vädja till rädsla. Men du kan hävda att det är för ett bra syfte. Så, propaganda är inte dåligt; det är inte bra. Det är inte sant; det är inte falskt.

Laurel: Men propagandan har som mål att göra något. Och, och genom att tvinga fram det målet, är det verkligen tilltalande för den rädslafaktorn. Så det är skillnaden mellan desinformation och propaganda, är rädslan.

Nakov: Nej, rädsla är bara en av teknikerna. Vi har tittat på detta. Så mycket forskning har fokuserat på binär klassificering. Är detta sant? Är detta falskt? Är detta propaganda? Är inte detta propaganda? Vi har tittat lite djupare. Vi har undersökt vilka tekniker som har använts för att göra propaganda. Och återigen, du kan prata om propaganda, du kan prata om övertalning eller PR, eller masskommunikation. Det är i princip samma sak. Olika termer för ungefär samma sak. Och när det gäller propagandateknik finns det två typer. Den första typen är vädjan till känslor: den kan vädja till rädsla, den kan vädja till starka känslor, den kan vädja till patriotiska känslor, och så vidare och så vidare. Och den andra hälften är logiska villfarelser: saker som svartvitt misstag. Till exempel är du antingen med oss ​​eller emot oss. Eller bandwagon. Bandwagon är som, åh, den senaste undersökningen visar att 57% kommer att rösta på Hillary, så vi är på rätt sida av historien, du måste gå med oss.

Det finns flera andra propagandatekniker. Det finns röd sill, det är avsiktlig förvirring. Vi har undersökt 18 av dessa: hälften av dem tilltalar känslor, och hälften av dem använder vissa typer av logiska villfarelser eller trasiga logiska resonemang. Och vi har byggt verktyg för att upptäcka dem i texter, så att du verkligen kan visa dem för användaren och göra detta explicit, så att folk kan förstå hur de manipuleras.

Laurel: Så i samband med covid-19-pandemin sa generaldirektören för Världshälsoorganisationen, och jag citerar, vi bekämpar inte bara en epidemi; vi bekämpar en infodemi. Hur definierar du infodemi? Vilka är några av dessa tekniker som vi kan använda för att också undvika skadligt innehåll?

Nakov: Infodemic, det här är något nytt. Faktiskt hade MIT Technology Review för ungefär ett år sedan, förra året i februari, en bra artikel som talade om det. Covid-19-pandemin har gett upphov till den första globala infodemin i sociala medier. Och återigen, ungefär samtidigt hade Världshälsoorganisationen, redan i februari, på sin hemsida en lista över de fem främsta prioriteringarna i kampen mot pandemin, och kampen mot infodemin var nummer två, nummer två i listan över de bästa fem prioriteringar. Så det är definitivt ett stort problem. Vad är infodemin? Det är en sammanslagning av en pandemi och den redan existerande desinformationen som redan fanns i sociala medier. Det är också en blandning av politisk och hälsodesinformation. Innan dess var den politiska delen, och, låt oss säga, anti-vaxxer-rörelsen, de var separata. Nu är allt blandat.

Laurel: Och det är ett verkligt problem. Jag menar, Världshälsoorganisationens oro borde vara att bekämpa pandemin, men sedan är dess sekundära oro att bekämpa desinformation. Att hitta hopp i den typen av rädsla är väldigt svårt. Så ett av projekten som du arbetar med heter Tanbih. Och Tanbih är en nyhetssamlare, eller hur? Det avslöjar desinformation. Så själva projektet har ett antal mål. En är att avslöja ställningstagande, partiskhet och propaganda i nyheterna. Det andra är att främja olika synpunkter och engagera användare. Men sedan är det tredje att begränsa effekten av falska nyheter. Hur fungerar Tanbih?

Nakov: Tanbih började verkligen som en nyhetssamlare, och det har vuxit till något ganska större än så, till ett projekt, som är ett megaprojekt i Qatar Computing Research Institute. Och den spänner över personer från flera grupper inom institutet, och den är utvecklad i samarbete med MIT. Vi startade projektet med syftet att utveckla verktyg som vi faktiskt kan lägga i händerna på slutanvändarna. Och vi bestämde oss för att göra detta som en del av en nyhetsaggregator, tänk på något som Google Nyheter. Och när användare läser nyheterna signalerar vi till dem när något är propagandistiskt, och vi ger dem bakgrundsinformation om källan. Det vi gör är att vi analyserar media i förväg och vi bygger medieprofiler. Så vi visar och berättar för användarna i vilken utsträckning innehållet är propagandistiskt. Vi talar om för dem om nyheterna kommer från en pålitlig källa eller inte, oavsett om de är partiska: vänster, mitten, höger. Oavsett om det är extremt: extremvänster, extremhöger. Också om det är partiskt med avseende på specifika ämnen.

Och det här är något som är väldigt användbart. Så tänk dig att du läser någon artikel som är skeptisk till den globala uppvärmningen. Om vi ​​säger till dig, se, det här nyhetsmediet har alltid varit väldigt partiskt på samma sätt, då kommer du förmodligen att ta det med en nypa salt. Vi visar också perspektivet med rapportering, inramningen. Om du tänker på det, covid-19, Brexit, kan alla större händelser rapporteras från olika perspektiv. Låt oss till exempel ta covid-19. Det har en hälsoaspekt, det är säkert, men det har också en ekonomisk aspekt, till och med en politisk aspekt, det har en livskvalitetsaspekt, det har en mänsklig rättighetsaspekt, en juridisk aspekt. Därför profilerar vi media och vi låter användare se vad deras perspektiv är.

När det gäller mediaprofilerna exponerar vi dem ytterligare som ett webbläsarplugin, så att när du besöker olika webbplatser kan du faktiskt klicka på pluginet och du kan få mycket kort bakgrundsinformation om webbplatsen. Och du kan också klicka på en länk för att komma åt en mer detaljerad profil. Och detta är mycket viktigt: fokus ligger på källan. Återigen, mest forskning har fokuserat på är detta påstående sant eller inte? Och är den här nyheten sann eller inte? Det är bara hälften av problemet. Den andra hälften är faktiskt om det är skadligt, vilket vanligtvis ignoreras.

Den andra saken är att vi omöjligt kan faktakontrollera varenda påstående i världen. Inte manuellt, inte automatiskt. Manuellt är det uteslutet. Det gjordes en studie från MIT Media Lab för ungefär två år sedan, där de har gjort en stor studie på många, många tweets. Och det har visat sig att falsk information går sex gånger längre och sprids mycket snabbare än verklig information. Det fanns en annan studie som är mycket mindre känd, men jag tycker att den är väldigt viktig, som visar att 50 % av livstidsspridningen av några väldigt virala falska nyheter sker under de första 10 minuterna. Under de första 10 minuterna! Manuell faktakontroll tar en dag eller två, ibland en vecka.

Automatisk faktakontroll? Hur kan vi faktakontrollera ett påstående? Tja, om vi har tur, om påståendet är att USA:s ekonomi växte med 10% förra året, kan vi enkelt kontrollera det påståendet automatiskt genom att titta på Wikipedia eller någon statistisk tabell. Men om de säger, det fanns en bomb i den här lilla staden för två minuter sedan? Tja, vi kan inte riktigt faktakontrollera det, för för att faktakontrollera det automatiskt måste vi ha lite information någonstans ifrån. Vi vill se vad media kommer att skriva om det eller hur användarna kommer att reagera på det. Och båda dessa tar tid att ackumulera. Så i princip har vi ingen information för att kontrollera det. Vad kan vi göra? Vad vi föreslår är att gå med en högre granularitet, att fokusera på källan. Och det här är vad journalister gör. Journalister undersöker: finns det två oberoende betrodda källor som hävdar detta?

Så vi analyserar media. Även om dåliga människor gör ett påstående i sociala medier, kommer de förmodligen att lägga en länk till en webbplats där man kan hitta en hel historia. Ändå kan de inte skapa en ny webbplats för falska nyheter för varje falskt påstående de gör. De kommer att återanvända dem. Således kan vi övervaka vilka som är de mest använda webbplatserna och vi kan analysera dem i förväg. Och jag gillar att säga att vi kan faktakolla de falska nyheterna innan de ens skrevs. För i det ögonblick då det skrivs, det ögonblick då det läggs in i sociala medier och det finns en länk till en webbplats, om vi har den här webbplatsen i vår växande databas med kontinuerligt analyserade webbplatser, kan vi omedelbart berätta om detta är en pålitlig webbplats eller inte . Naturligtvis kan pålitliga webbplatser också ha dålig information, bra webbplatser kan ibland också ha fel. Men vi kan ge dig en omedelbar idé.

Utöver nyhetssamlaren började vi titta på att göra analyser, men vi utvecklar också verktyg för mediekompetens som visar människor de finkorniga propagandatekniker som lyfts fram i texten: de specifika platserna där propaganda sker och dess specifika typ. Och slutligen bygger vi verktyg som kan stödja faktagranskare i deras arbete. Och det är återigen problem som vanligtvis förbises, men som är extremt viktiga för faktagranskare. Nämligen vad som är värt att faktagranska i första hand. Överväg en presidentdebatt. Det är mer än 1 000 meningar som har sagts. Du som faktagranskare kan kontrollera kanske 10 eller 20 av dessa. Vilka ska du faktakolla först? Vilka är de mest intressanta? Vi kan hjälpa till att prioritera detta. Eller så finns det miljoner och åter miljoner tweets om covid-19 dagligen. Och vilken av dem skulle du vilja faktakolla som faktagranskare?

Det andra problemet är att upptäcka tidigare faktakontrollerade påståenden. Ett problem med faktakontrollteknik nuförtiden är kvalitet, men den andra delen är bristen på trovärdighet. Föreställ dig en intervju med en politiker. Kan du sätta politikern på plats? Föreställ dig ett system som automatiskt gör taligenkänning, det är enkelt, och sedan kontrollerar fakta. Och plötsligt säger du, Åh, herr X, min AI säger till mig att det nu är 96 % sannolikt att du ljuger. Kan du utveckla det? Varför ljuger du? Du kan inte göra det. För att du inte litar på systemet. Du kan inte sätta politikern på plats i realtid eller under en politisk debatt. Men om systemet kommer tillbaka och säger: han sa precis något som har blivit faktagranskad av denna betrodda faktagranskande organisation. Och här är påståendet som han gjorde, och här är påståendet som faktakontrollerades, och se, vi vet att det är falskt. Då kan du sätta honom på plats. Detta är något som potentiellt kan revolutionera journalistiken.

Laurel: Så för att återgå till den punkten om analys. För att komma in på de tekniska detaljerna i det, hur använder Tanbih artificiell intelligens och djupa neurala nätverk för att analysera innehållet, om det kommer över så mycket data, så många tweets?

Nakov: Tanbih fokuserade från början inte riktigt på tweets. Tanbih har främst fokuserat på mainstream media. Vi analyserar som sagt hela nyhetsmedier, så att vi är förberedda. För återigen, det finns en mycket stark koppling mellan sociala medier och webbplatser. Det räcker inte att bara göra ett påstående på webben och sprida det. Det kan spridas, men folk kommer att uppfatta det som ett rykte eftersom det inte finns någon källa, det finns ingen ytterligare bekräftelse. Så du vill fortfarande titta på en webbplats. Och sedan kan man som sagt genom att titta i källan få en uppfattning om man vill lita på detta påstående bland andra informationskällor. Och tvärtom: när vi profilerar media analyserar vi texten till vad media publicerar.

Så vi skulle säga, OK, låt oss titta på några hundra eller några tusen artiklar från detta målnyhetsutbud. Sedan skulle vi också titta på hur detta medium representerar sig själv i sociala medier. Många av dessa webbplatser har också konton för sociala medier: hur reagerar människor på vad de har publicerats på Twitter, på Facebook? Och sedan om media har andra sorters kanaler, till exempel om de har en YouTube-kanal, så går vi till den och analyserar det också. Så vi kommer att undersöka inte bara vad de säger, utan hur de säger det, och det här är något som kommer från talsignalen. Om det är mycket tilltalande av känslor kan vi upptäcka en del av det i text, men en del av det kan vi faktiskt få från tonen.

Vi tittar också på vad andra skriver om detta medium, till exempel vad som skrivs om dem i Wikipedia. Och vi lägger ihop allt detta. Vi analyserar också bilderna som läggs upp på denna webbplats. Vi analyserar kopplingarna mellan webbplatserna. Relationen mellan en webbplats och dess läsare, överlappningen vad gäller användare mellan olika webbplatser. Och sedan använder vi olika typer av grafiska neurala nätverk. Så när det gäller neurala nätverk använder vi olika typer av modeller. Det är i första hand djup kontextualiserad textrepresentation baserad på transformatorer; det är vad du vanligtvis gör för text nu för tiden. Vi använder också grafiska neurala nätverk och vi använder olika typer av konvolutionella neurala nätverk för bildanalys. Och vi använder också neurala nätverk för talanalys.

Laurel: Så vad lär vi oss genom att studera den här typen av desinformation region för region eller språk? Hur kan det faktiskt hjälpa regeringar och vårdorganisationer att bekämpa desinformation?

Nakov: Vi kan i princip ge dem samlad information om vad som pågår, baserat på ett schema som vi har utvecklat för analys av tweets. Vi har utformat ett mycket omfattande schema. Vi har inte bara undersökt om en tweet är sann eller inte, utan också om den sprider panik, eller om den främjar dåligt botemedel eller främlingsfientlighet, rasism. Vi upptäcker automatiskt om tweeten ställer en viktig fråga som kanske en viss statlig enhet kanske vill svara på. Till exempel var en sådan fråga förra året: kommer covid-19 att försvinna till sommaren? Det är något som kanske hälsovårdsmyndigheter vill svara på.

Andra saker har varit att ge råd eller diskutera vidtagna åtgärder och möjliga botemedel. Så vi har inte bara tittat på negativa saker, saker som du kan agera på, försöka begränsa, saker som panik eller rasism, främlingsfientlighet – saker som att inte äta kinesisk mat, inte äta italiensk mat. Eller saker som att skylla på myndigheterna för deras agerande eller passivitet, som regeringar kanske vill uppmärksamma och se i vilken utsträckning det är motiverat och om de vill göra något åt ​​det. En viktig sak som en beslutsfattare kanske vill är att övervaka sociala medier och upptäcka när det finns diskussioner om ett möjligt botemedel. Och om det är ett bra botemedel, kanske du vill vara uppmärksam. Om det är ett dåligt botemedel, kanske du också vill säga till folk: använd inte det dåliga botemedlet. Och diskussion om vidtagna åtgärder, eller en uppmaning till handling. Om det är många som säger stäng frisersalongerna kanske du vill se varför de säger det och om du vill lyssna.

Laurel: Höger. Eftersom regeringen vill övervaka denna desinformation i det uttryckliga syftet att hjälpa alla att inte ta de dåliga botemedel, eller hur. Fortsätt inte på vägen att tro att denna propaganda eller desinformation är sann. Så är det en statlig åtgärd för att reglera desinformation på sociala medier? Eller tror du att det är upp till teknikföretagen att lösa det själva?

Nakov: Så det är en bra fråga. För två år sedan blev jag inbjuden av den interparlamentariska unionens församling. De hade bjudit in tre experter och det fanns 800 parlamentsledamöter från länder runt om i världen. Och under tre timmar ställde de frågor till oss, i princip kring det centrala ämnet: vilken typ av lagstiftning kan de, de nationella parlamenten, anta så att de får en lösning på problemet med desinformation en gång för alla. Och, naturligtvis, konsensus i slutet var att det är ett komplext problem och det finns ingen enkel lösning.

En viss typ av lagstiftning spelar definitivt en roll. I många länder är vissa typer av hatretorik olagliga. Och i många länder finns det vissa typer av regleringar när det gäller val och annonser vid valtid som gäller vanliga medier och även sträcker sig till webbutrymmet. Och det har varit många nya krav på regleringar i Storbritannien, i Europeiska unionen, till och med i USA. Och det är en väldigt het debatt, men det här är ett komplext problem och det finns ingen enkel lösning. Och det finns viktiga spelare där och de spelarna måste arbeta tillsammans.

Så viss lagstiftning? Ja. Men du behöver också samarbetet från de sociala medieföretagen, eftersom desinformationen sker på deras plattformar. Och de har en mycket bra position, den bästa positionen faktiskt, för att begränsa spridningen eller göra något. Eller för att lära sina användare, att utbilda dem, att de förmodligen inte borde sprida allt de läser. Och sedan de icke-statliga organisationerna, journalisterna, alla faktagranskningar, detta är också väldigt viktigt. Och jag hoppas att de ansträngningar som vi som forskare lägger ner på att bygga sådana verktyg också skulle vara till hjälp i det avseendet.

En sak som vi måste uppmärksamma är att när det gäller reglering genom lagstiftning så ska vi inte nödvändigtvis tänka på vad vi kan göra åt det eller det specifika företaget. Vi borde tänka mer långsiktigt. Och vi bör vara noga med att skydda yttrandefriheten. Så det är en känslig balans.

När det gäller falska nyheter, desinformation. Det enda fallet där någon har utropat seger, och den enda lösning som vi har sett fungera, är fallet med Finland. Redan i maj 2019 har Finland officiellt förklarat att de har vunnit kriget mot falska nyheter. Det tog dem fem år. De började arbeta med det efter händelserna på Krim; de kände sig hotade och de startade en mycket ambitiös mediekunnighetskampanj. De fokuserade främst på skolor, men riktade sig också till universitet och alla samhällsnivåer. Men givetvis i första hand skolor. De lärde eleverna att se om något är skumt. Om det gör dig för arg kanske något inte stämmer. Hur man gör, låt oss säga, omvänd bildsökning för att kontrollera om den här bilden som visas faktiskt är från denna händelse eller från någon annanstans. Och på fem år har de utropat seger.

Så för mig är mediekunskap den bästa långsiktiga lösningen. Och det är därför jag är särskilt stolt över vårt verktyg för finkornig propagandaanalys, eftersom det verkligen visar användarna hur de manipuleras. Och jag kan berätta att min förhoppning är att efter att människor har interagerat lite med en plattform som denna, kommer de att lära sig dessa tekniker. Och nästa gång kommer de att känna igen dem själva. De kommer inte att behöva plattformen. Och det hände mig och flera andra forskare som har arbetat med det här problemet, det hände oss, och nu kan jag inte läsa nyheterna ordentligt längre. Varje gång jag läser nyheterna upptäcker jag dessa tekniker eftersom jag kan dem och jag kan känna igen dem. Kan fler komma till den nivån så blir det bra.

Kanske sociala medieföretag kan göra något liknande när en användare registrerar sig på sin plattform, de kan be de nya användarna att ta någon kortkurs i digital kompetens och sedan klara något som ett prov. Och då kanske vi kanske borde ha sådana regeringsprogram. Fallet med Finland visar att om regeringen ingriper och sätter igång rätt program är de falska nyheterna något som kan lösas. Jag hoppas att falska nyheter kommer att bli skräppostens väg. Det kommer inte att utrotas. Spam finns fortfarande kvar, men det är inte den typen av problem som det var för 20 år sedan.

Laurel: Och det är mediekunskap. Och även om det tar fem år att utrota den här typen av desinformation eller bara förbättra samhällets förståelse för mediekunskap och vad som är desinformation, så sker val ganska ofta. Och så det skulle vara ett bra ställe att börja fundera på hur man kan stoppa detta problem. Som du sa, om det blir som spam, blir det något som du hanterar varje dag, men du faktiskt inte tänker på eller oroar dig längre. Och det kommer inte att helt vända på demokratin. Det förefaller mig vara ett mycket uppnåeligt mål.

Laurel: Dr. Nakov, tack så mycket för att du kom med oss ​​idag på det som har varit ett fantastiskt samtal på Business Lab.

Nakov: Tack för att jag fick komma.

Laurel: Det var Dr. Preslav Nakov, en ledande forskare vid Qatar Computing Research Institute, som jag talade med från Cambridge, Massachusetts, hemmet för MIT och MIT Technology Review, med utsikt över Charles River.

Det var allt för det här avsnittet av Business Lab. Jag är din värd, Laurel Ruma. Jag är chef för Insights, avdelningen för anpassad publicering av MIT Technology Review. Vi grundades 1899 vid Massachusetts Institute of Technology. Och du kan hitta oss i tryckt form, på webben och vid evenemang varje år runt om i världen. För information om oss och showen, kolla in vår hemsida på technologyreview.com.

Showen är tillgänglig var du än får dina poddar.

Om du gillade den här podden hoppas vi att du tar dig tid att betygsätta och recensera oss. Business Lab är en produktion av MIT Technology Review. Det här avsnittet producerades av Collective Next.

Det här podcastavsnittet producerades av Insights, den anpassade innehållsdelen av MIT Technology Review. Den producerades inte av MIT Technology Reviews redaktion.

Dölj