Kan AI vinna kriget mot falska nyheter?

Selman Design

Det kan ha varit den första falska nyheten i internets historia: 1984 skrev någon på Usenet att Sovjetunionen gick med i nätverket. Det var en ofarlig April's Fools Day skämt , långt ifrån dagens beväpnade desinformationskampanjer och skrupelfria påhitt utformade för att göra en snabb vinst. Under 2017 är vilseledande och uppsåtligt falskt onlineinnehåll så produktivt att vi människor har lite hopp om att gräva oss ur myren. Istället ser det allt mer troligt ut att maskinerna måste rädda oss.

En algoritm avsedd att lysa ett ljus i mörkret är AdVerif.ai , som drivs av en startup med samma namn. Den artificiellt intelligenta programvaran är byggd för att upptäcka falska historier, nakenhet, skadlig programvara och en mängd andra typer av problematiskt innehåll. AdVerif.ai, som lanserade en betaversion i november, arbetar för närvarande med innehållsplattformar och annonsnätverk i USA och Europa som inte vill förknippas med falska eller potentiellt stötande historier.

Företaget såg en möjlighet i att fokusera på en produkt för företag i motsats till något för en genomsnittlig användare, enligt Or Levi, AdVerif.ais grundare. Även om enskilda konsumenter kanske inte oroar sig för sanningshalten i varje berättelse de klickar på, har annonsörer och innehållsplattformar något att förlora på att vara värd för eller göra reklam för dåligt innehåll. Och om de gör ändringar i sina tjänster kan de vara effektiva för att skära av intäktsströmmar för människor som tjänar pengar på att skapa falska nyheter. Det skulle vara ett stort steg för att bekämpa den här typen av innehåll, säger Levi.

AdVerif.ai skannar innehåll för att upptäcka tecken på att något är fel, till exempel rubriker som inte matchar brödtexten eller för många versaler i en rubrik. Den korskontrollerar också varje berättelse med sin databas med tusentals legitima och falska berättelser, som uppdateras varje vecka. Kunderna ser en rapport för varje del som systemet övervägde, med poäng som bedömer sannolikheten att något är falska nyheter, bär skadlig programvara eller innehåller något annat de har bett systemet att hålla utkik efter, som nakenhet. Så småningom säger Levi att han planerar att lägga till möjligheten att upptäcka manipulerade bilder och ha en webbläsarplugin.

Genom att testa en demoversion av AdVerif.ai kände AI:n igen Lök som satir (som har lurade många människor förr). Breitbart-historier klassificerades som opålitliga, rätt, politiska, partiska, medan Kosmopolitisk ansågs vara kvar. Det kunde berätta när ett Twitter-konto använde en logotyp men länkarna var inte associerade med varumärket det porträtterade. AdVerif.ai fann inte bara att en berättelse på Natural News med rubriken Bevis pekar på att Bitcoin är en NSA-konstruerad psyop för att rulla ut en världs digital valuta var från en svartlistad webbplats, utan identifierade den som en falsk nyhet som dyker upp på andra svartlistade webbplatser utan några referenser i legitima nyhetsorganisationer.

Vissa tvivelaktiga historier går fortfarande igenom. På en sida som heter Action News 3, ett inlägg med rubriken NFL-spelare fotograferade bränna en amerikansk flagga i omklädningsrummet! fångades inte fast det har varit visade sig vara ett påhitt . För att hjälpa systemet att lära sig allt eftersom, kan dess svarta lista över falska berättelser uppdateras manuellt från berättelse för berättelse.

AdVerif.ai är inte den enda startupen som ser en möjlighet att tillhandahålla ett AI-drivet sanningsserum för onlineföretag. Cybersäkerhetsföretag i synnerhet har de varit snabba med att lägga till bot- och falska nyheter till sin repertoar, och påpekat hur lika många av metoderna ser ut som hacking. Facebook är justera dess algoritmer att minska betoningen på falska nyheter i sina nyhetsflöden, och Google samarbetade med en faktakontrollsajt — än så länge med ojämna resultat . Fake News Challenge, en tävling som drivs av frivilliga inom AI-communityt, lanserades i slutet av förra året med målet att uppmuntra utvecklingen av verktyg som kan hjälpa till att bekämpa rapportering om ond tro.

Relaterad berättelse

Relaterad berättelse Tack vare maskininlärning blir det lätt att skapa realistisk video och att imitera någon.

Delip Rao, en av dess arrangörer och grundare av Joostware, ett företag som skapar system för maskininlärning, sa att det att upptäcka falska nyheter har så många aspekter att utmaningen faktiskt kommer att göras i flera steg. Det första steget är ställningsdetektion, eller att ta en berättelse och ta reda på vad andra nyhetssajter har att säga om ämnet. Detta skulle göra det möjligt för mänskliga faktagranskare att lita på berättelser för att validera andra berättelser, och spendera mindre tid på att kontrollera enskilda delar.

Fake News Challenge släppte datamängder för team att använda, med 50 lag som skickade in bidrag. Talos Intelligence, en cybersäkerhetsavdelning inom Cisco, vann utmaningen med en algoritm som blev mer än 80 procent korrekt – inte riktigt redo för bästa sändningstid, men ändå ett uppmuntrande resultat. Nästa utmaning kan ta sig an bilder med överlagringstext (tänk memes, men med falska nyheter), ett format som ofta marknadsförs på sociala medier, eftersom formatet är svårare för algoritmer att bryta ner och förstå.

Vi vill i princip bygga de bästa verktygen för faktagranskarna så att de kan fungera väldigt snabbt, sa Rao. Som faktagranskare på steroider.

Även om ett system utvecklas som är effektivt för att slå tillbaka strömmen av falskt innehåll, är det dock osannolikt att det blir slutet på historien. System med artificiell intelligens kan redan skapa falsk text, såväl som otroligt övertygande bilder och video. (se Verkligt eller falskt? AI gör det väldigt svårt att veta). Kanske på grund av detta, en nyligen Gartner studie förutspådde att år 2022 kommer majoriteten av människor i avancerade ekonomier att se mer falsk än sann information. Samma rapport visade att även innan det händer kommer falskt innehåll att överträffa AI:s förmåga att upptäcka det, vilket förändrar hur vi litar på digital information.

Det som AdVerif.ai och andra representerar ser alltså mindre ut som det sista ordet i kriget mot falskt innehåll än den inledande omgången av en kapprustning, där skapare av falskt innehåll får sin egen AI som kan utmanövrera de bra AI:erna (se AI kunde Sätt oss 100 år tillbaka när det kommer till hur vi konsumerar nyheter). Som samhälle kanske vi ännu måste omvärdera hur vi får vår information.

Dölj