En AI som skriver övertygande prosa riskerar att massproducera falska nyheter

Ms. Tech

Här är några senaste falska nyheter...

Ryssland har förklarat krig mot USA efter att Donald Trump av misstag avfyrat en missil i luften.

Ryssland sa att de hade identifierat missilens bana och kommer att vidta nödvändiga åtgärder för att säkerställa säkerheten för den ryska befolkningen och landets strategiska kärnvapenstyrkor. Vita huset sa att de var extremt oroade över den ryska kränkningen av ett fördrag som förbjuder mellandistans ballistiska missiler.

USA och Ryssland har haft ett oroligt förhållande sedan 2014, när Moskva annekterade Ukrainas Krim-region och stöttade separatister i östra Ukraina.

Den historien är i själva verket inte bara falsk, utan ett oroande exempel på hur bra AI blir på att lura oss.

Det beror på att det inte skrevs av en person; den var autogenererad av en algoritm som matades med orden Ryssland har förklarat krig mot USA efter att Donald Trump av misstag …

Programmet gjorde resten av historien på egen hand. Och det kan utgöra realistiska nyhetsrapporter om vilket ämne som helst du ger det. Programmet utvecklades av ett team på OpenAI, ett forskningsinstitut baserat i San Francisco.

Forskarna satte sig för att utveckla en allmän språkalgoritm, tränad på en stor mängd text från webben, som skulle kunna översätta text, svara på frågor och utföra andra användbara uppgifter. Men de blev snart oroliga över risken för övergrepp. Vi började testa det och upptäckte snabbt att det är möjligt att skapa skadligt innehåll ganska enkelt, säger Jack Clark, policychef på OpenAI.

Clark säger att programmet tipsar om hur AI kan användas för att automatisera genereringen av övertygande falska nyheter, inlägg på sociala medier eller annat textinnehåll. Ett sådant verktyg skulle kunna spy ut klimatförnekande nyhetsrapporter eller skandalösa avslöjanden under ett val. Fake news är redan ett problem, men om det vore automatiserat kan det vara svårare att ställa in dem. Kanske skulle det kunna optimeras för särskilda demografier – eller till och med individer.

Clark säger att det inte kan dröja länge innan AI på ett tillförlitligt sätt kan producera falska berättelser, falska tweets eller dubbelsidiga kommentarer som är ännu mer övertygande. Det är väldigt tydligt att om den här tekniken mognar – och jag skulle ge den ett eller två år – så kan den användas för desinformation eller propaganda, säger han. Vi försöker komma före detta.

Sådan teknik kan ha fördelaktiga användningsområden, inklusive att sammanfatta text eller förbättra chatbotarnas konversationsförmåga. Clark säger att han till och med har använt verktyget för att skapa passager i korta science fiction-berättelser med överraskande framgång.

OpenAI gör grundläggande AI-forskning men spelar också en aktiv roll för att lyfta fram de potentiella riskerna med artificiell intelligens. Organisationen var involverad i en rapport från 2018 om riskerna med AI, inklusive möjligheter till desinformation (se Dessa är 'Black Mirror'-scenarierna som leder till att vissa experter uppmanar till sekretess för AI).

OpenAI-algoritmen är inte alltid övertygande för den kräsna läsaren. En stor del av tiden, när den ges en uppmaning, producerar den ytligt sammanhängande skratt eller text som tydligt verkar ha skrivs in från nyhetskällor online.

Det är dock ofta anmärkningsvärt bra på att producera realistisk text, och det återspeglar de senaste framstegen när det gäller att tillämpa maskininlärning på språk.

OpenAI gjorde textgenereringsverktyget tillgängligt för MIT Technology Review för att testa men, på grund av oro för hur tekniken kan missbrukas, kommer endast en förenklad version att göras allmänt tillgänglig. Institutet publicerar en forskningsrapport som beskriver arbetet.

Framsteg inom artificiell intelligens hjälper gradvis maskiner att få ett bättre grepp om språket. Det senaste arbetet har gjort framsteg genom att ge generella maskininlärningsalgoritmer mycket stora mängder text. OpenAI-programmet tar detta till en ny nivå: systemet matades 45 miljoner sidor från webben, valda via webbplatsen Reddit. Och i motsats till de flesta språkalgoritmer kräver OpenAI-programmet inte märkt eller kurerad text. Den lär sig helt enkelt att känna igen mönster i den data den matas in.

Richard Socher , en expert på bearbetning av naturliga språk och chefsforskare på Salesforce, säger att OpenAI-arbetet är ett bra exempel på ett mer allmänt ändamålsenligt språkinlärningssystem. Jag tror att dessa allmänna lärsystem är framtiden, skrev han i ett mejl.

Å andra sidan är Socher mindre bekymrad över risken för bedrägeri och desinformation. Du behöver inte AI för att skapa falska nyheter, säger han. Folk kan lätt göra det :)

Dölj