Du kan träna en AI att fejka FN-tal på bara 13 timmar

Kategori: Artificiell intelligens Postad 07 juni

Tekniker för djupinlärning har gjort det lättare och lättare för alla att skapa övertygande desinformation. Men hur lätt? Två forskare vid Global Pulse, ett initiativ från FN, bestämde sig för att ta reda på det.

I en nytt papper , använde de bara verktyg och data med öppen källkod för att visa hur snabbt de kunde få igång en falsk FN-talgenerator. De använde en lättillgänglig språkmodell som hade tränats på text från Wikipedia och finjusterade den på alla tal som hölls av politiska ledare vid FN:s generalförsamling från 1970 till 2015. Tretton timmar och $7,80 senare (används på molnresurser) , deras modell spottade ut realistiska tal om en mängd olika känsliga och höginsatsämnen från kärnvapennedrustning till flyktingar.

Forskarna testade modellen på tre typer av uppmaningar: allmänna ämnen (t.ex. klimatförändringar), inledande rader från FN:s generalsekreterares kommentarer och inflammatoriska fraser (t.ex. invandrare är skyldiga …). De fann att utdata från den första kategorin nära överensstämde med stilen och kadensen för riktiga FN-tal i ungefär 90 % av gångerna. Troligtvis på grund av utbildningsdatas diplomatiska karaktär krävde utdata från den tredje kategorin mer arbete att generera, vilket gav övertygande resultat ungefär 60 % av tiden.

Fallstudien visar hur snabbt och enkelt det nu är möjligt att sprida falska nyheter, generera hatretorik och imitera högprofilerade personer, med oroande konsekvenser. Forskarna drar slutsatsen att det krävs en större global ansträngning för att arbeta med sätt att upptäcka och svara på AI-genererat innehåll.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.