Ett nytt verktyg använder AI för att hitta text skriven av AI

Kategori: Artificiell intelligens Postad 26 juli

AI-algoritmer kan generera text som är tillräckligt övertygande för att lura den genomsnittliga människan – vilket kan ge ett sätt att massproducera falska nyheter, falska recensioner och falska sociala konton. Tack och lov kan AI nu också användas för att identifiera falsk text.

Nyheterna: Forskare från Harvard Universitet och den MIT-IBM Watson AI Lab ha utvecklat ett nytt verktyg för att hitta text som har genererats med AI. Kallas Giant Language Model Test Room (GLTR) och utnyttjar det faktum att AI-textgeneratorer förlitar sig på statistiska mönster i text, i motsats till den faktiska betydelsen av ord och meningar. Med andra ord kan verktyget avgöra om orden du läser verkar för förutsägbara för att ha skrivits av en mänsklig hand.

Sammanhanget: Desinformation automatiseras alltmer och tekniken som krävs för att skapa falska texter och bilder går snabbt framåt. AI-drivna verktyg som detta kan bli värdefulla vapen i kampen för att fånga falska nyheter, deepfakes och twitterbots.

Låtsas: Forskare vid OpenAI demonstrerade nyligen en algoritm kapabel att drömma upp förvånansvärt realistiska passager . De matade in enorma mängder text i en stor maskininlärningsmodell, som lärde sig att fånga upp statistiska mönster i dessa ord. Harvard-teamet utvecklade sitt verktyg med en version av OpenAI-koden som släpptes offentligt.

Hur förutsägbart: GLTR framhäver ord som är statistiskt sannolikt att förekomma efter föregående ord i texten. Som visas i avsnittet ovan (från Oändligt är) , de mest förutsägbara orden är gröna; mindre förutsägbara är gula och röda; och minst förutsägbara är lila. När den testas på textavsnitt skriven av OpenAI:s algoritm, finner den mycket förutsägbarhet. Äkta nyhetsartiklar och vetenskapliga sammanfattningar innehåller fler överraskningar.

Sinne och maskin: Forskarna bakom GLTR genomförde också ett annat experiment. De bad Harvard-studenter att identifiera AI-genererad text – först utan verktyget och sedan med hjälp av dess framhävning. Eleverna kunde bara upptäcka hälften av alla förfalskningar på egen hand, men 72 % när de fick verktyget. Vårt mål är att skapa samarbetssystem för mänskliga och AI, säger Sebastian Gehrmann, doktorand involverad i arbetet.

Om du är intresserad kan du prova det själv .