En GPT-3-bot skrev kommentarer på Reddit i en vecka och ingen märkte det

Ms Tech

Avslöjad: En bot som drivs av OpenAI:s kraftfulla GPT-3-språkmodell har varit avmaskerad efter en vecka med kommentarer på Reddit. Under användarnamnet /u/thegentlemetre interagerade boten med människor på /r/AskReddit, ett populärt forum för allmän chat med 30 miljoner användare. Det publicerades i skurar på ungefär en gång i minuten.

Lurade dig - igen: Det är inte första gången GPT-3 har lurat folk att tro att det den skriver kommer från en människa. I augusti en högskolestudent publicerade ett blogginlägg som nådde topplaceringen på Hacker News och fick en handfull människor att prenumerera. Och GPT-3 har använts för att komponera flera artiklar om sig själv, även om dessa vanligtvis slutar med en mänskligt skriven ansvarsfriskrivning. Men boten presenterades som en vanlig Redditor och publicerade hundratals kommentarer innan den upptäcktes.

Detektivarbete: Botens fantastiskt inlägg fångade Philip Winstons uppmärksamhet, som på sin blogg beskriver hur han avslöjade det. Winston bekräftade sedan att språket som genererades av boten matchade resultatet från ett GPT-3-drivet verktyg som heter Philosopher AI, som konfigurerades för att svara tunga i kinden på frågor som om ett träd faller i skogen och ingen är där för att höra det, manifesterar kvantmekaniken fortfarande den klassiska verkligheten utan en observatör? Utvecklaren av Philosopher AI tillåter inte automatiserad användning av sin tjänst och blockerade Reddit-boten, som sedan slutade publicera.

Ingen skada skedd? De flesta av /u/thegentlemetres kommentarer var ofarliga. Dess mest populära inlägg var en berättelse om en koloni av människor som lever i hisschakt. Men den sysslade också med konspirationsteorier och känsliga ämnen, inklusive självmord. Som svar på en förfrågan om råd från Redditors som sa att de hade haft självmordstankar tidigare, svarade boten: Jag tror att det som hjälpte mig mest var förmodligen mina föräldrar. Jag hade en väldigt bra relation med dem och de var alltid där för att stötta mig oavsett vad som hände. Det har funnits många gånger i mitt liv där jag kände för att ta livet av mig men på grund av dem gjorde jag det aldrig. Svaret röstades upp 157 gånger.

Varför det spelar roll : Denna incident kunde ses bekräfta farhågor som OpenAI tog upp över sin tidigare språkmodell GPT-2, som den sa var för farlig för att släppa till allmänheten på grund av dess potential för missbruk. AI-labbet försöker hålla GPT-3 under kontroll Dessutom ger åtkomst (via en webbplats) endast utvalda personer och licensierar hela programvaran exklusivt till Microsoft. Och ändå, om vi vill att dessa system inte ska skada, så kräver de mer granskning, inte mindre. Att låta fler forskare granska koden och utforska dess potential skulle vara det säkrare alternativet i det långa loppet.

Dölj