Ett collegebarns falska, AI-genererade blogg lurade tiotusentals. Så här gjorde han det.

Ms Tech | Getty

I början av veckan hade Liam Porr bara hört talas om GPT-3. Mot slutet hade collegestudenten använt AI-modellen för att producera en helt falsk blogg under ett falskt namn.

Det var menat som ett roligt experiment. Men sedan nådde ett av hans inlägg nummer ett på Hacker News. Få människor märkte att hans blogg var helt AI-genererad. Vissa trycker till och med på Prenumerera.

Medan många har spekulerat om hur GPT-3, det mest kraftfulla språkgenererande AI-verktyget hittills, skulle kunna påverka innehållsproduktionen, är detta ett av de enda kända fallen för att illustrera potentialen. Det som stack ut mest med upplevelsen, säger Porr, som studerar datavetenskap vid University of California, Berkeley: Det var superlätt faktiskt, vilket var det läskiga.

GPT-3 är OpenAI:s senaste och största AI-språket modell, som det San Francisco-baserade forskningslabbet började droppmata ut i mitten av juli. I februari förra året skapade OpenAI rubriker med GPT-2, en tidigare version av algoritmen, som den meddelade att den skulle hålla inne av rädsla för att det skulle missbrukas. Beslutet utlöste omedelbart en motreaktion, eftersom forskare anklagade labbet för att göra ett stunt. I november hade labbet vänt läge och släppte modellen , säger att det inte hade upptäckt några starka bevis på missbruk hittills.

Labbet tog ett annat tillvägagångssätt med GPT-3; den varken undanhöll den eller gav allmänheten tillgång. Istället gav det algoritmen att välja ut forskare som ansökte om en privat beta, med målet att samla in deras feedback och kommersialisera tekniken i slutet av året.

Porr lämnade in en ansökan. Han fyllde i ett formulär med ett enkelt frågeformulär om hans avsedda användning. Men han väntade inte heller. Efter att ha nått ut till flera medlemmar av Berkeley AI-gemenskapen hittade han snabbt en doktorand som redan hade tillgång. När doktoranden gick med på att samarbeta skrev Porr ett litet manus som han skulle köra. Det gav GPT-3 rubriken och inledningen till ett blogginlägg och fick det att spotta ut flera färdiga versioner. Porrs första inlägg (det som kartlades på Hacker News), och varje inlägg efter, kopierades och klistrades in från en av utgångarna med liten eller ingen redigering.

Från det att jag tänkte på idén och kom i kontakt med doktoranden till att jag faktiskt skapade bloggen och att den första bloggen blev viral – tog det kanske ett par timmar, säger han.

Porrs falska blogginlägg, skrivet under det falska namnet 'adolos', når #1 på Hacker News. Porr säger att han använde tre separata konton för att skicka in och rösta upp sina inlägg på Hacker News i ett försök att driva dem högre. Administratören sa att den här strategin inte fungerar, men hans klick-baity-rubriker gjorde det.

Skärmbild / LIAM PORR

Tricket att skapa innehåll utan behov av mycket redigering var att förstå GPT-3:s styrkor och svagheter. Det är ganska bra på att göra snyggt språk, och det är inte så bra på att vara logiskt och rationellt, säger Porr. Så han valde en populär bloggkategori som inte kräver rigorös logik: produktivitet och självhjälp.

Därifrån skrev han sina rubriker enligt en enkel formel: han scrollade runt på Medium och Hacker News för att se vad som presterade i dessa kategorier och satte ihop något relativt liknande. Känner du dig improduktiv? Du kanske borde sluta tänka för mycket, skrev han för en. Djärvhet och kreativitet överträffar intelligens, skrev han för en annan. Vid några tillfällen fungerade inte rubrikerna. Men så länge han höll sig vid de rätta ämnena var processen enkel.

Efter två veckor av nästan dagliga inlägg pensionerade han projektet med ett sista, kryptiskt, självskrivet meddelande . Med titeln Vad jag skulle göra med GPT-3 om jag inte hade någon etik, beskrev den hans process som en hypotetisk. Samma dag postade han också ett mer rak bekännelse på hans riktiga blogg.

De få personer som blev misstänksamma mot Porrs falska blogg nedröstades av andra medlemmar i communityn.

Skärmbild / LIAM PORR

Porr säger att han ville bevisa att GPT-3 kunde framstå som en mänsklig författare. Faktum är att trots algoritmens något konstiga skrivmönster och enstaka fel, väckte bara tre eller fyra av de dussintals personer som kommenterade hans toppinlägg på Hacker News misstankar om att det kan ha genererats av en algoritm. Alla dessa kommentarer röstades omedelbart ned av andra community-medlemmar.

För experter har detta länge varit den oro som sådana språkgenererande algoritmer väckt. Ända sedan OpenAI först tillkännagav GPT-2 har folk spekulerat i att det var sårbart för missbruk. I sitt eget blogginlägg fokuserade labbet på AI-verktygets potential att bli beväpnad som en massproducent av desinformation . Andra har undrat om det skulle kunna användas för att churna ut spam inlägg full av relevanta sökord för spelet Google.

Porr säger att hans experiment också visar ett mer vardagligt men fortfarande oroande alternativ: människor kan använda verktyget för att generera mycket clickbait-innehåll. Det är möjligt att det bara kommer att bli en flod av mediokert blogginnehåll för nu är inträdesbarriären så lätt, säger han. Jag tror att värdet av onlineinnehåll kommer att minska mycket.

Porr planerar att göra fler experiment med GPT-3. Men han väntar fortfarande på att få tillgång från OpenAI. Det är möjligt att de är upprörda över att jag gjorde det här, säger han. Jag menar, det är lite dumt.

Uppdatering: Ytterligare detaljer har lagts till i texten och bildtexterna för att förklara hur Liam Porr skapade sin blogg och fick den till toppen av Hacker News.

Dölj