Denna algoritm bläddrar i Wikipedia för att automatiskt generera läroböcker

Wikipedia

Maskininlärning – den kompletta guiden är en tung bok. På mer än 6 000 sidor är den här boken en omfattande introduktion till maskininlärning, med uppdaterade kapitel om artificiella neurala nätverk, genetiska algoritmer och maskinseende.

Men det här är ingen vanlig publikation. Det är en Wikibook, en lärobok som alla kan komma åt eller redigera, gjord av artiklar på Wikipedia, det stora onlineuppslagsverket.

Det är en styrka. Crowdsourced information uppdateras ständigt med alla de senaste framstegen och redigeras konsekvent för att rätta till fel och oklarheter.

Men det är också en svaghet. Wikipedia är enorm. Att bestämma sig för vad som ska finnas med i en sådan lärobok är en svår uppgift, det är kanske därför boken är så enorm. Med mer än 550 kapitel är det inte lättläst.

Det väcker en intressant fråga. Med tanke på de senaste årens framsteg inom artificiell intelligens, finns det ett sätt att automatiskt redigera Wikipedia-innehåll för att skapa en sammanhängande helhet som är användbar som lärobok?

Ange Shahar Admati och kollegor vid Ben-Gurion University of the Negev i Israel. Dessa killar har utvecklat ett sätt att automatiskt generera Wikibooks med hjälp av maskininlärning. De kallar sin maskin för Wikibook-bot. Det nya med vår teknik är att den syftar till att generera en hel Wikibok, utan mänsklig inblandning, säger de.

Tillvägagångssättet är relativt okomplicerat. Forskarna började med att identifiera en uppsättning befintliga Wikibooks som kan fungera som en träningsdatauppsättning. De började med 6 700 Wikibooks inkluderade i en datamängd som gjordes tillgänglig av Wikipedia för denna typ av akademisk studie.

Eftersom dessa Wikibooks utgör en sorts guldstandard både för utbildning och testning, behövde teamet ett sätt att säkerställa deras kvalitet. Vi valde att koncentrera oss på Wikibooks som visats minst 1000 gånger, utifrån antagandet att populära Wikibooks håller en rimlig kvalitet, säger de.

Det lämnade 490 Wikibooks som de filtrerade vidare, baserat på faktorer som att ha mer än 10 kapitel. Det lämnade 407 Wikibooks som teamet använde för att träna sina maskiner.

Teamet delade sedan upp uppgiften att skapa en wikibok i flera delar, som var och en kräver olika maskininlärningsförmåga. Uppgiften börjar med en titel genererad av en människa, som beskriver ett koncept av något slag, som t.ex Maskininlärning – den kompletta guiden .

Den första uppgiften är att sortera igenom hela uppsättningen av Wikipedia-artiklar för att avgöra vilka som är relevanta nog att inkludera. Denna uppgift är utmanande på grund av den stora mängden artiklar som finns på Wikipedia och behovet av att välja ut de mest relevanta artiklarna bland miljontals tillgängliga artiklar, säger Admati och co.

För att hjälpa till med denna uppgift använde teamet Wikipedias nätverksstruktur – artiklar pekar ofta på andra artiklar som använder hyperlänkar. Det är rimligt att anta att den länkade artikeln sannolikt är relevant.

Så de började med en liten kärna av artiklar som nämner frökonceptet i rubriken. De identifierade sedan alla artiklar som är upp till tre hopp bort från dessa frön på nätverket.

Men hur många av dessa länkade artiklar ska inkluderas? För att ta reda på det började de med titlarna på de 407 wikiböcker som skapats av människor och utförde analysen med tre hopp. De räknade sedan ut hur mycket av innehållet i de mänskligt skapade böckerna som inkluderades av den automatiserade metoden.

Det visar sig att det automatiserade tillvägagångssättet ofta inkluderade mycket av det ursprungliga Wikibook-innehållet men betydligt mer. Så teamet behövde något annat sätt att beskära innehållet ytterligare.

Återigen kommer nätverksvetenskap in i bilden. Varje mänskligt genererad Wikibook har en egen nätverksstruktur, som bestäms av antalet länkar som pekar in från andra artiklar, antalet länkar som pekar ut, sidrankningslistan för de inkluderade artiklarna, och så vidare.

Så laget skapade en algoritm som tittade på varje automatiskt vald artikel för ett givet ämne och sedan bestämde om inkludering av den i en Wikibook skulle göra nätverksstrukturen mer lik mänskligt genererade böcker eller inte. Om inte, utelämnas artikeln.

Nästa steg är att organisera artiklarna i kapitel. Detta är i huvudsak en klustringsuppgift; att titta på nätverket som bildas av hela uppsättningen artiklar och ta reda på hur man delar upp det i sammanhängande kluster. Olika klustringsalgoritmer finns tillgängliga för denna typ av uppgift.

Det sista steget är att bestämma i vilken ordning artiklarna ska visas i varje kapitel. För att göra detta organiserar teamet artiklarna i par och använder en nätverksbaserad modell för att avgöra vilken som ska visas först. Genom att upprepa detta för alla kombinationer av artikelpar, utarbetar algoritmen en föredragen ordning för artiklarna och därmed kapitlen.

På så sätt kunde teamet producera automatiserade versioner av Wikibooks som redan hade skapats av människor. Hur väl dessa automatiserade böcker kan jämföras med de mänskliga böckerna är svårt att bedöma. De innehåller säkert mycket av samma material, ofta i liknande ordning, vilket är en bra början.

Men Adamti och co har en plan för att avgöra nyttan av deras tillvägagångssätt. De planerar att producera en rad wikiböcker om ämnen som ännu inte täcks av mänskligt genererade böcker. De kommer sedan att övervaka sidvisningarna och redigeringarna av dessa böcker för att se hur populära de blir och hur mycket de är redigerade, jämfört med mänskliga genererade böcker. Det här kommer att bli ett test i verkligheten för vårt förhållningssätt, säger de.

Det är intressant arbete som har potential att producera värdefulla läroböcker om ett brett spektrum av ämnen, och till och med skapa andra texter som konferenshandlingar. Hur värdefulla de kommer att vara för mänskliga läsare är ännu inte bestämt. Men vi kommer att titta för att ta reda på det.

Ref: arxiv.org/abs/1812.10937 : Wikibook-Bot—Automatisk generering av en Wikipedia-bok

Dölj