211service.com
Denna know-it-all AI lär sig genom att läsa hela webben nonstop
Ms Tech
Tillbaka i juli, OpenAI's senaste språkmodellen, GPT-3 , bländad av sin förmåga att churna ut stycken som ser ut som om de kunde ha skrivits av en människa. Folk började visa upp hur GPT-3 också kunde autokomplettera kod eller fylla i tomrum i kalkylblad.
I ett exempel twittrade Twitter-anställde Paul Katsen kalkylbladsfunktionen för att styra dem alla, där GPT-3 fyller i kolumner av sig själv, drar in data för amerikanska delstater: befolkningen i Michigan är 10,3 miljoner, Alaska blev en stat 1906, och så vidare.
Förutom att GPT-3 kan vara lite av en bullshitter. Befolkningen i Michigan har aldrig varit 10,3 miljoner, och Alaska blev en stat 1959.
Språkmodeller som GPT-3 är fantastiska mimiker , men de har liten känsla för vad de faktiskt säger. De är riktigt bra på att skapa berättelser om enhörningar, säger Mike Tung, VD för Stanford-startupen Diffbot. Men de är inte tränade för att vara sakliga.
Detta är ett problem om vi vill att AI:er ska vara pålitliga. Det är därför Diffbot tar ett annat tillvägagångssätt. Det bygger en AI som läser varje sida på hela den offentliga webben, på flera språk, och extraherar så många fakta från dessa sidor som den kan.
Liksom GPT-3 lär sig Diffbots system genom att dammsuga upp enorma mängder mänskligt skriven text som finns online. Men istället för att använda dessa data för att träna en språkmodell, förvandlar Diffbot vad den läser till en serie tredelade fakta som relaterar en sak till en annan: subjekt, verb, objekt.
Pekade på min biografi, till exempel, får Diffbot veta att Will Douglas Heaven är journalist; Will Douglas Heaven arbetar på MIT Technology Review; MIT Technology Review är ett medieföretag; och så vidare. Var och en av dessa fakta förenas med miljarder andra i ett vidsträckt, sammankopplat nätverk av fakta. Detta är känt som en kunskapsgraf.
Kunskapsdiagram är inte nytt. De har funnits i decennier och var ett grundläggande koncept i tidig AI-forskning. Men att konstruera och underhålla kunskapsgrafer har vanligtvis gjorts för hand, vilket är svårt. Detta hindrade också Tim Berners-Lee från att inse vad han kallade den semantiska webben, som skulle ha inkluderat information för såväl maskiner som människor, så att bots kunde boka våra flygresor, shoppa eller ge smartare svar på frågor än sökmotorer.
För några år sedan började Google också använda kunskapsdiagram. Sök efter Katy Perry så får du en ruta bredvid de viktigaste sökresultaten som berättar att Katy Perry är en amerikansk singer-songwriter med musik tillgänglig på YouTube, Spotify och Deezer. Du kan med ett ögonkast se att hon är gift med Orlando Bloom, hon är 35 och värd 125 miljoner dollar, och så vidare. Istället för att ge dig en lista med länkar till sidor om Katy Perry, ger Google dig en uppsättning fakta om henne från dess kunskapsdiagram.
Men Google gör detta bara för sina mest populära söktermer. Diffbot vill göra det för allt. Genom att helt automatisera byggprocessen har Diffbot kunnat bygga vad som kan vara den största kunskapsgrafen någonsin.
Vid sidan av Google och Microsoft är det ett av endast tre amerikanska företag som genomsöker hela den offentliga webben. Det är definitivt vettigt att genomsöka webben, säger Victoria Lin, en forskare på Salesforce som arbetar med bearbetning av naturliga språk och kunskapsrepresentation. Mycket mänsklig ansträngning kan annars läggas på att skapa en stor kunskapsbas. Heiko Paulheim vid universitetet i Mannheim i Tyskland håller med: Automation är det enda sättet att bygga storskaliga kunskapsgrafer.
Supersurfare
För att samla in sina fakta läser Diffbots AI webben som en människa skulle göra – men mycket snabbare. Med hjälp av en superladdad version av Chrome-webbläsaren ser AI de råa pixlarna på en webbsida och använder bildigenkänningsalgoritmer för att kategorisera sidan som en av 20 olika typer, inklusive video, bild, artikel, händelse och diskussionstråd . Den identifierar sedan nyckelelement på sidan, såsom rubrik, författare, produktbeskrivning eller pris, och använder NLP för att extrahera fakta från vilken text som helst.
Varje tredelad factoid läggs till kunskapsgrafen. Diffbot extraherar fakta från sidor skrivna på vilket språk som helst, vilket innebär att det kan svara på frågor om Katy Perry, till exempel, med hjälp av fakta hämtade från artiklar på kinesiska eller arabiska även om de inte innehåller termen Katy Perry.
Att surfa på nätet som en människa låter AI:n se samma fakta som vi ser. Det betyder också att den har behövt lära sig att navigera på nätet som vi. AI:n måste rulla ner, växla mellan flikar och klicka bort popup-fönster. AI:n måste spela webben som ett videospel bara för att uppleva sidorna, säger Tung.
Diffbot genomsöker webben nonstop och bygger om sin kunskapsgraf var fjärde till femte dag. Enligt Tung lägger AI till 100 miljoner till 150 miljoner enheter varje månad när nya människor dyker upp online, företag skapas och produkter lanseras. Den använder fler maskininlärningsalgoritmer för att smälta samman nya fakta med gamla, skapa nya kopplingar eller skriva över inaktuella. Diffbot måste lägga till ny hårdvara till sitt datacenter i takt med att kunskapsdiagrammet växer.
Forskare kan få tillgång till Diffbots kunskapsdiagram gratis. Men Diffbot har också runt 400 betalande kunder. Sökmotorn DuckDuckGo använder den för att skapa sina egna Google-liknande rutor. Snapchat använder det för att extrahera höjdpunkter från nyhetssidor. Den populära bröllopsplaneraren Zola använder den för att hjälpa människor att göra bröllopslistor, dra in bilder och priser. NASDAQ, som tillhandahåller information om aktiemarknaden, använder den för finansiell analys.
Falska skor
Adidas och Nike använder det till och med för att söka på nätet efter förfalskade skor. En sökmotor kommer att returnera en lång lista med sajter som nämner Nike-träningsskor. Men Diffbot låter dessa företag leta efter sajter som faktiskt säljer sina skor, istället för att bara prata om dem.
För närvarande måste dessa företag interagera med Diffbot med hjälp av kod. Men Tung planerar att lägga till ett naturligt språkgränssnitt. Till syvende och sist vill han bygga vad han kallar ett universellt system för svar på faktafrågor: en AI som kan svara på nästan allt du frågade om den, med källor för att backa upp svaret.
Tung och Lin är överens om att den här typen av AI inte kan byggas enbart med språkmodeller. Men ännu bättre vore att kombinera teknikerna, med hjälp av en språkmodell som GPT-3 för att skapa ett mänskligt gränssnitt för en vet-det-allt bot.
Ändå är inte ens en AI som har sina fakta klara nödvändigtvis smart. Vi försöker inte definiera vad intelligens är, eller något liknande, säger Tung. Vi försöker bara bygga något användbart.