211service.com
Kokböcker, Wikipedia och automatiskt genererad Spanglish: De konstiga sätten som AI-forskare samlar in data på
Joe Raedle/Getty Images
Data är oljan som driver AI-utvecklingen, och den ger oss många av de framsteg som vi tar för givna: YouTube-textning, Spotify-musikrekommendationer, de läskiga annonserna som följer dig runt på internet.
Men när det kommer till att samla in användbar data måste AI-experter ofta vara kreativa. Ta NLP (natural-language processing), ett underområde av AI som fokuserar på att lära datorer hur man tolkar mänskligt språk. Vid den årliga konferensen om empiriska metoder i NLP presenterade experter ett brett utbud av forskning som byggde på information som samlats in på några genialiska sätt. Vi har sammanfattat fyra av våra favoritprojekt nedan.
SPANGLISKA
Bland artiklarna om flerspråkig NLP i år, Microsoft presenterade en som fokuserade på att bearbeta kodblandat språk – text eller tal som växlar flytande mellan två språk. Med tanke på att mer än hälften av världens befolkning är flerspråkig är detta understuderade område viktigt.
Forskarna började med spanglish (spanska och engelska), men de saknade tillräckligt med spanglish text för att träna maskinen. Lika vanligt som kodblandning är i flerspråkiga konversationer, finns det sällan i text. För att övervinna den utmaningen skrev forskarna ett program för att lägga in engelska i Microsoft Bing-översättaren och väva tillbaka några fraser från den spanska översättningen till originaltexten. Programmet såg till att orden och fraserna som byttes hade samma betydelse. Precis så kunde de skapa så mycket Spanglish som de behövde.
Den resulterande NLP-modellen överträffade tidigare modeller som tränades på bara spanska och engelska separat. Forskarna hoppas att deras arbete så småningom kommer att bidra till att utveckla flerspråkiga chatbots som kan tala naturligt i kodblandat språk.
KOKBÖCKER
Recept är bra för att göra mat, men de kan också ge näring till maskiner. De följer alla ett liknande steg-för-steg-mönster, och de innehåller ofta bilder som överensstämmer med texten - en utmärkt källa till strukturerad data för att lära maskiner att förstå text och bilder samtidigt. Det är därför forskare vid Hacettepe University i Turkiet sammanställt en gigantisk datamängd av cirka 20 000 illustrerade matlagningsrecept. De hoppas att det kommer att bli en ny resurs för att jämföra prestandan för gemensam bild-textförståelse.
Det de kallar RecipeQA kommer att bygga på tidigare forskning som har fokuserat på maskinell läsförståelse och visuell förståelse separat. I det förstnämnda måste maskinen förstå en fråga och en relaterad passage för att hitta svaret; i den senare söker den istället efter svaret i ett relaterat foto. Att ha text och bilder sida vid sida ökar komplexiteten i uppgiften eftersom bilderna och texten kan dela kompletterande eller överflödig information.
KORTARE MENINGAR
Google vill att AI ska piffa upp din prosa. För detta ändamål skapade forskare där största datamängden någonsin för att bryta upp långa meningar i mindre med motsvarande betydelse. Var skulle du hitta enorma mängder redigeringsdata? Wikipedia, förstås.
Från Wikipedias rika redigeringshistorik extraherade forskargruppen tillfällen där människor delar långa meningar. Resultatet: 60 gånger fler distinkta meningsdelade exempel och 90 gånger fler vokabulärord än vad som hittades i den tidigare benchmarkdatauppsättningen för denna uppgift. Datauppsättningen spänner också över flera språk.
När de tränade en maskininlärningsmodell på sina nya data, uppnådde den 91 % noggrannhet. (Här återspeglar procentandelen andelen meningar som behållit sin mening och grammatiska korrekthet efter att ha skrivits om.) Som jämförelse nådde en modell som tränats på tidigare data endast 32 % träffsäkerhet. När de kombinerade båda datamängderna och tränade en annan modell uppnådde den 95 % noggrannhet. Forskarna drog slutsatsen att framtida förbättringar kan göras genom att hitta ännu fler datakällor.
SOCIAL-MEDIA BIAS
Studier har visat att språket vi genererar kan vara en stor prediktor för vår ras, kön och ålder, även om den informationen aldrig anges uttryckligen. Med det i åtanke försökte forskare vid Bar-Ilan University i Israel och Allen Institute for Artificial Intelligence att använda AI för att avföra text genom ta bort de inbäddade indikatorerna .
För att skaffa tillräckligt med data som kunde representera språkmönstren över olika demografier vände de sig till Twitter. De samlade ett gäng tweets från användare som var jämnt fördelade mellan icke-spansktalande vita och icke-spansktalande svarta; mellan män och kvinnor; och mellan personer i åldersgrupperna 18-34 och över 35 år.
De använde sedan ett kontradiktoriskt tillvägagångssätt – ställde två neurala nätverk mot varandra – för att se om de automatiskt kunde ta bort de inneboende demografiska indikatorerna i tweetarna. Det ena neurala nätet försökte förutsäga demografin, medan det andra försökte justera texten så att den var helt neutral, med målet att minska den första modellens prediktionsnoggrannhet till 50 % (eller chans). Tillvägagångssättet mildrade i slutändan ras-, köns- och åldersindikatorer avsevärt men inte helt.