Den revolutionerande tekniken som tyst förändrade maskinsynen för alltid

I rymdutforskning finns Google Lunar X Prize för att placera en rover på månens yta. Inom medicin finns Qualcomm Tricorder X-priset för att utveckla en Star Trek-liknande enhet för att diagnostisera sjukdom. Det finns till och med ett begynnande Artificiell Intelligens X-pris för att utveckla ett AI-system som kan leverera ett fängslande TED-tal.

I en värld av maskinseende är det motsvarande målet att vinna ImageNet Large-Scale Visual Recognition Challenge. Detta är en tävling som har pågått varje år sedan 2010 för att utvärdera bildigenkänningsalgoritmer. (Det är utformat för att följa upp ett liknande projekt som heter PASCAL VOC som pågick från 2005 till 2012).

Tävlande i denna tävling har två enkla uppgifter. Presenterad med en bild av något slag är den första uppgiften att avgöra om den innehåller en viss typ av objekt eller inte. Till exempel kan en tävlande bestämma sig för att det finns bilar på den här bilden men inga tigrar. Den andra uppgiften är att hitta ett visst föremål och rita en ruta runt det. Till exempel kan en tävlande bestämma sig för att det finns en skruvmejsel på en viss position med en bredd på 50 pixlar och en höjd på 30 pixlar.

Åh, och en sak till: det finns 1 000 olika kategorier av objekt, från kulram till zucchini, och tävlande måste leta igenom en databas med över 1 miljon bilder för att hitta varje instans av varje objekt. Knepig!

Datorer har alltid haft problem med att identifiera objekt i riktiga bilder så det är inte svårt att tro att vinnarna i dessa tävlingar alltid har presterat dåligt jämfört med människor.

Men allt detta förändrades 2012 när ett team från University of Toronto i Kanada gick in i en algoritm som heter SuperVision, som sopade golvet med motståndarna.

Idag granskar Olga Russakovsky vid Stanford University i Kalifornien och några kompisar historien om denna tävling och säger att i efterhand var SuperVisions omfattande seger en vändpunkt för maskinseende. Sedan dess, säger de, har maskinseendet förbättrats i en så snabb takt att den idag konkurrerar med mänsklig noggrannhet för första gången.

Så vad hände 2012 som förändrade världen av maskinseende? Svaret är en teknik som kallas djupa konvolutionella neurala nätverk som Super Visison-algoritmen använde för att klassificera de 1,2 miljoner högupplösta bilderna i datasetet i 1000 olika klasser.

Detta var första gången som ett djupt konvolutionellt neuralt nätverk vann tävlingen, och det var en klar seger. 2010 hade det vinnande bidraget en felprocent på 28,2 procent, 2011 hade felprocenten sjunkit till 25,8 procent. Men SuperVision vann med en felprocent på endast 16,4 procent 2012 (näst bästa bidraget hade en felprocent på 26,2 procent). Den klara segern säkerställde att detta tillvägagångssätt har kopierats i stor utsträckning sedan dess.

Konvolutionella neurala nätverk består av flera lager av små neuronsamlingar som var och en tittar på små delar av en bild. Resultaten från alla samlingar i ett lager görs för att överlappa varandra för att skapa en representation av hela bilden. Lagret nedan upprepar sedan denna process på den nya bildrepresentationen, vilket gör att systemet kan lära sig om bildens sammansättning.

Djupa konvolutionella neurala nätverk uppfanns i början av 1980-talet. Men det är först under de senaste åren som datorer har börjat ha de hästkrafter som krävs för högkvalitativ bildigenkänning.

SuperVision, till exempel, består av cirka 650 000 neuroner arrangerade i fem faltningslager. Den har cirka 60 miljoner parametrar som måste finjusteras under inlärningsprocessen för att känna igen objekt i särskilda kategorier. Det är detta enorma parameterutrymme som tillåter igenkänning av så många olika typer av objekt.

Sedan 2012 har flera grupper förbättrat SuperVisions resultat avsevärt. I år uppnådde en algoritm som heter GoogLeNet, skapad av ett team av Googles ingenjörer, en felfrekvens på endast 6,7 procent.

En av de stora utmaningarna med att driva den här typen av tävlingar är att skapa högkvalitativ datauppsättning i första hand, säger Russakovsky och co. Varje bild i databasen måste annoteras till en guldstandard som algoritmerna måste uppfylla. Det finns också utbildningsdatabas med cirka 150 000 bilder som också måste kommenteras.

Det är ingen lätt uppgift med ett så stort antal bilder. Russakovsky och co har gjort detta med hjälp av crowdsourcing på anläggningar som Amazons Mechanical Turk där de ber mänskliga användare att kategorisera bilderna. Det kräver en betydande mängd planering, krysskontroll och omkörning när det inte fungerar. Men resultatet är en högkvalitativ databas med bilder kommenterade med en hög grad av noggrannhet, säger de.

En intressant fråga är hur de bästa algoritmerna står sig i jämförelse med människor när det kommer till objektigenkänning. Russakovsky och co har jämfört människor med maskiner och deras slutsats verkar oundviklig. Våra resultat indikerar att en utbildad mänsklig kommentator är kapabel att överträffa den bästa modellen (GoogLeNet) med cirka 1,7 %, säger de.

Med andra ord kommer det inte att dröja länge innan maskiner avsevärt överträffar människor i bildigenkänningsuppgifter.

De bästa maskinseendealgoritmerna kämpar fortfarande med föremål som är små eller tunna, som en liten myra på en blomma eller en person som håller en fjäderpenna i handen. De har också problem med bilder som har förvrängts med filter, ett allt vanligare fenomen med moderna digitalkameror.

Däremot besvärar den här typen av bilder sällan människor som tenderar att ha problem med andra problem. Till exempel är de inte bra på att klassificera föremål i finkorniga kategorier som den speciella hund- eller fågelarten, medan maskinseendealgoritmer hanterar detta med lätthet.

Men trenden är tydlig. Det är uppenbart att människor snart kommer att överträffa toppmoderna bildklassificeringsmodeller endast genom användning av betydande ansträngning, expertis och tid, säger Russakovsky och co.

Eller uttryckt på ett annat sätt, det är bara en tidsfråga innan din smartphone är bättre på att känna igen innehållet i dina bilder än vad du är.

Ref: http://arxiv.org/abs/1409.0575 : ImageNet Large Scale Visual Recognition Challenge

Dölj