211service.com
Algoritmer som lär sig med mindre data kan utöka AI:s kraft
Förra året visade både Microsoft och Google att deras bildigenkänningsalgoritmer hade lärt sig de bästa människorna. De skapade självständigt mjukvara som kunde överstiga den genomsnittliga mänskliga poängen på ett standardtest som utmanar mjukvara att känna igen bilder av tusen olika föremål, från moskéer till myggor.
Men för att bli tillräckligt bra för att besegra mänskligheten granskade varje företags programvara 1,2 miljoner märkta bilder. Ett barn kan lära sig att känna igen en ny sorts föremål eller djur med bara ett exempel.
Börja Geometrisk intelligens sade i måndags att man har utvecklat mjukvara för maskininlärning som är en mycket snabbare studie. VD Gary Marcus sa kl MIT Technology Review s EmTech Digital-konferens att hans XProp-mjukvara kräver betydligt färre exempel än den dominerande formen av maskininlärningsprogramvara, känd som djupinlärning, för att lära sig en ny visuell uppgift.
Marcus avslöjade inte detaljer om XProps arbete. Men han visade ett diagram som jämförde hur XProp och ett ospecificerat program för djupinlärning presterade på ett test som utmanar programvara att lära sig att känna igen handskrivna siffror.
Båda systemen skulle kunna fungera mer exakt med mer träningsdata. Men Geometric Intelligences XProp-programvara skulle kunna göra fler av de träningsexempel som den gavs.
Till exempel, efter att bara ha sett cirka 150 exempel av varje siffra, skulle den bara känna igen cirka 2 procent av nya siffror felaktigt. Programvaran för djupinlärning behövde cirka 700 exempel av varje för att uppnå liknande prestanda.
Det betyder inte att XProp nödvändigtvis är användbart. Att känna igen handskrivna siffror är mer eller mindre ett löst problem. Det finns gott om träningsdata och de bästa publicerade resultaten med djupinlärningsprogram har felfrekvenser på endast cirka 0,2 procent . Fördelen som XProp visade jämfört med mjukvaran för djupinlärning i de data som Marcus visade minskade när mängden träningsdata ökade.
Men Marcus sa att XProp också hade producerat liknande resultat på en databas med foton av husnummer som samlats in av Googles Street View-projekt , och andra tester för bildigenkänning, vilket tyder på att företagets teknik kan vara allmänt tillämplig.
Det råder bred enighet bland maskinlärande forskare om att det behövs nya tekniker som kan fungera med mindre data (se Denna AI-algoritm lär sig enkla uppgifter så snabbt som vi gör).
Deep learning är väldigt datahungrigt – vi lär oss det snabbare, sa Marcus. Det vi har kan ibland halvera den data som behövs, ibland med ett större förhållande.
Marcus, professor i psykologi vid New York University som har ägnat decennier åt att studera hur barn lär sig, är skeptisk till att de senaste framstegen inom områden som tal- och bildigenkänning som möjliggörs av djupinlärning nödvändigtvis kommer att leda till framsteg inom mer utmanande områden som att förstå språk ( se Kan den här mannen göra AI mer mänsklig?).
Stora datorföretag som Google har kunnat skapa kraftfull programvara för tal- och bildigenkänning genom att spendera stora pengar på att samla gigantiska samlingar av märkt träningsdata. Marcus ifrågasätter inte att teknik kommer att leda till framgångsrika produkter (se Google tror att du är redo att konversera med datorer). Men han tror att det är nödvändigt att göra mindre datahungriga algoritmer om programvaran ska komma närmare hur människor snabbt kan lära sig nya färdigheter eller anpassa sig till förändrade omständigheter.
Vi lever i den här eran av big data, och det finns den här idén att vi bara kan kasta mer data på problemet, sa Marcus till EmTech-publiken. Men för vissa problem finns det helt enkelt inte tillräckligt med data.
Språket är ett exempel, sa han. Med ett oändligt antal möjliga meningar är träningsprogramvara med märkta exempel på alla möjliga betydelser den behöver känna igen helt enkelt inte möjlig. Marcus nämnde också självkörande bilar som ett exempel där datahungrig maskininlärning kanske inte räcker.
Om en bil måste uppleva situationer om och om igen för att bemästra dem, kan det ta väldigt lång tid att träna den för att klara alla möjliga trafik- och vädersituationer, sa han.