211service.com
Google och andra bygger AI-system som tvivlar på sig själva
Saiman Chow
Den mest kraftfulla metoden inom AI, djupinlärning, får en ny förmåga: en känsla av osäkerhet.
Forskare vid Uber och Google arbetar med modifieringar av de två mest populära ramverken för djupinlärning som gör det möjligt för dem att hantera sannolikhet. Detta kommer att ge ett sätt för de smartaste AI-programmen att mäta sitt förtroende för en förutsägelse eller ett beslut – i huvudsak att veta när de borde tvivla på sig själva.
Deep learning, som innebär att mata exempeldata till ett stort och kraftfullt neuralt nätverk, har varit en enorm framgång under de senaste åren, vilket gör det möjligt för maskiner att känna igen objekt i bilder eller transkribera tal nästan perfekt. Men det kräver massor av träningsdata och datorkraft, och det kan vara förvånansvärt skört.
Något kontraintuitivt erbjuder denna självtvivel en lösning. Det nya tillvägagångssättet kan vara användbart i kritiska scenarier som involverar självkörande bilar och andra autonoma maskiner.
Du skulle vilja ha ett system som ger dig ett mått på hur säkert det är, säger Dustin Tran, som jobbar med det här problemet på Google. Om en självkörande bil inte känner till sin osäkerhetsnivå kan den göra ett fatalt misstag, och det kan vara katastrofalt.
Arbetet speglar insikten att osäkerhet är en nyckelaspekt av mänskligt resonemang och intelligens. Att lägga till det i AI-program kan göra dem smartare och mindre benägna att misstag, säger Zoubin Ghahramani , en framstående AI-forskare som är professor vid University of Cambridge och chefsforskare vid Uber.
Detta kan visa sig vara mycket viktigt eftersom AI-system används i allt mer kritiska scenarier. Vi vill ha ett stensäkert ramverk för djupinlärning, men göra det lättare för människor att representera osäkerhet, berättade Ghahramani nyligen över en kaffe en morgon under en stor AI-konferens i Long Beach, Kalifornien.
Under samma AI-konferens samlades en grupp forskare på en närliggande bar en eftermiddag för att diskutera Pyro, ett nytt programmeringsspråk som släppts av Uber som kombinerar djupinlärning med probabilistisk programmering.
Mötet i Long Beach anordnades av Noah Goodman , en professor vid Stanford som också är knuten till Ubers AI Lab. Med lockigt, ovårdat hår och en uppknäppt skjorta kunde han lätt misstas för en yogalärare snarare än en AI-expert. Bland de som var på sammankomsten fanns Tran, som också har bidragit till utvecklingen av Pyro.
Goodman förklarar att ge djupinlärning förmågan att hantera sannolikhet kan göra det smartare på flera sätt. Det kan till exempel hjälpa ett program att känna igen saker, med en rimlig grad av säkerhet, från bara några få exempel snarare än många tusen. Att erbjuda ett visst mått av säkerhet snarare än ett ja-eller-nej-svar bör också hjälpa till med konstruktion av komplexa system.
Och medan ett konventionellt djupinlärningssystem endast lär sig av den data som det matas in, kan Pyro också användas för att bygga ett system förprogrammerat med kunskap. Detta kan vara användbart i nästan alla scenarier där maskininlärning för närvarande kan dyka upp.
Relaterad berättelse
Relaterad berättelse Alphabet, nummer 5 på vår lista över de 50 smartaste företagen, tror att det kan vrida molnmarknaden bort från Amazon genom att hjälpa företag att använda maskininlärning med ett verktyg som heter TensorFlow.I de fall man har förkunskaper man vill bygga in i modellen är probabilistisk programmering särskilt användbar, säger Goodman. Folk kommer att använda Pyro för alla möjliga saker.
Edward är ett annat programmeringsspråk som omfattar osäkerhet, detta utvecklat vid Columbia University med finansiering från DARPA. Både Pyro och Edward är fortfarande i tidiga utvecklingsstadier, men det är inte svårt att se varför Uber och Google är intresserade.
Uber använder maskininlärning inom otaliga områden, från att dirigera förare till att ställa in överprissättning, och naturligtvis i sina självkörande bilar. Företaget har investerat mycket i AI och anställt ett antal experter som arbetar med nya idéer. Google har på senare tid byggt om hela sin verksamhet kring AI och djupinlärning.
David Blai , professor i statistik och datavetenskap vid Columbia University och Trans rådgivare, säger att kombinera djupinlärning och probabilistisk programmering är en lovande idé som kräver mer arbete. I princip är det väldigt kraftfullt, säger han. Men det finns många, många tekniska utmaningar.
Ändå, som Goodman noterar, är Pyro och Edward också viktiga för att sammanföra två konkurrerande skolor inom AI, en fokuserad på neurala nätverk och den andra på sannolikhet.
Under de senaste åren har den neurala nätverksskolan varit så dominerande att andra idéer nästan har lämnats bakom sig. För att gå vidare kan fältet behöva anamma dessa andra idéer.
Den intressanta historien här är att du inte behöver tänka på dessa läger som separata, säger Goodman. De kan mötas – i själva verket går de samman – i de verktyg som vi nu bygger.
Du kan till och med säga att de blir smartare, delvis genom att lära sig det de inte vet.