211service.com
Nvidia låter dig titta inuti den svarta lådan med sin självkörande AI
Nvidia har tagit fram en självkörande AI som visar hur det fungerar.
Som vi förklarade i vår senaste omslagsartikel, The Dark Secret at the Heart of AI , resulterar några av de mest kraftfulla maskininlärningsteknikerna som finns i mjukvara som är nästan helt ogenomskinlig, även för ingenjörerna som bygger den. Tillvägagångssätt som ger några ledtrådar om hur en AI fungerar kommer därför att vara oerhört viktiga för att bygga förtroende för en teknik som ser ut att revolutionera allt från medicin till tillverkning.
Nvidia tillhandahåller chips som är idealiska för djupinlärning, en särskilt kraftfull maskininlärningsteknik (se 10 Breakthrough Technologies 2013: Deep Learning ).
Nvidias mjukvara för neurala nätverk belyser de områden som den fokuserar på när den fattar drivande beslut.
Chiptillverkaren har också utvecklats system som visar hur en biltillverkare kan tillämpa djupinlärning på autonom körning. Detta inkluderar en bil som styrs helt av en djupinlärningsalgoritm. Förvånansvärt nog har fordonets dator inga regler att följa – den matchar helt enkelt indata från flera videokameror med beteendet hos en mänsklig förare och räknar ut själv hur den ska köra. Den enda haken är att systemet är så komplext att det är svårt att reda ut hur det faktiskt fungerar.
Men Nvidia jobbar på att öppna den här svarta lådan. Det har utvecklat ett sätt att visuellt belysa vad systemet uppmärksammar. Som förklaras i en nyligen publicerad papper , är den neurala nätverksarkitekturen som utvecklats av Nvidias forskare utformad så att den kan lyfta fram de områden i en videobild som bidrar starkast till beteendet hos bilens djupa neurala nätverk. Anmärkningsvärt nog visar resultaten att nätverket fokuserar på kanterna på vägar, körfältsmarkeringar och parkerade bilar - precis sådana saker som en bra mänsklig förare skulle vilja uppmärksamma.
Det som är revolutionerande med detta är att vi aldrig direkt sa åt nätverket att bry sig om dessa saker, skrev Urs Muller, Nvidias chefsarkitekt för självkörande bilar, i en blogginlägg .
Det är inte en fullständig förklaring av hur det neurala nätverket resonerar, men det är en bra början. Som Muller säger: Jag kan inte förklara allt jag behöver att bilen ska göra, men jag kan visa den, och nu kan den visa mig vad den lärde sig.
Den här typen av tillvägagångssätt kan bli allt viktigare eftersom djupinlärning tillämpas på nästan alla problem som involverar stora mängder data, inklusive kritiska områden som medicin, ekonomi och militär underrättelsetjänst.
En handfull akademiska forskare undersöker också frågan. Till exempel, Jeff Clune vid University of Wyoming och Charles Guestrin vid University of Washington (och Apple) har hittat sätt att lyfta fram de delar av bilder som klassificeringssystem plockar upp. Och Tommi Jaakola och Regina Barzilay vid MIT utvecklar sätt att tillhandahålla textavsnitt som hjälper till att förklara en slutsats som dras från stora mängder skriftlig data.
Defense Advanced Projects Research Agency (DARPA), som gör långtidsforskning för den amerikanska militären, finansierar flera liknande forskningsinsatser genom ett program som det kallar Förklarlig artificiell intelligens (XAI) .
Utöver de tekniska detaljerna är det dock fascinerande att överväga hur detta kan jämföras med mänsklig intelligens. Vi gör alla möjliga saker som vi inte kan förklara helt och hållet, och förklaringarna vi skapar är ofta bara approximationer, eller berättelser om vad som händer. Med tanke på opaciteten hos dagens allt mer komplexa maskininlärningsmetoder kan vi en dag tvingas acceptera sådana förklaringar från AI också.
(Källor: Nvidia , Den mörka hemligheten i hjärtat av AI , USA:s militär vill att dess autonoma maskiner ska förklara sig själva )