En algoritm som utvecklade Starcraft-bots är också att träna självkörande bilar

Waymo fordon Waymo

Waymos självkörande bilar har nu något gemensamt med hjärnorna som styr vanliga fordon: deras intelligens kommer delvis från evolutionens kraft.

Ingenjörer på Waymo, som ägs av Alphabet, slog sig ihop med forskare på DeepMind, en annan Alphabet-division dedikerad till AI, för att hitta en mer effektiv process för att träna och finjustera företagets självkörande algoritmer.

De använde en teknik som kallas befolkningsbaserad träning (PBT), tidigare utvecklat av DeepMind för finslipning av videospelsalgoritmer. PBT, som hämtar inspiration från biologisk evolution, påskyndar valet av maskinlärande algoritmer och parametrar för en viss uppgift genom att låta kandidatkod dra från de mest lämpliga exemplaren (de som utför en given uppgift mest effektivt) i en algoritmisk population.

Att förfina AI-algoritmer på detta sätt kan också bidra till att ge Waymo ett försprång. Algoritmerna som styr självkörande bilar behöver omskolas och kalibreras om i takt med att fordonen samlar in mer data och distribueras på nya platser. Dussintals företag tävlar för att demonstrera den bästa självkörande tekniken på riktiga vägar. Waymo utforskar olika andra sätt att automatisera och påskynda utvecklingen av sina maskininlärningsalgoritmer.

Mer effektiva metoder för omskolning av maskininlärningskod borde faktiskt tillåta AI att vara flexibel och användbar i olika sammanhang.

En av de viktigaste utmaningarna för alla som gör maskininlärning i ett industriellt system är att kunna bygga om systemet för att dra nytta av ny kod, säger Matthieu Devin, chef för maskininlärningsinfrastruktur på Waymo. Vi behöver hela tiden omskola nätet och skriva om vår kod. Och när du tränar om kan du behöva justera dina parametrar.

Moderna självkörande bilar styrs av en nästan Rube Goldberg-kombination av algoritmer och tekniker. Många maskininlärningsalgoritmer används för att upptäcka väglinjer, skyltar, andra fordon och fotgängare i sensordata. Dessa fungerar tillsammans med konventionell eller handskriven kod för att styra fordonet och svara på olika eventualiteter. Varje ny iteration av ett självkörande system måste testas rigoröst i simulering.

Dagens självkörande fordon är mycket beroende av djupinlärning, i synnerhet. Men att konfigurera ett djupt neuralt nätverk med rätt egenskaper och parametrar (de värden som är hårdkodade i början) är en knepig konst. Kandidatnätverk och parametrar väljs oftast antingen manuellt, vilket är tidskrävande, eller justeras slumpmässigt av en dator, vilket kräver mycket processorkraft.

På Waymo tränar vi massor av olika neurala nät, och forskare lägger ner mycket tid på att ta reda på hur man bäst tränar dessa neurala nät, säger Yu-hsin (Joyce) Chen, en maskininlärande infrastrukturingenjör på Waymo. Vi hade ett behov av det och hoppade bara på tillfället.

Chen säger att hennes team nu använder PBT för att förbättra utvecklingen av djupinlärningskod som används för att detektera körfältsmarkeringar, fordon och fotgängare, och för att verifiera riktigheten av märkt data som matas till andra maskininlärningsalgoritmer. Hon säger att PBT har minskat datorkraften som krävs för att träna om ett neuralt nät med ungefär hälften och har fördubblat eller tredubblat hastigheten på utvecklingscykeln.

Google utvecklar en rad tekniker för att hjälpa till att automatisera processen att träna maskininlärningsmodeller, och de erbjuder redan några av dem till kunder genom ett projekt som kallas Cloud Auto-ML . Att göra AI-utbildning mer effektiv och automatiserad kommer utan tvekan att visa sig avgörande för ansträngningarna att kommersialisera och dra nytta av tekniken.

Oriol Vinyals, en ledande forskare vid DeepMind och en av uppfinnarna av PBT, säger att idén att använda PBT på Waymo kom upp när han besökte Devin. DeepMind utvecklade tekniken först 2017 som ett sätt att påskynda träningen av neurala nätverk, och senare använde den för att hjälpa en dator att spela StarCraft II, ett stridsvideospel som är särskilt utmanande för maskiner (se Innovators Under 35, 2016). DeepMinds samarbete med Waymo började innan det publicerade sin StarCraft-forskning i januari 2019.

Den evolutionsliknande processen som används i PBT gör det också lättare att förstå hur en djupinlärningsalgoritm har justerats och optimerats, med något som liknar ett släktträd. En av de coola sakerna är att du kan visualisera utvecklingen av parametrar, säger Vinyals. Det är ett bra sätt att verifiera att det som händer faktiskt är vettigt för dig.

Uppdaterad 29 juli för att spegla det faktum att PBT utvecklades innan DeepMind började arbeta med StarCraft II.

Dölj