211service.com
DeepMinds AI har nu utkonkurrerat nästan alla mänskliga spelare på StarCraft II
AlphaStar (Zerg, i rött) försvarar en tidig aggression där motståndaren byggde en del av basen nära AlphaStars bas. med tillstånd av DeepMind
I januari i år meddelade DeepMind att det hade nått en milstolpe i sin strävan efter artificiell allmän intelligens. Det hade designat ett AI-system, kallat AlphaStar, som slog två professionella spelare på StarCraft II, ett populärt videospel om galaktisk krigföring. Det här var en bra bedrift. StarCaft II är mycket komplex, med 1026 val för varje rörelse. Det är också ett spel med ofullkomlig information – och det finns inga definitiva strategier för att vinna. Prestationen markerade en ny nivå av maskinintelligens.
Nu släpper DeepMind, ett dotterbolag till Alphabet, en uppdatering. AlphaStar överträffar nu den stora majoriteten av aktiva StarCraft-spelare, och visar en mycket mer robust och repeterbar förmåga att lägga strategier i farten än tidigare. Resultaten, publicerad i Nature idag, kan få viktiga konsekvenser för tillämpningar som sträcker sig från maskinöversättning till digitala assistenter eller till och med militär planering.
StarCraft II är ett strategispel i realtid som oftast spelas en mot en. En spelare måste välja en av tre mänskliga eller främmande raser – Protoss, Terran eller Zerg – och växla mellan att samla resurser, bygga infrastruktur och vapen och attackera motståndaren för att vinna spelet. Varje lopp har unika färdigheter och begränsningar som påverkar den vinnande strategin, så spelare väljer och bemästrar ofta att spela med en.
AlphaStar använde förstärkningsinlärning, där en algoritm lär sig genom trial and error, för att bemästra att spela med alla raser. Detta är verkligen viktigt eftersom det betyder att samma typ av metoder i princip kan tillämpas på andra domäner, sa David Silver, DeepMinds främsta forskare, på ett presssamtal. AI nådde också en rankning över 99,8 % av de aktiva spelarna i den officiella onlineligan.

AlphaStar, spelar som Protoss (i grönt), motverkar en attack från en Zerg-spelare. med tillstånd av DeepMind
För att uppnå sådan flexibilitet modifierade DeepMind-teamet en vanlig teknik som kallas självspel, där en förstärkningsinlärningsalgoritm spelar mot sig själv för att lära sig snabbare. DeepMind använde den här tekniken för att träna AlphaGo Zero , programmet som lärde sig utan mänsklig input för att slå de bästa spelarna i det uråldriga spelet Go. Labbet använde det också i den preliminära versionen av AlphaStar.
Konventionellt i självspel är båda versionerna av algoritmen programmerade för att maximera sina chanser att vinna. Men forskarna upptäckte att det inte nödvändigtvis resulterade i de mest robusta algoritmerna. För ett sådant öppet spel riskerade det att lägga in algoritmen i specifika strategier som bara skulle fungera under vissa förhållanden.
Med inspiration från hur professionella StarCraft II-spelare tränar med varandra, programmerade forskarna istället en av algoritmerna för att avslöja den andras brister istället för att maximera sin egen chans att vinna. Det är ungefär som att be en vän att spela mot dig, sa Oriol Vinyals, huvudforskaren i projektet, på samtalet. Dessa vänner borde visa dig vad dina svagheter är, så att du så småningom kan bli starkare. Metoden producerade mycket mer generaliserbara algoritmer som kunde anpassa sig till ett bredare utbud av spelscenarier.
Forskarna tror att AlphaStars strategiutveckling och koordinationsförmåga kan tillämpas på många andra problem. Vi valde StarCraft [...] eftersom vi kände att det speglade många utmaningar som faktiskt dyker upp i verkliga tillämpningar, sa Silver. Dessa applikationer kan inkludera digitala assistenter, självkörande bilar eller andra maskiner som måste interagera med människor, sa han.
Komplexiteten [av StarCraft] påminner mycket mer om skalorna som vi ser i den verkliga världen, sa Silver.
Men AlphaStar visar också AI:s betydande begränsningar. Till exempel behöver den fortfarande storleksordningar mer träningsdata än en mänsklig spelare för att uppnå samma nivå av skicklighet. Sådan inlärningsprogramvara är också fortfarande långt ifrån att översättas till sofistikerad robotteknik eller verkliga tillämpningar.
För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.