Dessa virtuella robotarmar blir smartare genom att träna varandra





till virtuella robotarm har lärt sig att lösa en lång rad olika pussel —stapla klossar, duka, ordna schackpjäser — utan att behöva omskolas för varje uppgift. Den gjorde detta genom att spela mot en andra robotarm som tränades för att ge den svårare och svårare utmaningar.

Självspel: Utvecklad av forskare vid OpenAI , de identiska robotarmarna – Alice och Bob – lär sig genom att spela ett spel mot varandra i en simulering, utan mänsklig input. Robotarna använder förstärkningsinlärning, en teknik där AI:er tränas genom att prova och missa vilka åtgärder man ska vidta i olika situationer för att uppnå vissa mål. Spelet går ut på att flytta runt föremål på en virtuell bordsskiva. Genom att ordna föremål på specifika sätt försöker Alice ställa pussel som är svåra för Bob att lösa. Bob försöker lösa Alices pussel. När de lär sig lägger Alice mer komplexa pussel och Bob blir bättre på att lösa dem.

Efter att ha tränat på blockpussel som ställts av Alice, kan Bob generalisera till en rad uppgifter, inklusive att duka bord och ordna schackpjäser.



Göra flera saker samtidigt: Modeller för djupinlärning måste vanligtvis omskolas mellan uppgifterna. Till exempel använder AlphaZero (som också lär sig genom att spela spel mot sig själv) en enda algoritm för att lära sig att spela schack, shogi och Go – men bara ett parti åt gången. Den schackspelande AlphaZero kan inte spela Go och den som spelar Go kan inte spela shogi. Att bygga maskiner som verkligen kan multitaska är ett stort olöst problem vägen till mer allmän AI .

AI dojo: En fråga är att träning av en AI för att multitaska kräver ett stort antal exempel. OpenAI undviker detta genom att träna Alice att generera exemplen för Bob och använda en AI för att träna en annan. Alice lärde sig att sätta upp mål som att bygga ett torn av block, sedan plocka upp det och balansera det. Bob lärde sig att använda egenskaper hos den (virtuella) miljön, såsom friktion, för att greppa och rotera föremål.

Virtuell verklighet: Hittills har tillvägagångssättet bara testats i en simulering men forskare vid OpenAI och på andra håll blir bättre på att överföra modeller som tränats i virtuella miljöer till fysiska. En simulering låter AI: er churna genom stora datamängder på kort tid, innan de finjusteras för verkliga inställningar.



Övergripande ambition: Forskarna säger att deras yttersta mål är att träna en robot att lösa alla uppgifter som en person kan be den om. Liksom GPT-3, en språkmodell som kan använda språk på en mängd olika sätt, är dessa robotarmar en del av OpenAI:s övergripande ambition att bygga en multitasking AI. Att använda en AI för att träna en annan kan vara en viktig del av det.

Dölj