En AI-algoritm inspirerad av hur barn lär sig är svårare att förväxla

Kategori: Artificiell intelligens Postad 06 maj

Information brandslang: Standardpraxis för att lära ut en maskininlärningsalgoritm är att ge den alla detaljer på en gång. Säg att du bygger ett bildklassificeringssystem för att känna igen olika djurarter. Du visar den exempel på varje art och märker dem därefter: schäfer och pudel för hundar, till exempel.

Men när en förälder undervisar ett barn är tillvägagångssättet helt annorlunda. De börjar med mycket bredare etiketter: alla hundarter är först bara en hund. Först efter att barnet har lärt sig att särskilja dessa enklare kategorier delar föräldern upp var och en i mer detaljer.

Bortskaffad förvirring: Med inspiration från detta tillvägagångssätt skapade forskare vid Carnegie Mellon University en ny teknik som lär ett neuralt nätverk att klassificera saker i etapper. I varje steg ser nätverket samma träningsdata. Men etiketterna börjar enkelt och brett och blir mer specifika med tiden.

För att fastställa denna svårighetsprogression visade forskarna först det neurala nätverket träningsdata med de slutliga detaljerade etiketterna. De beräknade sedan vad som kallas en förvirringsmatris, som visar de kategorier som modellen hade svårast att skilja åt. Forskarna använde detta för att bestämma utbildningsstadierna, grupperade de minst särskiljbara kategorierna under en etikett i tidiga skeden och delade upp dem i finare etiketter med varje iteration.

Bättre noggrannhet: I tester med flera populära datauppsättningar för bildklassificering ledde tillvägagångssättet nästan alltid till en slutlig maskininlärningsmodell som överträffade en som tränats med den konventionella metoden. I bästa fall ökade den klassificeringsnoggrannheten upp till 7 %.

Läroplansinlärning: Även om tillvägagångssättet är nytt, är tanken bakom det inte det. Bruket att träna ett neuralt nätverk på ökande svårighetsstadier kallas läroplansinlärning och har funnits sedan 1990-talet. Men tidigare läroplansinlärning fokuserade på att visa det neurala nätverket en annan delmängd av data i varje steg, snarare än samma data med olika etiketter. Det senaste tillvägagångssättet var presenteras av tidningens medförfattare Otilia Stretcu vid International Conference of Learning Representations förra veckan.

Varför det är viktigt: Den stora majoriteten av djuplärande forskning betonar idag storleken på modeller: om ett bildklassificeringssystem har svårt att skilja mellan olika objekt betyder det att det inte har tränats på tillräckligt många exempel. Men genom att låna insikter från hur människor lär sig hittade forskarna en ny metod som gjorde att de kunde få bättre resultat med exakt samma träningsdata. Det föreslår ett sätt att skapa mer dataeffektiva inlärningsalgoritmer.