211service.com
Smart programvara kan luras att se vad som inte finns
En teknik som kallas djupinlärning har gjort det möjligt för Google och andra företag att göra genombrott för att få datorer att förstå innehållet i bilder. Nu har forskare vid Cornell University och University of Wyoming visat hur man gör bilder som lurar in sådan programvara ser saker som inte finns där .
Bilder som dessa skapades för att lura maskininlärningsalgoritmer. Programvaran ser varje mönster som en av siffrorna 1 till 5.
Forskarna kan skapa bilder som för en människa framstår som förvrängda nonsens eller enkla geometriska mönster, men som av programvaran identifieras som ett vardagligt föremål som en skolbuss. Trickbilderna ger ny insikt i skillnaderna mellan hur verkliga hjärnor och de enkla simulerade neuroner som används i djupa inlärningsprocessbilder.
Forskare tränar vanligtvis mjukvara för djupinlärning för att känna igen något av intresse – säg en gitarr – genom att visa den miljontals bilder på gitarrer, varje gång de säger till datorn att det här är en gitarr. Efter ett tag kan programvaran identifiera gitarrer i bilder som den aldrig har sett förut, vilket ger sitt svar en konfidensklassificering. Det kan ge en gitarr som visas ensam på en vit bakgrund ett högt konfidensvärde, och en gitarr som ses i bakgrunden av en kornig rörig bild ett lägre konfidensvärde (se 10 Breakthrough Technologies 2013: Deep Learning ).
Det tillvägagångssättet har värdefulla applikationer som ansiktsigenkänning eller att använda programvara för att bearbeta säkerhets- eller trafikkameror, till exempel för att mäta trafikflöden eller upptäcka misstänkt aktivitet.
Men även om de matematiska funktionerna som används för att skapa ett artificiellt neuralt nätverk förstås individuellt, är det okänt hur de samverkar för att dechiffrera bilder. Vi förstår att de fungerar, bara inte hur de fungerar, säger Jeff Clune , en biträdande professor i datavetenskap vid University of Wyoming. De kan lära sig att göra saker som vi inte ens kan lära oss att göra själva.
Dessa bilder ser abstrakta ut för människor, men ses av den bildigenkänningsalgoritm som de designades för att lura som de objekt som beskrivs i etiketterna.
För att kasta nytt ljus över hur dessa nätverk fungerar använde Clunes grupp ett neuralt nätverk som heter AlexNet som har uppnått imponerande resultat inom bildigenkänning. De körde det omvänt och bad om en version av programvaran utan kunskap om gitarrer skapa en bild av en, genom att generera slumpmässiga pixlar över en bild.
Forskarna bad en andra version av nätverket som hade tränats för att upptäcka gitarrer att betygsätta bilderna som gjordes av det första nätverket. Det förtroendebetyget användes av det första nätverket för att förfina sitt nästa försök att skapa en gitarrbild. Efter tusentals omgångar av detta mellan de två mjukvarorna kunde det första nätverket göra en bild som det andra nätverket kände igen som en gitarr med 99 procents tillförsikt.
Men för en människa såg dessa gitarrbilder ut som färgade TV-statiska eller enkla mönster. Clune säger att detta visar att programvaran inte är intresserad av att sammanfoga strukturella detaljer som strängar eller en greppbräda, som en människa som försöker identifiera något kan vara. Istället verkar programvaran titta på specifika avstånd eller färgförhållanden mellan pixlar, eller övergripande färg och textur.
Det ger ny insikt om hur artificiella neurala nätverk verkligen fungerar, säger Clune, även om mer forskning behövs.
Ryan Adams , en biträdande professor i datavetenskap vid Harvard, säger att resultaten inte är helt överraskande. Att stora delar av trickbilderna ser ut som hav av statisk ström beror förmodligen på hur nätverk matas med träningsbilder. Objektet av intresse är vanligtvis bara en liten del av fotot, och resten är oviktigt.
Adams påpekar också att Clunes forskning visar att människor och artificiella neurala nätverk har vissa saker gemensamt. Människor har trott att de ser vardagliga föremål i slumpmässiga mönster – som stjärnorna – i årtusenden.
Clune säger att det skulle vara möjligt att använda hans teknik för att lura bildigenkänningsalgoritmer när de sätts i funktion i webbtjänster och andra produkter. Det skulle dock vara väldigt svårt att ta sig ur. Till exempel har Google algoritmer som filtrerar bort pornografi från resultaten av sin bildsöktjänst. Men för att skapa bilder som skulle lura det, skulle en skojare behöva känna till betydande detaljer om hur Googles programvara utformades.