Ett nytt sätt att träna AI-system kan hålla dem säkrare från hackare

Kategori: Artificiell intelligens Postad 10 juli

Sammanhanget: En av de största olösta bristerna med djupinlärning är dess sårbarhet för sk motstridiga attacker . När de läggs till input från ett AI-system kan dessa störningar, till synes slumpmässiga eller oupptäckbara för det mänskliga ögat, få saker att gå helt snett. Dekaler som är strategiskt placerade på en stoppskylt kan till exempel lura en självkörande bil att se en hastighetsbegränsningsskylt för 45 miles per timme, medan dekaler på en väg kan förvirra en Tesla att köra in i fel fil.

Säkerhetskritisk: Den mesta motstridiga forskningen fokuserar på bildigenkänningssystem, men djupinlärningsbaserad bild rekonstruktion system är också sårbara. Detta är särskilt bekymmersamt inom vården, där de senare ofta är vana vid rekonstruera medicinska bilder som CT- eller MRI-skanningar från röntgendata. En riktad motståndsattack kan få ett sådant system att rekonstruera en tumör i en skanning där det inte finns någon.

Forskningen: Bo Li (utnämnd till en av årets MIT Technology Review Innovators Under 35) och hennes kollegor vid University of Illinois i Urbana-Champaign föreslår nu en ny metod för att utbilda sådana djupinlärningssystem för att vara mer felsäkra och därmed pålitliga i säkerhetskritiska scenarier. De ställer det neurala nätverk som ansvarar för bildrekonstruktion mot ett annat neuralt nätverk som är ansvarigt för att generera motstridiga exempel, i en stil som liknar GAN algoritmer . Genom iterativa omgångar försöker det kontradiktoriska nätverket lura återuppbyggnadsnätverket att producera saker som inte är en del av originaldata, eller grundsanningen. Rekonstruktionsnätverket justerar sig kontinuerligt för att undvika att bli lurad, vilket gör det säkrare att distribuera i den verkliga världen.

Resultaten: När forskarna testade sitt motståndsutbildade neurala nätverk på två populära bilddatauppsättningar kunde det rekonstruera grundsanningen bättre än andra neurala nätverk som hade felsäkrats med olika metoder. Resultaten är fortfarande inte perfekta, vilket visar att metoden fortfarande behöver förfinas. Arbetet kommer att presenteras nästa vecka på Internationell konferens om maskininlärning . (Läs veckans algoritm för tips om hur jag navigerar AI-konferenser som denna.)