Computer Vision Algoritmer är fortfarande alldeles för lätta att lura

Kategori: Artificiell intelligens Postad 20 dec

AI-bildigenkänning har gjort några fantastiska framsteg, men som ny forskning visar kan systemen fortfarande snubblas av exempel som aldrig skulle lura en person.

Labsix, en grupp MIT-studenter som nyligen lurade en bildklassificerare som utvecklats av Google att tänka a 3-D-printad sköldpadda var ett gevär , släppt en tidning på onsdag som beskriver en annan teknik som kan lura system ännu snabbare. Den här gången lyckades de dock lura en svart låda, där de bara hade delvis information om hur systemet fattade beslut.

Teamets nya algoritm börjar med en bild som de vill använda för att lura ett annat system – i exemplet från deras papper är det en hund – och börjar sedan ändra pixlar för att få bilden att se mer ut som källbilden; i det här fallet skidåkare. När den fungerar, utmanar den kontradiktoriska algoritmen bildigenkänningssystemet med versioner av bilden som snabbt flyttar in i territorium som alla människor skulle känna igen som skidåkare (kolla in gif-filen ovan). Men hela tiden upprätthåller algoritmen precis rätt kombination av saboterade pixlar för att få systemet att tro att det tittar på en hund.

Forskarna testade sin metod på Googles Cloud Vision API – ett bra testfall delvis eftersom Google inte har publicerat något om hur datorseendet fungerar, eller ens alla etiketter som systemet använder för att klassificera bilder. Teamet säger att de hittills bara har försökt att förstöra Googles system, men att deras teknik borde fungera på andra bildigenkänningssystem också.

Det finns många forskare som arbetar med motverka motstridiga exempel som denna, men för säkerhetskritiska användningar, som t.ex autonoma fordon , artificiell intelligens kommer man inte att lita på förrän motstridiga attacker är omöjliga, eller åtminstone mycket svårare, att genomföra.