Hur gör man en hund till en bil? Ändra en enda pixel.

Kategori: Okategoriserad Postad 30 okt

Tacka ett nytt tillvägagångssätt för att spoofa bildigenkännings-AI:er, utvecklat av ett team från Kyushu University i Japan, för det skämtet.

Att försöka fånga upp AI: er är ett populärt tidsfördriv för många forskare, och vi har tidigare rapporterat om maskininlärning. Det allmänna tillvägagångssättet är att lägga till funktioner till bilder som felaktigt utlöser ett neuralt nätverk och få det att identifiera vad det ser som något helt annat.

Den nya forskningen, publicerad på arXiv , beskriver en algoritm som effektivt kan identifiera de bästa pixlarna att ändra för att förvirra en AI till att felmärka en bild. Genom att bara ändra en pixel i en bild på 1 024 pixlar kan programvaran lura en AI ungefär 74 procent av tiden. Den siffran stiger till cirka 87 procent om fem pixlar justeras.

Du kan se några exempel ovan, som bland annat förfalskade en AI till att kalla ett flygplan för en hund, en groda för en lastbil och en häst för en bil.

Som de Registrera pekar ut , 1 024 pixlars bilder är ganska små, vilket betyder att större bilder skulle behöva finjusteras hundratals pixlar. Men insatsen för att få AI:er att falla omkull genom att använda det minsta antalet möjliga förändringar är intressant och oroande i lika mån. Som vi har förklarat tidigare är det ganska svårt att hitta ett sätt att skydda AI:er från dessa typer av trick, eftersom vi fortfarande inte riktigt förstår hur djupa neurala nätverk fungerar.

Tills vi gör det kommer sådana hack att vara svåra att undvika.