Mänskliga hjärnor och AI:er kan hackas med dessa konstiga tweakade bilder

Kategori: Artificiell intelligens Postad 01 mars

Datorseendealgoritmer är inte de enda formerna av intelligens som kan luras av manipulerade bilder.

Hoppsan: Forskare har använt en AI för att designa de första bilderna som lurar både människor och datorseendealgoritmer, som ovan: en oförändrad bild av en katt, till vänster, bredvid en version som har justerats för att se konstigt ut som en hund.

För vetenskap! Att hitta mänskliga svagheter på detta sätt kan förbättra våra AI-system. I tidningen som beskriver dessa manipulerade foton – medförfattare av Ian Goodfellow, skaparen av generativa motstridiga nätverk (GAN) – forskarna påpekar att om vi hittar en viss klass av förändrade bilder som inte kan lura det mänskliga sinnet, tyder det på att en liknande mekanism kan finnas inom maskininlärning. De flesta AI-system är trots allt löst baserade på den mänskliga hjärnan.

Varför det är viktigt: Nu när det finns klistermärken som kan sättas på fysiska föremål för att förvirra datorseendesystem, så kallade motstridiga exempel är ett verkligt problem. Och om autonoma fordon inte har ett sätt att se till att deras system kan se varje stoppskylt, kommer de inte att vara redo för vägen när som helst snart.