Hur man gömmer sig från AI-övervakningstillståndet med en färgutskrift

Kategori: Artificiell intelligens Postad 23 apr

AI-driven videoteknik blir allestädes närvarande och spårar våra ansikten och kroppar genom butiker, kontor och offentliga utrymmen. I vissa länder utgör tekniken ett kraftfullt nytt lager av polisarbete och statlig övervakning.

Lyckligtvis, som några forskare från det belgiska universitetet KU Leuven har just visat , kan du ofta gömma dig från ett AI-videosystem med hjälp av en enkel färgutskrift.

Vem sa det? Forskarna visade att bilden de designade kan dölja en hel person från ett AI-drivet datorseendesystem. De demonstrerade det på ett populärt system för objektigenkänning med öppen källkod som heter YoLo(v2) .

Kurragömma: Tricket kan tänkas låta skurkar gömma sig från säkerhetskameror, eller erbjuda oliktänkande ett sätt att undvika regeringens granskning. Vad vårt arbete bevisar är att det är möjligt att kringgå kameraövervakningssystem med hjälp av motstridiga patchar, säger Wiebe Van Ranst , en av författarna.

Försvinn: Van Ranst säger att det inte borde vara alltför svårt att anpassa tillvägagångssättet till standardiserade videoövervakningssystem. För tillfället behöver vi också veta vilken detektor som används. Vad vi skulle vilja göra i framtiden är att skapa en patch som fungerar på flera detektorer samtidigt, sa han till MIT Technology Review. Om detta fungerar är chansen stor att plåstret även fungerar på detektorn som används i övervakningssystemet.

Lönlöst åtagande: Det bedrägeri som det belgiska teamet demonstrerade utnyttjar vad som kallas motstridig maskininlärning. De flesta datorseende förlitar sig på att träna ett (konvolutionellt) neuralt nätverk att känna igen olika saker genom att mata det med exempel och justera dess parametrar tills det klassificerar objekt korrekt. Genom att mata in exempel i ett tränat djupt neuralt nät och övervaka resultatet är det möjligt att sluta sig till vilka typer av bilder som förvirrar eller lurar systemet.

Ögon överallt: Arbetet är betydande eftersom AI i allt högre grad återfinns i vardagliga övervakningskameror och mjukvara. Det används till och med för att undvika behovet av en kassalinje i vissa experimentbutiker, inklusive de som drivs av Amazon. Och i Kina håller tekniken på att framstå som ett kraftfullt nytt sätt att fånga brottslingar och, mer oroande, spåra vissa etniska grupper .