211service.com
AI förbrukar mycket energi. Hackare kan få det att konsumera mer.
Taylor Vick/Unsplash
Nyheterna: En ny typ av attack kan öka energiförbrukningen för AI-system. På samma sätt som en denial-of-service-attack på internet försöker täppa till ett nätverk och göra det oanvändbart, tvingar den nya attacken ett djupt neuralt nätverk att binda upp fler beräkningsresurser än nödvändigt och sakta ner dess tankeprocess.
Målet: Under de senaste åren har en växande oro över den dyra energiförbrukningen för stora AI-modeller fått forskare att designa effektivare neurala nätverk. En kategori, känd som input-adaptive multi-exit-arkitekturer, fungerar genom att dela upp uppgifter efter hur svåra de är att lösa. Den spenderar sedan den minsta mängd beräkningsresurser som behövs för att lösa var och en.
Säg att du har en bild på ett lejon som tittar rakt mot kameran med perfekt belysning och en bild på ett lejon som hukar i ett komplext landskap, delvis dolt. Ett traditionellt neuralt nätverk skulle skicka båda fotona genom alla sina lager och spendera samma mängd beräkningar för att märka var och en. Men ett ingångsadaptivt neuralt nätverk med flera utgångar kan skicka det första fotot genom bara ett lager innan det når den nödvändiga tröskeln för förtroende för att kalla det vad det är. Detta krymper modellens koldioxidavtryck – men det förbättrar också dess hastighet och gör att den kan användas på små enheter som smartphones och smarta högtalare.
Attacken: Men den här typen av neurala nätverk innebär att om du ändrar ingången, till exempel bilden den matas, kan du ändra hur mycket beräkning den behöver för att lösa det. Detta öppnar upp en sårbarhet som hackare kan utnyttja, som forskarna från Maryland Cybersecurity Center beskrev i ett nytt dokument som presenteras på Internationell konferens om läranderepresentationer Denna vecka. Genom att lägga till små mängder brus till ett nätverks ingångar fick de det att uppfatta ingångarna som svårare och jacka upp dess beräkning.
När de antog att angriparen hade full information om det neurala nätverket kunde de maxa dess energianvändning. När de antog att angriparen hade begränsat till ingen information kunde de fortfarande sakta ner nätverkets bearbetning och öka energianvändningen med 20 % till 80 %. Anledningen, som forskarna fann, är att attackerna överförs bra över olika typer av neurala nätverk. Att designa en attack för ett bildklassificeringssystem räcker för att störa många, säger Yiğitcan Kaya, doktorand och medförfattare.
Varningen: Denna typ av attack är fortfarande något teoretisk. Input-adaptiva arkitekturer är ännu inte vanliga i verkliga applikationer. Men forskarna tror att detta snabbt kommer att förändras från trycket inom branschen att distribuera lättare neurala nätverk, som för smarta hem och andra IoT-enheter. Tudor Dumitraş, professorn som rådde forskningen, säger att det krävs mer arbete för att förstå i vilken utsträckning denna typ av hot kan skapa skada. Men, tillägger han, den här uppsatsen är ett första steg för att öka medvetenheten: Det som är viktigt för mig är att uppmärksamma folk på det faktum att detta är en ny hotmodell, och den här typen av attacker kan göras.