211service.com
Med detta verktyg kunde AI identifiera ny skadlig kod lika lätt som den känner igen katter
Kameleontdesign
Från ransomware till botnät, skadlig programvara tar till synes oändliga former, och den sprider sig för alltid. Hur vi än försöker, människorna som skulle försvara våra datorer från det drunknar i anfallet, så de vänder sig till AI för att få hjälp.
Det finns bara ett problem: verktyg för maskininlärning behöver mycket data. Det är bra för uppgifter som datorseende eller naturligt språkbehandling, där stora datauppsättningar med öppen källkod är tillgängliga för att lära algoritmer hur en katt ser ut, säg eller hur ord relaterar till varandra. I världen av skadlig programvara har en sådan sak inte funnits – förrän nu.
Denna vecka släppte cybersäkerhetsföretaget Endgame en stor datauppsättning med öppen källkod som heter EMBER (för Endgame Malware Benchmark for Research ). EMBER är en samling av mer än en miljon representationer av godartade och skadliga Windows-portabla körbara filer, ett format där skadlig programvara ofta gömmer sig. Ett team på företaget släppte också AI-mjukvara som kan tränas på datamängden. Tanken är att om AI ska bli ett potent vapen i kampen mot skadlig programvara, måste den veta vad den ska leta efter.
Säkerhetsföretag har ett hav av potential data att träna sina algoritmer på, men det är en blandad välsignelse. De dåliga aktörerna som tillverkar skadlig kod justerar ständigt sin kod i ett försök att ligga steget före upptäckten, så träning på skadlig programvara som är inaktuell kan visa sig vara en meningslös övning.
Det är ett spel av mullvad, säger Charles Nicholas, professor i datavetenskap vid University of Maryland, Baltimore County.
EMBER är tänkt att hjälpa automatiserade cybersäkerhetsprogram att hänga med.
Istället för en samling faktiska filer, som kan infektera alla forskares datorer som använder dem, innehåller EMBER en slags avatar för varje fil, en digital representation som ger en algoritm en uppfattning om egenskaperna förknippade med godartade eller skadliga filer utan att avslöja den till den äkta artikeln.
Detta borde hjälpa dem i cybersäkerhetsgemenskapen att snabbt träna och testa fler algoritmer, vilket gör det möjligt för dem att konstruera bättre och mer anpassningsbar AI för att jaga efter skadlig programvara.
Att göra datamängden öppen för alla att använda kan naturligtvis också bevisa ett ansvar om det skulle hamna i orätta händer. Skadlig programvara kan använda data för att designa system som virusjaktande AI inte känner igen, ett problem som Hyrum Anderson, Endgames tekniska chef för datavetenskap, säger att företaget har tänkt igenom. Anderson, som arbetade på EMBER, säger att han hoppas att fördelarna med denna öppenhet överväger riskerna. Dessutom är cyberbrottslighet så lukrativ att människorna bakom skadlig programvara redan är väl motiverade att fortsätta förfina sina attackverktyg.
Hackaren kommer att hitta ett exempel ändå, säger Gerald Friedland, professor i datavetenskap vid University of California, Berkeley.