211service.com
Hur skräppost förbättrar AI
Dessa irriterande visuella pussel som måste slutföras varje gång du registrerar dig för ett webbmailkonto eller postar en kommentar till en blogg är under attack. Det är dock inte bara från datorer som sprider skräppost eller hackare; det är också från forskare som använder anti-spam-pussel för att utveckla smartare, mer mänskliga algoritmer.
Cats v. Dogs: Ett projekt som heter Asirra använder fotografier av katter och hundar för att skilja mellan människor och datorer. Normalt sett är det en svår uppgift för datorer, men en ny algoritm kan korrekt klassificera bilderna 83 procent av gångerna.
Den vanligaste typen av pussel (en serie förvrängda bokstäver och siffror) knäcks alltmer av smartare AI-programvara. Och en datavetare har nu utvecklat en algoritm som kan besegra även de senaste fotobaserade testerna.
Kända som CAPTCHAs (Completely Automated Public Turing test to tell Computers and Humans Apart), dessa pussel utvecklades i slutet av 90-talet som ett sätt att separera riktiga användare från maskiner som skapar e-postkonton för att skicka ut skräppost eller logga in på meddelanden anslagstavlor för att lägga upp annonslänkar. De Turing test , uppkallad efter matematikern Alan Turing, går ut på att mäta intelligens genom att låta en dator försöka efterlikna en riktig person.
Textuella CAPTCHA:er är ett bra sätt att skilja människor och spamrobotar åt, eftersom förvrängda bokstäver och siffror lätt kan läsas av riktiga människor (för det mesta) men är djävulskt svåra för datorer att tyda. Datavetare har dock länge sett CAPTCHA som en intressant AI-utmaning. Designers av textuella CAPTCHA har gradvis infört mer distorsion för att förhindra maskiner från att lösa dem. Men de måste balansera säkerhet mot användbarhet: när förvrängningen ökar börjar till och med riktiga människor finna CAPTCHA som är svåra att tyda.
Tidigare i år, Jeff Yan , en forskare vid University of Newcastle, U.K., avslöjade ett program som kan slutföra de textuella CAPTCHA som används för att skydda Microsofts Hotmail-, MSN- och Windows Live-tjänster med en framgångsfrekvens på 60 procent. Detta kanske inte låter så mycket, men det är betydelsefullt, eftersom en dator kan pröva sin attack tusentals gånger varje minut. Yan undanhöll tidningen tills Microsoft hade en chans att justera sina CAPTCHA så att de var svårare att knäcka. Men vid ACM Dator- och kommunikationssäkerhetskonferens i Alexandria, VA, senare denna månad, kommer Yan att presentera detaljer om ett annat program som han säger kan knäcka ännu mer utbredda textuella CAPTCHA.
Så ett alternativ är att be användarna att lösa olika typer av pussel. Men ett annat dokument som ska presenteras vid samma konferens beskriver en algoritm som kan skapa problem för ännu nyare CAPTCHA.
Philippe Golle från Palo Alto Research Center har utvecklat ett program som korrekt kan passera en bildbaserad CAPTCHA som heter Asirra, utvecklad av Microsoft. Asirra ber användare att korrekt klassificera bilder av antingen katter eller hundar med hjälp av en databas med tre miljoner bilder från djurräddningsorganisationer. Denna uppgift borde vara ännu svårare för datorer än att känna igen snirkliga bokstäver, men Golles program kan korrekt identifiera katterna eller hundarna som Asirra visar 83 procent av gångerna.
Golle tränade sitt program med hjälp av 8 000 bilder samlade från samma webbplats. Genom försök och misstag lärde sig hans programvara gradvis att skilja katter och hundar åt, baserat på en statistisk analys av färg och struktur i varje foto. Det rosa på hundarnas tungor och det gröna i katternas ögon gav starka ledtrådar, säger Golle, men det är bara genom att studera färg- och texturinformation från så många bilder som hans program kunde attackera problemet. Maskininlärning är väldigt bra på att samla information, säger Golle.
Men även om varje enskild bild kändes igen 83 procent av tiden, kräver det fullständiga CAPTCHA-testet att 12 bilder identifieras samtidigt, så attacken fungerar faktiskt bara 10,3 procent av tiden.
Golle säger att en enkel motåtgärd skulle vara att Asirra presenterade fler bilder, vilket ytterligare skulle driva ner framgångsfrekvensen för attacken. Microsoft svarade inte på våra förfrågningar om kommentarer.
Trots alla dessa framsteg är det oklart om riktiga spammare för närvarande använder AI-attacker mot riktiga CAPTCHA. Websense Security Labs, i San Diego, har släppt rapporter om spammare som knäcker CAPTCHA, men ofta handlar det om att helt enkelt låta lågavlönade arbetare lösa CAPTCHA manuellt.
Luis von Ahn, en datavetare vid Carnegie Mellon University, som hjälpte till att mynta termen CAPTCHA, säger att det inte är klart att några vanliga CAPTCHA:er har brutits av maskinattack i den verkliga världen. Jag vet inte om någon som funderar på att bli av med CAPTCHA eftersom det inte fungerar, säger han.
Men von Ahn noterar att det kostar en kostnad att använda människor. Även om arbetare bara får betalt $3 per 1 000 CAPTCHA, är det dyrt, säger han, särskilt eftersom de flesta av de hackade webbpostkontona kommer att stängas strax efter att de börjar skicka ut skräppost. Så en verkligt automatiserad attack skulle minska kostnaderna för spammare och avsevärt öka antalet framgångsrika attacker de hade råd med, säger han.
Men tills datorer börjar bli mycket smartare, kommer CAPTCHA-skapare alltid att kunna implementera några enkla justeringar för att göra en CAPTCHA mycket svårare. Jag tror att det kommer att finnas en dag då CAPTCHA i grund och botten kommer att vara värdelösa, säger von Ahn. Men jag tror inte att det är i år eller nästa.