Apple försvarar sin nya teknik mot övergrepp mot barn mot integritetsproblem

Foto av Rebecca Harris på Unsplash





Apple har stoltserat med några ikoniska annonser under företagets 45-åriga historia, från de berömda 1984 Super Bowl-annons för Mac till företagets stridskraft 2019 års annonskampanj lovar att det som händer på din iPhone stannar på din iPhone.

På torsdag, Apple meddelade ny teknik för att upptäcka material för sexuella övergrepp mot barn (CSAM) direkt på iPhones – och plötsligt verkar det som finns på din iPhone inte längre alltid bara stannar där. De kontroversiella nya funktionerna hamnar i hjärtat av oron för integritet, övervakning och tekniska brott.

Apple säger att dessa nya funktioner bevarar integriteten när de bekämpar barnmisshandel. För kritiker är dock den största frågan inte om vad tekniken kan göra idag; det handlar om vad det kan bli imorgon.



Kommer Apples nya skanningsteknik att möjliggöra ännu bredare övervakning runt om i världen? Kommer regeringar att börja kräva att Apple ska söka efter alla typer av förbjudet innehåll på iPhones i sina länder?

Apple säger att det nya upptäcktsverktyget, kallat NeuralHash, kan identifiera bilder av barnmisshandel som lagras på en iPhone utan att dekryptera bilden. Företaget säger också att det har genomfört flera kontroller för att minska risken för fel innan bilder skickas till National Center for Missing and Exploited Children (NCMEC) och sedan till brottsbekämpning. (Till exempel måste skannern upptäcka flera bilder istället för bara en.) Funktionen kommer att rullas ut i USA i år.

Google, Microsoft, Dropbox och andra stora molntjänster skannar redan material som lagrats på deras servrar efter material om barnmisshandel, så den allmänna premissen är inte ny. Skillnaden här är att några av Apples skanningar kommer att ske på själva iPhonen – och Apple hävdar att detta är den avgörande funktionen för integritetsskydd i den nya tekniken.

I en briefing med journalister på fredagen sa Apple att medan andra molntjänster skannar nästan allt som deras användare laddar upp, är Apples skanning på enheten avsedd att bara skicka en oläsbar hash till företaget, en kod som identifierar bilder som visar barnmisshandel baserat på en databas som underhålls av NCMEC snarare än Apple.

Apple har också påpekat att funktionen endast gäller för personer som laddar upp bilder till iCloud (automatiska uppladdningar är standardinställningen på iPhones men kan vara Inaktiverad ). iCloud-konton är för närvarande inte krypterade, så brottsbekämpande myndigheter kan redan titta på dem.



Varför gör då inte Apple bara vad andra stora teknikföretag gör och skannar bilder när de laddas upp till molnet istället för när de fortfarande är i någons telefon? Varför bygga en ny och komplex uppsättning tekniker när den bara kan ta befintlig teknik från hyllan?

Apples nästa drag

Det finns en enorm mängd vi inte vet om vad Apple gör nu och vad som kommer härnäst. En populär teori är att veckans tillkännagivande kommer att vara det första av flera drag under de kommande månaderna.

Apples marknadsföring har skröt om integritet i flera år. IPhone var en av de första personliga enheterna som automatiskt krypterades. iMessage är en av de mest populära meddelandeapparna med end-to-end-kryptering. Men många Apple-kunder säkerhetskopierar allt automatiskt till sina iCloud-konton – och iCloud har aldrig krypterats. Så även under 2019 kunde den berömda iPhone-sekretessannonsen ha använt en liten asterisk.



Regeringar har i åratal utövat enorma påtryckningar på alla teknikföretag, inklusive Apple, för att tillåta brottsbekämpande myndigheter särskild tillgång till annars krypterad data för att förhindra vad de ser som det mest avskyvärda av brott. Övergrepp mot barn är alltid högst upp på den listan, tätt följt av terrorism. Apples offentliga omfamning av kryptering har gjort vissa polisers jobb svårare – men det har också gjort vissa typer av övervakning och maktmissbruk svårare.

Det stora kryphålet har alltid varit iCloud. Poliser måste arbeta hårt för att komma direkt in i iPhones , men om det mesta av datan redan finns på ett okrypterat iCloud-konto, kommer en order att göra susen.

Relaterad berättelse

Hackare hittar sätt att gömma sig i Apples muromgärdade trädgård

iPhones låsta strategi för säkerhet sprider sig, men avancerade hackare har funnit att högre barriärer är bra för att undvika fångst.

Efter denna veckas tillkännagivande tror vissa experter att Apple snart kommer att meddela att iCloud kommer att krypteras. Om iCloud är krypterad men företaget fortfarande kan identifiera material om barnmisshandel, vidarebefordra bevis till brottsbekämpande myndigheter och stänga av gärningsmannen, kan det lätta en del av det politiska trycket på Apples chefer.

Det skulle inte lindra Allt trycket: de flesta av samma regeringar som vill att Apple ska göra mer mot barnmisshandel vill också ha mer åtgärder mot innehåll relaterat till terrorism och andra brott. Men övergrepp mot barn är ett verkligt och betydande problem där stora teknikföretag hittills mestadels har misslyckats.

Apples tillvägagångssätt bevarar integriteten bättre än någon annan jag känner till, säger David Forsyth, ordförande för datavetenskapsavdelningen vid University of Illinois Urbana-Champaign, som granskade Apples system. Enligt min bedömning kommer detta system sannolikt att avsevärt öka sannolikheten för att personer som äger eller trafikerar [CSAM] hittas; detta bör hjälpa till att skydda barn. Harmlösa användare bör uppleva minimal eller ingen förlust av integritet, eftersom visuella derivator avslöjas endast om det finns tillräckligt många matchningar med CSAM-bilder, och endast för de bilder som matchar kända CSAM-bilder. Matchningssystemets noggrannhet, i kombination med tröskeln, gör det mycket osannolikt att bilder som inte är kända CSAM-bilder kommer att avslöjas.

Vad sägs om WhatsApp?

Varje stort teknikföretag står inför den skrämmande verkligheten med barnmisshandel på sin plattform. Ingen har närmat sig det som Apple.

Liksom iMessage är WhatsApp en end-to-end krypterad meddelandeplattform med miljarder användare. Som vilken plattform som helst i den storleken står de inför ett stort missbruksproblem.

Jag läste informationen som Apple lade ut igår och jag är orolig, WhatsApp-chefen Will Cathcart twittrade på fredag. Jag tycker att detta är fel tillvägagångssätt och ett bakslag för människors integritet över hela världen. Folk har frågat om vi kommer att använda det här systemet för WhatsApp. Svaret är nej.

WhatsApp inkluderar rapporteringsmöjligheter så att alla användare kan rapportera kränkande innehåll till WhatsApp. Även om funktionerna är långt ifrån perfekta, rapporterade WhatsApp över 400 000 fall till NCMEC förra året.

Det här är ett Apple byggt och styrt övervakningssystem som mycket enkelt kan användas för att skanna privat innehåll efter allt de eller en regering bestämmer sig för att den vill kontrollera, sa Cathcart i sina tweets. Länder där iPhones säljs kommer att ha olika definitioner på vad som är acceptabelt. Kommer detta system att användas i Kina? Vilket innehåll kommer de att betrakta som olagligt där och hur kommer vi någonsin att veta det? Hur kommer de att hantera förfrågningar från regeringar över hela världen om att lägga till andra typer av innehåll till listan för skanning?

I sin briefing med journalister betonade Apple att denna nya skanningsteknik endast släpptes i USA än så länge. Men företaget fortsatte med att hävda att det har en erfarenhet av att kämpa för integritet och förväntar sig att fortsätta att göra det. På det sättet beror mycket av detta på förtroende för Apple.

Företaget hävdade att de nya systemen inte lätt kan förskingras genom statliga åtgärder - och betonade upprepade gånger att det var lika enkelt att välja bort som att stänga av iCloud-säkerhetskopiering.

Trots att det är en av de mest populära meddelandeplattformarna på jorden har iMessage länge kritiserats för att sakna den typ av rapporteringsmöjligheter som nu är vanliga på det sociala internet. Som ett resultat har Apple historiskt rapporterat en liten bråkdel av fallen till NCMEC som företag som Facebook gör.

Istället för att anta den lösningen har Apple byggt något helt annat – och slutresultaten är en öppen och oroande fråga för integritetshökar. För andra är det en välkommen radikal förändring.

Apples utökade skydd för barn förändrar spelet, säger John Clark, ordförande för NCMEC, i ett uttalande. Verkligheten är att integritet och barnskydd kan samexistera.

Höga insatser

En optimist skulle säga att att möjliggöra fullständig kryptering av iCloud-konton samtidigt som man fortfarande upptäcker material om övergrepp mot barn är både en vinst mot missbruk och integritet – och kanske till och med ett skickligt politiskt drag som avtrubbar antikrypteringsretoriken från amerikanska, europeiska, indiska och kinesiska tjänstemän.

En realist skulle oroa sig för vad som kommer härnäst från världens mäktigaste länder. Det är en virtuell garanti för att Apple kommer att få – och förmodligen redan har fått – samtal från huvudstäder när regeringstjänstemän börjar föreställa sig övervakningsmöjligheterna med denna skanningsteknik. Politiskt tryck är en sak, reglering och auktoritär kontroll är en annan. Men det hotet är inte nytt och det är inte heller specifikt för det här systemet. Som ett företag med en meritlista av tysta men lönsamma kompromisser med Kina , Apple har mycket arbete att göra för att övertyga användare om dess förmåga att motstå drakoniska regeringar.

Allt ovanstående kan vara sant. Vad som kommer härnäst kommer i slutändan att definiera Apples nya teknik. Om den här funktionen beväpnas av regeringar för att bredda övervakningen, så misslyckas företaget helt klart med att uppfylla sina integritetslöften.

Dölj