Hur Apple anpassar Siri utan att samla in dina data

En kvinna använder sin röstassistent på sin telefon. Kyonntra/Getty Images

Om du har en iPhone kan du ha märkt en förändring i Siris beteende under det senaste året. Röstassistenten på telefonen vaknar när du säger Hej Siri, men inte när samma fras kommer från dina vänner eller familj.

Anledningen till att Apple gjorde detta var förnuftigt: det ville ha ett sätt att hindra alla iPhones i ett rum från att svara när en person uttalar väckningsfrasen. Du kanske tror att Apple skulle behöva samla in mycket av din ljuddata för att göra detta. Överraskande nog gör det inte det.

Istället förlitar den sig i första hand på en teknik som kallas federerad inlärning, sa Apples sekretesschef, Julien Freudiger, för en publik vid konferensen Neural Processing Information Systems den 8 december. Federated learning är en maskininlärningsmetod som bevarar integriteten först introducerades av Google 2017 . Det gör det möjligt för Apple att träna olika kopior av en högtalarigenkänningsmodell över alla sina användares enheter, med endast den ljuddata som är tillgänglig lokalt. Den skickar sedan bara de uppdaterade modellerna tillbaka till en central server för att kombineras till en huvudmodell. På så sätt lämnar aldrig råljud av användarnas Siri-förfrågningar deras iPhones och iPads, men assistenten blir hela tiden bättre på att identifiera rätt högtalare.

Förutom federerad inlärning använder Apple också något som kallas differentiell integritet för att lägga till ytterligare ett lager av skydd. Tekniken injicerar en liten mängd brus i all rådata innan den matas in i en lokal maskininlärningsmodell. Det extra steget gör det oerhört svårt för illvilliga aktörer att omvända de ursprungliga ljudfilerna från den tränade modellen.

Fast Apple har varit det använder differentiell integritet sedan 2017 har det bara kombinerats med federerat lärande från och med iOS 13, som rullades ut till allmänheten i september i år. Förutom att anpassa Siri, används nu båda teknikerna för några andra applikationer också, inklusive QuickType (Apples personliga tangentbord) och funktionen Found In Apps, som skannar din kalender och e-postappar efter namnen på texter och uppringare vars nummer inte finns i din telefon. Freudiger sa att företaget planerar att lansera sekretessmetoderna till fler appar och funktioner snart.

Under det senaste året har federerat lärande blivit allt mer populärt inom AI-forskningssamhället eftersom oron för datasekretess har ökat. I mars Google släppte en ny uppsättning verktyg för att göra det enklare för utvecklare att implementera sina egna federerande inlärningsmodeller. Bland många andra användningsområden hoppas forskare att det kommer att hjälpa till att övervinna integritetsutmaningar vid tillämpningen av AI i hälso- och sjukvården. Företag inklusive Owkin, Doc.ai och Nvidia är intresserade av att använda det på detta sätt.

Även om tekniken fortfarande är relativt ny och behöver förfinas ytterligare, erbjuder Apples senaste användning ytterligare en fallstudie för hur den kan tillämpas i skala. Det markerar också en grundläggande förändring i den avvägning som teknikindustrin traditionellt har antagit mellan integritet och nytta: i själva verket är det nu möjligt att uppnå båda. Låt oss hoppas att andra företag snabbt kommer ikapp.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.

Dölj