Torka bort ditt Siri 'fingeravtryck'

Även i en tid av försvinnande integritet delar personer som använder Apples digitala assistent Siri en tydlig oro. Inspelningar av deras faktiska röster, där de ställer frågor som kan vara personliga, går över Internet till en fjärransluten Apple-server för bearbetning. Då förblir de förvarade där; Apple kommer inte att säga hur länge.

Den röstinspelningen, till skillnad från de flesta data som produceras av smarta telefoner och andra datorer, är en verklig biometrisk identifierare. Ett röstavtryck – om det avslöjas av misstag, hack eller stämning – kan kopplas till en specifik person. Och med den nuvarande boomen i taligenkänningsappar är Apple inte ensam om att samla in sådan data.

Det kan finnas ett sätt att hålla denna identifierare mer privat. Forskare säger att Apple och andra som utvecklar röstigenkänningsapplikationer som Siri skulle kunna göra en del av databehandlingen direkt på telefonen. Sedan, istället för att skicka ut hela inspelningen, kan de överföra specifik information som är svårare att definitivt länka till en individ.

Kanske vad som helst som identifierar du bör hålla i telefon, säger Prem Natarajan, vicepresident på Raytheon BBN Technologies i Cambridge, Massachusetts, ett stort centrum för forskning om taligenkänning. Han säger att det kan vara klokare för Apple att överföra funktioner från tal – och inte själva talet.

Även om detta tillvägagångssätt skulle belasta telefonens processor och batteri mer, skulle det inte skada kvaliteten på taligenkänningen. Jag tror att det är säkert att säga att att inte ha tillgång till [full röst]-signalen inte innebär några meningsfulla straff, säger Natarajan. Att begränsa mängden biometrisk data som delas skulle följa exemplet med enheter som Microsofts Kinect, som av integritetsskäl har konstruerats för att hålla sådan data ombord.

Trudy Muller, en taleskvinna för Apple, bekräftade att röstinspelningar lagras när användare ställer en talad fråga som Vad är vädret nu? Dessa data används bara för Siris drift och för att hjälpa Siri att förbättra sin förståelse och igenkänning, sa hon. Muller tillade att företaget tar integritet på största allvar och noterade att frågor och svar som Siri skickar över Internet är krypterade och att inspelningar av din röst inte är kopplade till annan information som Apple har genererat om dig. (Siri laddar dock upp din kontaktlista, plats och lista över lagrade låtar för att hjälpa den att svara på dina förfrågningar.)

Även om röstavtryck inte är lika unika som fingeravtryck, kan de positivt identifiera talaren under många omständigheter. US Department of Homeland Security använder röstavtryck för att identifiera frekventa resenärer som har registrerat sig i ett system för att möjliggöra snabba gränspassager.

För att se varför röstavtryck kan ha betydelse, överväg mordrättegången mot Casey Anthony, Floridas mamma som frikändes förra året efter hennes tvååriga dotters död, Caylee. Vid ett tillfälle pekade åklagare på internetsökningar - efter kloroform och andra kränkande termer - gjorda från den anklagades dator. Anthonys mamma vittnade om att ha skrivit in söktermen själv, som en felstavning av klorofyll. Om sökningarna hade gjorts med röst på Siri, hade det kanske varit möjligt för åklagare – och jurymedlemmar – att avgöra vem som faktiskt sa kloroform. (Apple avböjde att säga om det någonsin har fått en stämningsansökan för någons röstavtryck.)

Under tiden, om du dikterade en olämplig text eller frågade Siri om ett känsligt medicinskt ärende och Apple blev hackad (eller en illvillig anställd släppte data), skulle inte bara den pinsamma kommunikationen släppas, utan det skulle vara i din egen röst. Natarajan säger att biometri kan väcka helt nya integritetsfrågor. Till exempel kan någon som söker efter platsen för en protest mot en repressiv regim hamna i problem om uppgifterna blir tillgängliga för den regeringen. Har man en grupp människor som frågar om protester så har man nu tyvärr röstbiometri för de personerna, säger han.

Vissa observatörer, inklusive stora teknikföretag, tar upp bredare frågor om Siri. Förra månaden Teknikgranskning rapporterade att IBM hade bett sina anställda att inte använda funktionen, ett beslut som IBM sa motiverades av behovet av att skydda kontaktlistor och annan känslig företagsinformation. Det är en oro som andra organisationer borde dela, anser vissa experter. Om jag skulle driva en underrättelsetjänst eller ett stort företag skulle jag inte tillåta en sådan tjänst internt, säger Radu Sion, datavetare vid Stony Brook University och en ledande forskare inom molnsäkerhet.

Siris röstigenkänning fungerar så här: du säger en fråga eller förfrågan och röstinspelningen skickas till en Apple-server. Där bryts inspelningen ner i en process som kallas feature extraction, som numeriskt transformerar ljudvågen och drar ut relevanta funktioner. Dessa körs genom en taligenkänningsmotor för att tolka det du säger och återge det till text. Siri använder sedan resurser som kan inkludera Internet, din kontaktlista (Ring pappa) eller din plats (Var finns närmaste thaimat?) för att svara på ditt behov.

Det finns ingen anledning till varför det första jobbet med att extrahera funktioner inte kunde göras direkt på telefonen så att vissa element kunde stanna där. Tonhöjdsmönster är till exempel viktigt för att identifiera talaren men inte för att känna igen vad som sagts. Ur ett tekniskt perspektiv kan du skicka ut saker som igenkännaren ska arbeta med, men inte hela vågformen, säger Natarajan. Även om detta kanske inte är en perfekt lösning, säger han, skulle det på ett meningsfullt sätt förbättra integriteten – och, kanske ännu viktigare, uppfattningen om integritet, eftersom du inte kan rekonstruera röstsignalen från funktionerna.

James Glass, senior forskare vid MIT och chef för dess Gruppen Talade språksystem , säger att bearbetning ombord, även känd som distribuerad taligenkänning, har studerats omfattande. Det erbjuder inte fullständigt skydd, varnar han: Biometriska metoder som gör talaridentifiering ... använder vanligtvis liknande signalrepresentationer som de som bara gör taligenkänning. Så att göra lokal [bearbetning] skulle inte helt anonymisera data, om det var ditt mål.

Han tillägger att det enklaste sättet att anonymisera ett röstavtryck är att koppla bort inspelningarna från annan data, som mobiltelefonnumret. Det skulle innebära att det skulle vara svårare för system att anpassa till din röst och dina frågor, men vissa människor kanske föredrar det alternativet om det gav dem mer integritet, säger han. Detta är den position jag skulle förespråka, eftersom den liknar hur vissa appar ber om tillåtelse att använda din plats just nu.

När fler röstapplikationer dyker upp i fler inställningar kommer skyddet av biometriska identifierare att bli viktigare, säger Andrew Sudbury, medgrundare av Abine, ett onlineprogramvaruföretag för sekretess i Boston som hjälper konsumenter att blockera spårning av deras onlineaktiviteter. Det är verkligen nästan en vattendelare eftersom detta kommer att förebåda en mycket snabb ökning av röstigenkänning som används på många ställen, säger han. Och det kommer att bli lättare att göra ett ganska bra jobb med att identifiera människor genom deras röst.

En anledning till att Apple kanske vill lagra fullständiga röstavtryck är att behålla möjligheten att tillhandahålla sådana tjänster. I teorin kan en taligenkännare veta att det är du som pratar, inte din make eller barn, och ge dig personligt anpassade svar. Det skulle vara ganska häftigt om du ringde in från en annan telefon och de kunde identifiera dig, säger Natarajan.

En stor databas med människors faktiska röster är vad som skulle göra detta möjligt. Sådana drag är fortfarande spekulativa, varnar han. Men all innovation handlar om att göra saker som ingen planerar just nu, säger han. Jag skulle också vilja ha tillgång till alla dessa uppgifter.

Dölj