211service.com
Microsoft och Google vill släppa lös artificiell intelligens på våra mest privata data
Den senaste tidens uppkomst av en kraftfull maskininlärningsteknik känd som djupinlärning har gjort datorjättar som Google, Facebook och Microsoft ännu mer hungriga på data. Det är det som låter programvara lära sig att göra saker som att känna igen bilder eller förstå språk.
Ändå involverar många problem där djupinlärning kan vara mest värdefulla data som är svåra att få tag på eller som innehas av organisationer som inte är villiga att dela den. Och som Apples vd Tim Cook uttrycker det, är vissa konsumenter redan oroade över att företag slukar upp deras personliga information.
Många människor som innehar känsliga datamängder som medicinska bilder kommer helt enkelt inte att dela dem av juridiska och regulatoriska skäl, säger Vitaly Shmatikov , en professor vid Cornell Tech som studerar integritet. I någon mening berövar vi dessa människor fördelarna med djupinlärning.
Shmatikov och forskare på Microsoft och Google arbetar alla på sätt att komma runt det integritetsproblemet. Genom att tillhandahålla sätt att använda och träna de artificiella neurala nätverk som används i djupinlärning utan att behöva sluka upp allt, hoppas de kunna träna smartare mjukvara och övertyga väktarna av känslig data att använda sådana system.
Shmatikov och kollegan Reza Shokri testar vad de kallar integritetsbevarande djupinlärning . Det ger ett sätt att dra nytta av att flera organisationer – till exempel olika sjukhus – kombinerar sina data för att träna mjukvara för djupinlärning utan att behöva ta risken att faktiskt dela den.
Varje organisation tränar djupinlärningsalgoritmer på sina egna data och delar sedan endast nyckelparametrar från den tränade programvaran. Dessa kan kombineras till ett system som fungerar nästan lika bra som om det tränades på all data på en gång.
Cornell-forskningen finansierades delvis av Google, som har publicerade en tidning på liknande experiment och pratar med Shmatikov om sina idéer. Företagets forskare uppfann ett sätt att träna företagets algoritmer för djupinlärning med hjälp av data som bilder från smartphones utan att överföra dessa data till Googles moln.
Det kan göra det lättare för företaget att utnyttja den mycket personliga information som finns på våra mobila enheter, skrev de. Google avböjde att göra någon tillgänglig för att diskutera den forskningen, men Shmatikov tror att företaget fortfarande arbetar med det.
Microsofts kryptografiforskningsgrupp har utvecklat sin egen lösning på maskininlärnings sekretessproblem. Den uppfann ett sätt att använda utbildad mjukvara för djupinlärning på krypterad data och spotta ut krypterade svar. Tanken är att ett sjukhus till exempel skulle kunna be Microsoft att använda en av dessa Kryptonät för att flagga medicinska skanningar som innehåller möjliga problem, för att undvika det vanliga behovet av att exponera bilderna för företaget.
Microsofts forskare tog fram det tricket med en teknik som kallas homomorf kryptering, som gör det möjligt att utföra matematiska operationer på krypterad data och producera ett krypterat resultat (se 10 Breakthrough Technologies 2011: Homomorphic Encryption). De har testat idén med hjälp av mjukvara för djupinlärning som känner igen handstil och ett system som uppskattar en patients risk för lunginflammation utifrån hans vitala tecken.
Ett CryptoNet kräver mer datorkraft än konventionell mjukvara för djupinlärning för att göra samma arbete. Men Kristin Lauter , som leder Microsofts kryptografiforskning, säger att klyftan är tillräckligt liten för att CryptoNets skulle kunna bli praktiska för användning i verkligheten. Hälso-, finans- och läkemedelsindustrin är där jag tror att det här är mest troligt att användas först, säger hon.