Deep Learning är en svart låda, men hälsovården har inget emot det

Jon Han

Tidigare under 2017 visade artificiell intelligensforskaren Sebastian Thrun och kollegor vid Stanford University att en algoritm för djupinlärning kunde diagnostisera potentiellt cancerogena hudskador lika exakt som en styrelsecertifierad hudläkare.

Cancerfyndet, rapporterat i Natur, var en del av en ström av rapporter som ger en tidig inblick i vad som kan bli en ny era av diagnostik med programvara, där artificiell intelligens hjälper läkare – eller till och med konkurrerar med dem.

Experter säger att medicinska bilder, som fotografier, röntgen och MRI, är en nästan perfekt matchning för styrkorna hos mjukvara för djupinlärning, som under de senaste åren har lett till genombrott när det gäller att känna igen ansikten och föremål i bilder.

Företag är redan i jakten. Sannerligen, Alphabets life science arm, gick samman med Nikon i december förra året för att utveckla algoritmer för att upptäcka orsaker till blindhet hos diabetiker. Området radiologi har under tiden kallats för medicinens Silicon Valley på grund av antalet detaljerade bilder som det genererar.

Black-box medicin

Även om förutsägelserna från Thruns team var mycket exakta, var ingen säker på exakt vilka egenskaper hos en mullvad som djupinlärningsprogrammet använde för att klassificera den som cancerös eller godartad. Resultatet är den medicinska versionen av det som har kallats djupinlärningsproblemet med svarta lådan.

Till skillnad från mer traditionell vision-mjukvara, där en programmerare definierar regler – till exempel har en stoppskylt åtta sidor – i djupinlärning hittar algoritmen själva reglerna, men ofta utan att lämna ett spår för att förklara sina beslut.

När det gäller black-box-medicin kan läkare inte veta vad som händer eftersom ingen gör det; det är i sig ogenomskinligt, säger Nicholson Price, en juridisk forskare från University of Michigan som fokuserar på hälsolag.

Relaterad berättelse

Läs Nästa Varför svarar de flesta patienter inte på de nyaste botemedel?

Ändå säger Price att det kanske inte utgör ett allvarligt hinder i vården. Han liknar djup inlärning vid droger vars fördelar kommer till stånd med okända medel. Litium är ett exempel. Dess exakta biokemiska mekanism för att påverka humöret har ännu inte klarlagts, men läkemedlet är fortfarande godkänt för behandling av bipolär sjukdom. Mekanismen bakom aspirin, den mest använda medicinen genom tiderna, förstods inte på 70 år.

På samma sätt, säger Price, kommer blackbox-frågan inte att utgöra ett problem för U.S. Food and Drug Administration, som förutom att godkänna nya läkemedel också reglerar programvara om dess syfte är att behandla eller förebygga sjukdomar.

I ett uttalande säger FDA att de under de senaste 20 åren har godkänt ett antal bildanalysapplikationer som förlitar sig på en mängd olika tekniker för mönsterigenkänning, maskininlärning och datorseende. Byrån bekräftade att den ser mer programvara som drivs av djupinlärning och noterar att företag får hålla detaljerna i sina algoritmer konfidentiella.

FDA har redan gett grönt ljus till minst en algoritm för djupinlärning. I januari godkände FDA för försäljning programvara utvecklad av Arterys, ett privatägt företag för medicinsk bildbehandling baserat i San Francisco. Dess algoritm, DeepVentricle, analyserar MRI-bilder av de inre konturerna av hjärtats kammare och beräknar volymen blod som en patients hjärta kan hålla och pumpa. Den beräkningen är klar på mindre än 30 sekunder, säger Arterys, medan konventionella metoder vanligtvis tar en timme.

FDA krävde att Arterys skulle göra omfattande tester för att säkerställa att resultaten från dess algoritm var i nivå med de som genererades av läkare. Du måste bevisa statistiskt att din algoritm följer vad den än är avsedd för användning eller [vad] marknadsföringspåståenden säger att den gör, säger John Axerio-Cilies, företagets tekniska chef.

Stor efterfrågan

För att träna sin programvara matade teamet under ledning av Thrun, en tidigare vicepresident på Google som arbetade med förarlösa bilar där, den med 129 405 bilder av hudåkommor utvärderade av experter. Dessa omfattade 2 032 olika sjukdomar och inkluderade 1 942 bilder av bekräftad hudcancer.

Relaterad berättelse

Mer om Sebastian Thrun Sebastian Thrun hjälpte till att skapa hajpen kring massiva öppna universitetskurser online – men har vänt sin egen startup till att fokusera på yrkesutbildning istället.

Så småningom kunde programvaran överträffa 21 hudläkare när det gällde att identifiera vilka mullvadar som var potentiellt cancerframkallande.

När hudläkare ser potentialen med den här tekniken tror jag att de flesta kommer att ta till sig den, säger Robert Novoa, en Stanford-hudläkare och författare till studien. Han och andra teammedlemmar avböjde att säga om de planerar att kommersialisera programvaran.

All oro för att läkare snart kommer att vara utan jobb är också felplacerad, säger Allan Halpern, en Memorial Sloan Kettering-hudläkare och ordförande för International Society for Digital Imaging of the Skin. Jag tror att hotet är det motsatta, säger han. Algoritmer kan öka efterfrågan på dermatologiska tjänster dramatiskt.

Det beror på att ett positivt på ett screeningtest fortfarande kräver en biopsi. Mjukvara för djupinlärning skulle kunna ha en roll på primärvårdskontor, säger Halpern, men om den gjordes tillgänglig som ett populationsomfattande screeningtest, eller genom en konsumentapp, skulle det inte finnas tillräckligt med hudläkare för att följa upp ledtrådarna .

Axerio-Cilies säger att företag kommer att frestas att erbjuda djupinlärningsverktyg direkt till konsumenterna. Till exempel kan människor skanna sina egna mullvadar för att se om de behöver besöka en läkare. Vissa icke-AI-mobilappar, som Mullvad kartläggare , tillåter redan människor att spåra misstänkta mullvadar och registrera eventuella förändringar över tiden.

Halpern säger dock att han inte tror att konsumenter är redo att ta itu med diagnostiska system som kan berätta för dem att en mullvad har 5 procents chans eller 50 procent chans att vara cancer.

Vi är inte bra på att använda sannolikheter, säger han.

Dölj