211service.com
Googles medicinska AI var superexakt i ett labb. Det verkliga livet var en annan historia.
Wikimedia Commons
Covid-19-pandemin sträcker sjukhusresurserna till bristningsgränsen i många länder i världen. Det är ingen överraskning att många människor hoppas att AI skulle kunna påskynda patientscreeningen och minska belastningen på den kliniska personalen. Men en studie från Google Health—den först för att titta på effekten av ett verktyg för djupinlärning i verkliga kliniska miljöer — avslöjar att även de mest exakta AI:erna faktiskt kan göra saker värre om de inte är skräddarsydda för de kliniska miljöer där de kommer att arbeta.
Befintliga regler för användning av AI i kliniska miljöer, såsom standarder för FDA-godkännande i USA eller en CE-märkning i Europa, fokuserar främst på noggrannhet. Det finns inga uttryckliga krav på att en AI måste förbättra resultatet för patienter, till stor del eftersom sådana försök ännu inte har körts. Men det måste förändras, säger Emma Beede, en UX-forskare på Google Health: Vi måste förstå hur AI-verktyg kommer att fungera för människor i sammanhanget – särskilt inom hälso- och sjukvården – innan de används i stor utsträckning.
Googles första möjlighet att testa verktyget i en riktig miljö kom från Thailand. Landets hälsoministerium har satt upp ett årligt mål att screena 60 % av personer med diabetes för diabetisk retinopati, som kan orsaka blindhet om den inte upptäcks tidigt. Men med cirka 4,5 miljoner patienter till endast 200 retinalspecialister - ungefär dubbelt så många som i USA - kämpar kliniker för att nå målet. Google har CE-märkning, som täcker Thailand, men det väntar fortfarande på FDA-godkännande. Så för att se om AI kunde hjälpa, utrustade Beede och hennes kollegor 11 kliniker över hela landet med ett djupinlärningssystem som är utbildat för att upptäcka tecken på ögonsjukdom hos patienter med diabetes.
I det system som Thailand hade använt, tar sjuksköterskor bilder av patienters ögon under kontroller och skickar iväg dem för att bli tittade på av en specialist på annat håll – en process som kan ta upp till 10 veckor. Den AI som utvecklats av Google Health kan identifiera tecken på diabetisk retinopati från en ögonskanning med mer än 90 % noggrannhet – vilket teamet kallar mänsklig specialistnivå – och i princip ge ett resultat på mindre än 10 minuter. Systemet analyserar bilder för kontrollampa indikatorer på tillståndet, såsom blockerade eller läckande blodkärl.
Mer om coronaviruset
Vår viktigaste täckning av covid-19 är gratis, inklusive:
Vad är flockimmunitet?
Hur fungerar coronaviruset?
Vilka är de potentiella behandlingarna?
Vilka läkemedel fungerar bäst?
Vad är det rätta sättet att göra social distansering?
Andra vanliga frågor om coronaviruset
---
Nyhetsbrev: Coronavirus Tech Report
Zoomshow: Radio Corona
Se även:
All vår covid-19 täckning
Covid-19 specialnummer
Klicka här för att prenumerera och stödja vår ideella journalistik.
Ljud imponerande. Men en noggrannhetsbedömning från ett labb går bara så långt. Det säger ingenting om hur AI kommer att prestera i kaoset i en verklig miljö, och detta är vad Google Health-teamet ville ta reda på. Under flera månader observerade de sjuksköterskor som gjorde ögonskanningar och intervjuade dem om deras erfarenheter av det nya systemet. Feedbacken var inte helt positiv.
När det fungerade bra, snabbade AI upp saker och ting. Men det lyckades ibland inte ge något resultat alls. Liksom de flesta bildigenkänningssystem hade djupinlärningsmodellen tränats på skanningar av hög kvalitet; För att säkerställa noggrannhet utformades den för att avvisa bilder som föll under en viss kvalitetströskel. Med sjuksköterskor som skannade dussintals patienter i timmen och ofta tog bilder under dåliga ljusförhållanden, avvisades mer än en femtedel av bilderna.
Patienter vars bilder sparkades ut ur systemet fick veta att de skulle behöva besöka en specialist på en annan klinik en annan dag. Om de hade svårt att ta ledigt från arbetet eller inte hade bil var detta uppenbarligen obekvämt. Sjuksköterskor kände sig frustrerade, särskilt när de trodde att de avvisade skanningarna inte visade några tecken på sjukdom och att uppföljningsbesöken var onödiga. De slösade ibland bort tid på att försöka ta om eller redigera en bild som AI:n hade avvisat.
En sjuksköterska använder näthinneskannern och tar bilder av baksidan av en patients öga. (Google)
Eftersom systemet var tvungen att ladda upp bilder till molnet för bearbetning orsakade även dåliga internetanslutningar på flera kliniker förseningar. Patienter gillar de omedelbara resultaten, men internet är långsamt och patienterna klagar sedan, sa en sjuksköterska. De har väntat här sedan klockan 06.00, och under de första två timmarna kunde vi bara screena 10 patienter.
Google Health-teamet arbetar nu med lokal medicinsk personal för att designa nya arbetsflöden. Till exempel skulle sjuksköterskor kunna utbildas att använda sitt eget omdöme i gränsfall. Själva modellen skulle också kunna finjusteras för att hantera ofullkomliga bilder bättre.
Riskerar en motreaktion
Det här är en avgörande studie för alla som är intresserade av att smutsa ner sina händer och faktiskt implementera AI-lösningar i verkliga miljöer, säger Hamid Tizhoosh vid University of Waterloo i Kanada, som arbetar med AI för medicinsk bildbehandling. Tizhoosh är mycket kritisk till vad han ser som en brådska att tillkännage nya AI-verktyg som svar på covid-19. I vissa fall utvecklas verktyg och modeller släpps av team utan sjukvårdsexpertis, säger han. Han ser Google-studien som en läglig påminnelse om att fastställande av noggrannhet i ett labb bara är det första steget.
Michael Abramoff, ögonläkare och datavetare vid University of Iowa Hospitals and Clinics, har utvecklat en AI för att diagnostisera näthinnesjukdom i flera år och är VD för en spinoff-startup som heter IDx Technologies, som har samarbetat med IBM Watson. Abramoff har varit en hejarklack för AI inom sjukvården tidigare, men han varnar också för bråttom och varnar för en motreaktion om människor har dåliga erfarenheter av AI. Jag är så glad att Google visar att de är villiga att undersöka det faktiska arbetsflödet på kliniker, säger han. Det finns mycket mer i hälso- och sjukvård än algoritmer.
Abramoff ifrågasätter också nyttan av att jämföra AI-verktyg med mänskliga specialister när det kommer till noggrannhet. Naturligtvis vill vi inte att en AI ska göra ett dåligt samtal. Men mänskliga läkare håller inte med hela tiden, säger han - och det är bra. Ett AI-system måste passa in i en process där källor till osäkerhet diskuteras snarare än bara förkastas.
Få det rätt och fördelarna kan vara enorma . När det fungerade bra såg Beede och hennes kollegor hur AI gjorde människor som var bra på sina jobb ännu bättre. Det fanns en sjuksköterska som screenade 1 000 patienter på egen hand, och med det här verktyget är hon ostoppbar, säger hon. Patienterna brydde sig inte riktigt om att det var en AI snarare än en människa som läste deras bilder. De brydde sig mer om vad deras upplevelse skulle bli.
Rättelse: Den inledande raden ändrades för att göra det klart att inte alla länder är överväldigade.