AI skulle kunna göra vården mer rättvis – genom att hjälpa oss att tro på vad patienter säger

Ms Tech

Under de senaste åren har forskning visat att djupinlärning kan matcha prestanda på expertnivå i medicinska avbildningsuppgifter som tidig upptäckt av cancer och diagnos av ögonsjukdom . Men det finns också anledning till försiktighet. Annan forskning har visat att djupinlärning har en tendens att upprätthålla diskrimineringen . Med ett sjukvårdssystem som redan är full av olikheter, kan slarviga tillämpningar av djupinlärning göra det värre.

Nu ett nytt papper publicerad i Nature Medicine föreslår ett sätt att utveckla medicinska algoritmer som kan hjälpa till att vända, snarare än att förvärra, befintlig ojämlikhet. Nyckeln, säger Ziad Obermeyer, en docent vid UC Berkeley som övervakade forskningen, är att sluta träna algoritmer för att matcha mänskliga expertprestationer.

Uppsatsen tittar på ett specifikt kliniskt exempel på de skillnader som finns i behandlingen av knäartros, en åkomma som orsakar kronisk smärta. Att bedöma svårighetsgraden av den smärtan hjälper läkare att ordinera rätt behandling, inklusive sjukgymnastik, medicinering eller operation. Detta görs traditionellt genom att en röntgenläkare granskar en röntgenbild av knäet och poängsätter patientens smärta på Kellgren–Lawrence-graden (KLG), som beräknar smärtnivåer baserat på förekomsten av olika röntgenfunktioner, som graden av saknat brosk eller strukturella skador.

Men data som samlats in av National Institute of Health fann att läkare som använder den här metoden systematiskt poängsätter svarta patienters smärta så långt som mycket mindre allvarlig än vad de säger att de upplever. Patienter självrapporterar sina smärtnivåer med hjälp av en undersökning som frågar hur mycket det gör ont att göra olika saker, som att räta ut knäet helt. Men dessa självrapporterade smärtnivåer ignoreras till förmån för radiologens KLG-poäng vid förskrivning av behandling. Med andra ord, svarta patienter som visar samma mängd saknat brosk som vita patienter rapporterar själv högre nivåer av smärta.

Detta har konsekvent irriterat medicinska experter. En hypotes är att svarta patienter kan rapportera högre nivåer av smärta för att få läkare att behandla dem mer seriöst. Men det finns en alternativ förklaring. Själva KLG-metoden kan vara partisk. Det utvecklades för flera decennier sedan med vita brittiska befolkningar. Vissa medicinska experter hävdar att listan över radiografiska markörer som den säger till läkare att leta efter kanske inte inkluderar alla möjliga fysiska källor till smärta inom en mer varierad befolkning. Med andra ord kan det finnas radiografiska indikatorer på smärta som förekommer vanligare hos svarta människor som helt enkelt inte är en del av KLG-rubriken.

Relaterad berättelse

Läkare använder AI för att triagera covid-19-patienter. Verktygen kan vara här för att stanna Inför personalbrist och överväldigande patientbelastning, vänder sig ett växande antal sjukhus till automatiserade verktyg för att hjälpa dem att hantera pandemin.

För att testa denna möjlighet tränade forskarna en djupinlärningsmodell för att förutsäga patienters självrapporterade smärtnivå från deras knäröntgen. Om den resulterande modellen hade fruktansvärd noggrannhet, skulle detta tyda på att självrapporterad smärta är ganska godtycklig. Men om modellen hade riktigt bra noggrannhet skulle detta ge bevis för att självrapporterad smärta faktiskt är korrelerad med radiografiska markörer i röntgen.

Efter att ha kört flera experiment, inklusive några utformade för att utesluta eventuella förvirrande faktorer, fann forskarna att modellen var mycket mer exakt än KLG för att förutsäga självrapporterade smärtnivåer för både vita och svarta patienter, men särskilt för svarta patienter. Det minskade rasskillnaden på varje smärtnivå med nästan hälften.

Målet är inte nödvändigtvis att börja använda denna algoritm i en klinisk miljö. Men genom att överträffa KLG-metoden avslöjade den att standardsättet att mäta smärta är felaktigt, till en mycket större kostnad för svarta människor. Detta bör tipsa det medicinska samfundet att undersöka vilka radiografiska markörer algoritmen kan se, och uppdatera deras poängmetod.

Det belyser faktiskt en riktigt spännande del av var dessa typer av algoritmer kan passa in i processen för medicinsk upptäckt, säger Obermeyer. Det talar om för oss om det finns något här som är värt att titta på som vi inte förstår. Det sätter scenen för människor att sedan gå in och använda dessa algoritmer som verktyg, försöka ta reda på vad som händer.

Det coola med den här uppsatsen är att den tänker på saker ur ett helt annat perspektiv, säger Irene Chen, en forskare vid MIT som studerar hur man kan minska ojämlikheter inom hälso- och sjukvården i maskininlärning och var inte involverad i uppsatsen. Istället för att träna algoritmen på väletablerad expertkunskap, säger hon, valde forskarna att behandla patienternas självbedömning som sanning. Därigenom avslöjade man viktiga luckor i vad det medicinska området vanligtvis anser vara det mer objektiva smärtmåttet.

Det var precis hemligheten, instämmer Obermeyer. Om algoritmer bara tränas för att matcha expertprestanda, säger han, kommer de helt enkelt att vidmakthålla befintliga luckor och orättvisor. Denna studie är en glimt av en mer allmän pipeline som vi i allt större utsträckning kan använda inom medicin för att generera ny kunskap.

Dölj