En algoritm som kan upptäcka orsak och verkan kan överbelasta medicinsk AI

En bild av färgglada piller Joshua Coleman | Unsplash

Att förstå hur världen fungerar innebär att förstå orsak och verkan. Varför är det så här? Vad händer om jag gör det? Korrelationer säger att vissa fenomen hör ihop. Endast orsakssamband berättar varför ett system är som det är eller hur det kan utvecklas. Korrelation är inte orsakssamband, som sloganen lyder.

Detta är ett stort problem för medicin, där ett stort antal variabler kan kopplas samman. Att diagnostisera sjukdomar beror på att veta vilka tillstånd som orsakar vilka symtom; behandling av sjukdomar är beroende av att känna till effekterna av olika läkemedel eller livsstilsförändringar. Att reda ut sådana knotiga frågor görs vanligtvis via rigorösa observationsstudier eller randomiserade kontrollerade studier.

Dessa skapar en mängd medicinsk data, men den är spridd över olika datamängder, vilket lämnar många frågor obesvarade. Om en datauppsättning visar en korrelation mellan fetma och hjärtsjukdom och en annan visar en korrelation mellan lågt D-vitamin och fetma, vad är sambandet mellan lågt D-vitamin och hjärtsjukdom? Att ta reda på det kräver vanligtvis ytterligare en klinisk prövning.

Hur utnyttjar vi denna bitvisa information bättre? Datorer är bra på att upptäcka mönster – men det är bara samband. Under de senaste åren har datavetare uppfunnit en handfull algoritmer som kan identifiera orsakssamband inom enstaka datamängder. Men att fokusera på enskilda datamängder är som att titta genom nyckelhål. Vad som behövs är ett sätt att ta in hela vyn.

Forskarna Anish Dhir och Ciarán Lee vid Babylon Health, en brittisk leverantör av digital vård, har kommit på en teknik för att hitta orsakssamband mellan olika datamängder . Detta kan göra det möjligt att utvinna stora databaser med outnyttjad medicinsk data för orsaker och effekter – och möjligen upptäckten av nya orsakssamband.

Babylon Health erbjuder en chatbot-baserad app som ber dig att lista dina symtom innan du svarar med en preliminär diagnos och råd om behandling. Syftet är att filtrera bort personer som faktiskt inte behöver gå till läkare. Tjänsten sparar i princip både patienternas och läkarnas tid, vilket gör att överansträngda vårdpersonal kan hjälpa de mest behövande.

Men det har appen komma under lupp . Läkare har varnat för att det ibland saknar tecken på allvarlig sjukdom, till exempel. Flera andra företag – inklusive Ada och Your.MD – erbjuder också diagnos per chatbot, men Babylon Health har pekat ut sig för kritik delvis på grund av dess överdrivna påståenden. Till exempel, 2018 meddelade företaget att dess AI kunde diagnostisera medicinska tillstånd bättre än en mänsklig läkare. En studie i The Lancet några månader senare drog slutsatsen att det inte bara var så osant utan det det kan fungera betydligt sämre.

Ändå förtjänar Dhir och Lees nya arbete om orsakssamband att tas på allvar. Den har granskats av experter och kommer att visas på den respekterade konferensen Association for Advancement of Artificial Intelligence i New York den här veckan. I princip skulle tekniken kunna överta den tjänst som Babylon Health erbjuder.

Möjligheten att identifiera orsakssamband i medicinska data skulle förbättra den diagnostiska AI bakom dess chatbot. Att motivera svar genom att peka på underliggande orsak och verkan – snarare än dolda samband – borde också ge människor mer förtroende för appen, säger Lee, som också arbetar med maskininlärning och kvantberäkning vid University College London. Hälso- och sjukvård är en högriskdomän. Vi vill inte sätta in en svart låda, säger han.

Paret insåg snart att de måste börja om från början. När vi tittade visade det sig att ingen riktigt hade löst det här problemet, säger Lee. Utmaningen är att smälta samman flera datamängder som delar gemensamma variabler och extrahera så mycket information om orsak och verkan från den kombinerade datan som möjligt.

Metoden använder sig inte av maskininlärning utan är istället inspirerad av kvantkryptografi, där en matematisk formel kan användas för att bevisa att ingen avlyssnar din konversation. Dhir och Lee behandlar datamängder som konversationer och variabler som påverkar dessa datamängder på ett kausalt sätt som avlyssnare. Med hjälp av matematiken för kvantkryptografi kan deras algoritm identifiera om dessa effekter existerar eller inte.

De testade systemet på datauppsättningar där orsakssambanden redan var kända, till exempel två uppsättningar som mätte storleken och strukturen på brösttumörer. AI fann korrekt att storlek och textur inte hade ett orsakssamband med varandra utan att båda bestämdes av om tumören var malign eller godartad.

Om rådata är tillgänglig, hävdar paret, kan deras algoritm identifiera orsakssamband mellan variabler, liksom en klinisk studie skulle kunna. Istället för att leta efter orsaker genom att köra en ny randomiserad kontrollerad studie, kanske programvaran kan göra detta med hjälp av befintliga data. Lee medger att människor kommer att behöva övertygas och hoppas att algoritmen åtminstone kommer att användas initialt för att komplettera försök, kanske genom att lyfta fram potentiella orsakssamband för studier. Ändå noterar han att officiella organ som US Food and Drug Administration redan godkänner nya läkemedel på basis av prövningar som endast visar samband. Sättet på vilket droger går igenom randomiserade kontrollerade prövningar är mindre övertygande än att använda dessa algoritmer, säger han.

Dölj