211service.com
Vi är inte redo för AI, säger vinnaren av ett nytt $1m AI-pris
Rachel Wu / MIT CSAIL
Regina Barzilay , professor vid MIT:s datavetenskap och artificiell intelligens Laboratory (CSAIL), är den första vinnaren av Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity, ett nytt pris som erkänner enastående forskning inom AI. Barzilay började sin karriär med bearbetning av naturliga språk. Efter att ha överlevt bröstcancer 2014 bytte hon fokus till maskinlärande algoritmer för att upptäcka cancer och designa nya läkemedel . Priset kommer att delas ut i februari 2021 av Association for the Advancement of Artificial Intelligence (AAAI).
Prissumman på 1 miljon dollar, tillhandahållen av Kinesiska onlineutbildningsföretaget Squirrel AI , som vi har skrivit om tidigare, sätter priset på samma ekonomiska nivå som Nobelpriset och Turingpriset i datavetenskap. Jag pratade med Barzilay i telefon om priset – och löften och frustrationerna med AI.
Vår konversation har redigerats för längd och tydlighet.
Grattis till denna utmärkelse. Vad betyder det för dig och för AI i allmänhet?
Tack. Du vet, det finns många områden där AI fortfarande inte gör någon skillnad men kan vara det. Vi använder maskinöversättning eller rekommendationssystem hela tiden, men ingen tänker på dessa som fancy teknik, ingen frågar om dem. Men med andra områden i vårt liv som är avgörande för vårt välbefinnande, såsom hälsovård, har AI ännu inte accepterat samhället. Jag hoppas att den här utmärkelsen, och den uppmärksamhet som följer med den, hjälper till att ändra människors åsikter och låter dem se möjligheterna – och driver AI-gemenskapen att ta nästa steg.
Vilken typ av steg?
När tekniken flyttade från ångkraft till elektricitet var de första försöken att föra elektricitet till industrin inte särskilt framgångsrika eftersom folk bara försökte replikera ångmaskiner. Jag tror att något liknande pågår nu med AI. Vi måste ta reda på hur vi kan integrera det i många olika områden: inte bara hälso- och sjukvård, utan utbildning, materialdesign, stadsplanering och så vidare. Naturligtvis finns det mer att göra på tekniksidan, inklusive att göra bättre algoritmer, men vi tar in den här tekniken i högt reglerade miljöer och vi har inte riktigt tittat på hur man gör det.
Just nu blomstrar AI på platser där kostnaden för att misslyckas är mycket låg. Om Google hittar en felaktig översättning eller ger dig en felaktig länk är det bra. du kan bara gå till nästa. Men det kommer inte att fungera för en läkare. Om du ger patienter fel behandling eller missar en diagnos, är det verkligen allvarliga konsekvenser. Många algoritmer kan faktiskt göra saker bättre än människor. Men vi litar alltid på vår egen intuition, vårt eget sinne, mer än något vi inte förstår. Vi måste ge läkarna skäl att lita på AI. FDA tittar på det här problemet, men jag tror att det är väldigt långt ifrån löst i USA, eller någon annanstans i världen.
2014 fick du diagnosen bröstcancer. Ändrade det hur du tänkte på ditt arbete?
Åh, ja, absolut. En av sakerna som hände när jag gick igenom behandling och tillbringade orimligt mycket tid på sjukhuset är att de saker jag hade arbetat med nu kändes triviala. Jag tänkte: Folk lider. Vi kan göra något.
När jag började behandlingen frågade jag vad som händer med patienter som jag, med min typ av tumör och min ålder och den här behandlingen. De skulle säga: Åh, det var den här kliniska prövningen, men du passar inte riktigt in i den. Och jag tänkte, bröstcancer är en väldigt vanlig sjukdom. Det finns så många patienter, med så mycket samlad data. Hur kommer det sig att vi inte använder det? Men du kan inte enkelt få ut den här informationen ur systemet på amerikanska sjukhus. Det finns där, men det är i text. Och så började jag använda NLP för att komma åt det. Jag kunde inte föreställa mig något annat område där människor frivilligt slänger den information som finns tillgänglig. Men det är vad som hände inom medicinen.
Har sjukhusen hoppat på chansen att använda denna information mer?
Det tog lite tid att hitta en läkare som skulle arbeta med mig. Jag sa till folk, om du har några problem, ska jag försöka lösa det. Jag behöver inte finansiering. Ge mig bara ett problem och data. Men det tog ett tag för mig att hitta medarbetare. Du vet, jag var inte en särskilt populär karaktär.
Från detta NLP-arbete gick jag sedan över till att förutsäga patientrisk från mammografi, med hjälp av bildigenkänning för att förutsäga om du skulle få cancer eller inte – hur din sjukdom sannolikt kommer att utvecklas.
Skulle dessa verktyg ha gjort skillnad om de hade varit tillgängliga för dig när du fick diagnosen?
Absolut. Vi kan köra det här på mina mammografier från innan min diagnos, och det var redan där - du kan tydligt upptäcka det. Det är inte något slags mirakel – cancer växer inte från igår till idag. Det är en ganska lång process. Det finns tecken i vävnaden, men det mänskliga ögat har begränsad förmåga att upptäcka vad som kan vara mycket små mönster. I mitt fall skulle det ha varit synligt två år tidigare.
Varför såg inte läkaren det?
Det är en svår uppgift. Varje mammografi har vita fläckar som kan vara cancer eller inte, och en läkare måste bestämma vilka av dessa vita fläckar som behöver biopsieras. Läkaren måste balansera att agera på intuition kontra att skada en patient genom att göra biopsier som inte behövs. Men det är precis den här typen av beslut som datadriven AI kan hjälpa oss att fatta på ett mycket mer systematiskt sätt.
Vilket för oss tillbaka till problemet med förtroende. Behöver vi en teknisk fix, göra verktyg mer förklarliga, eller behöver vi utbilda människorna som använder dem?
Det är en bra fråga. Vissa beslut skulle vara väldigt lätta att förklara för en människa. Om en AI upptäcker cancer i en bild kan du zooma in på det område som modellen tittar på när den gör förutsägelsen. Men om du ber en maskin, som vi blir allt oftare, att göra saker som en människa inte kan, vad exakt kommer maskinen att visa dig? Det är som en hund, som kan lukta mycket bättre än vi, som förklarar hur den kan lukta något. Vi har helt enkelt inte den kapaciteten. Jag tror att när maskinerna blir mycket mer avancerade så är detta den stora frågan. Vilken förklaring skulle övertyga dig om du inte kan lösa denna uppgift på egen hand?
Så ska vi vänta tills AI kan förklara sig helt?
Nej. Tänk på hur vi svarar på frågor på liv och död nu. De flesta medicinska frågor, som hur du kommer att svara på den här behandlingen eller den medicinen, besvaras med hjälp av statistiska modeller som kan leda till misstag. Ingen av dem är perfekt.
Det är samma sak med AI. Jag tror inte att det är bra att vänta tills vi utvecklar perfekt AI. Jag tror inte att det kommer att hända snart. Frågan är hur man använder dess styrkor och undviker dess svagheter.
Slutligen, varför har AI ännu inte haft någon större inverkan på covid-19?
AI kommer inte att lösa alla stora problem vi har. Men det har funnits några små exempel. När alla icke-nödvändiga kliniska tjänster minskades tidigare i år använde vi ett AI-verktyg för att identifiera vilka onkologipatienter i Boston som fortfarande borde gå och genomgå sin årliga mammografi.
Men huvudorsaken till att AI inte har varit mer användbar är inte bristen på teknik utan bristen på data. Du vet, jag är med i ledningsgruppen för MIT:s J-Clinic, ett center för AI inom hälso- och sjukvården, och vi var många i april som sa: Vi vill verkligen göra något – var kan vi få tag i data? Men vi kunde inte få det. Det var omöjligt. Inte ens nu, sex månader senare, är det inte självklart hur vi får data.
Det andra skälet är att vi inte var redo. Även under normala omständigheter, när människor inte är stressade, är det svårt att använda AI-verktyg i en process och se till att allt är ordentligt reglerat. I den nuvarande krisen har vi helt enkelt inte den kapaciteten.
Du vet, jag förstår varför läkare är konservativa: människors liv står på spel. Men jag hoppas verkligen att detta kommer att bli en väckarklocka till hur oförberedda vi är att reagera snabbt på nya hot. Så mycket som jag tror att AI är framtidens teknik, såvida vi inte tar reda på hur vi ska lita på det, kommer vi inte att se det gå framåt.