Vad AI fortfarande inte kan göra

Artificiell intelligens kommer inte att vara särskilt smart om datorer inte förstår orsak och verkan. Det är något även människor har problem med. Förbi

• Brian Bergstein arkivsida

19 februari 2020

Saiman Chow

På mindre än ett decennium har datorer blivit extremt bra på att diagnostisera sjukdomar, översätta språk och transkribera tal. De kan spela över människor i komplicerade strategispel, skapa fotorealistiska bilder och föreslå användbara svar på dina e-postmeddelanden.

Men trots dessa imponerande prestationer har artificiell intelligens uppenbara svagheter.

Den här historien var en del av vårt marsnummer 2020

• Se resten av frågan
• Prenumerera

Maskininlärningssystem kan duperas eller förvirras av situationer som de inte har sett tidigare. En självkörande bil blir upprörd av ett scenario som en mänsklig förare lätt skulle kunna hantera. Ett AI-system som är mödosamt tränat för att utföra en uppgift (identifiera katter, till exempel) måste läras om igen för att göra något annat (identifiera hundar). I processen riskerar den att förlora en del av den expertis som den hade i den ursprungliga uppgiften. Datavetare kallar detta problem för katastrofal glömska.

Dessa brister har något gemensamt: de existerar eftersom AI-system inte förstår orsakssamband. De ser att vissa händelser är förknippade med andra händelser, men de ser inte vilka saker som direkt får andra saker att hända. Det är som om du visste att närvaron av moln gjorde regn mer sannolikt, men du visste inte att moln orsakade regn.

Elias Bareinboim: AI-system är aningslösa när det kommer till orsakssamband.

Att förstå orsak och verkan är en stor aspekt av vad vi kallar sunt förnuft, och det är ett område där AI-system idag saknar aning, säger Elias Bareinboim. Han borde veta: som chef för det nya Causal Artificial Intelligence Lab vid Columbia University, är han i framkant av ansträngningarna för att lösa detta problem.

Hans idé är att ingjuta forskning om artificiell intelligens med insikter från den relativt nya vetenskapen om kausalitet, ett fält som i stor utsträckning formats av Judea Pearl, en Turing Award-vinnande forskare som anser Bareinboim vara sin skyddsling.

Som Bareinboim och Pearl beskriver det är AI:s förmåga att upptäcka korrelationer – t.ex. att moln gör regn mer sannolikt – bara den enklaste nivån av orsaksresonemang. Det är tillräckligt bra för att ha drivit boomen i AI-tekniken känd som djupinlärning under det senaste decenniet. Givet en hel del data om bekanta situationer kan denna metod leda till mycket goda förutsägelser. En dator kan beräkna sannolikheten för att en patient med vissa symtom har en viss sjukdom, eftersom den har lärt sig hur ofta tusentals eller till och med miljoner andra människor med samma symtom hade den sjukdomen.

Men det finns en växande konsensus om att framsteg inom AI kommer att stanna om datorer inte blir bättre på att brottas med orsakssamband. Om maskiner kunde förstå att vissa saker leder till andra saker, skulle de inte behöva lära sig allt på nytt hela tiden – de kunde ta det de hade lärt sig inom en domän och tillämpa det på en annan. Och om maskiner kunde använda sunt förnuft skulle vi kunna lita mer på dem för att vidta åtgärder på egen hand, med vetskapen om att de sannolikt inte kommer att göra dumma fel.

Dagens AI har bara en begränsad förmåga att sluta sig till vad som kommer att bli resultatet av en given handling. I förstärkningsinlärning, en teknik som har gjort det möjligt för maskiner att bemästra spel som schack och Go, använder ett system omfattande försök och misstag för att urskilja vilka drag som i huvudsak får dem att vinna. Men det här tillvägagångssättet fungerar inte i stökigare miljöer i den verkliga världen. Det lämnar inte ens en maskin med en allmän förståelse för hur den kan spela andra spel.

En ännu högre nivå av kausalt tänkande skulle vara förmågan att resonera om varför saker hände och ställa vad händer om frågor. En patient dör under en klinisk prövning; var det den experimentella medicinens fel eller något annat? Skolprovresultaten sjunker; vilka politiska förändringar skulle förbättra dem mest? Denna typ av resonemang ligger långt bortom artificiell intelligenss nuvarande förmåga.

Utför mirakel

Drömmen om att förse datorer med kausala resonemang drog Bareinboim från Brasilien till USA 2008, efter att han avslutat en masterexamen i datavetenskap vid Federal University of Rio de Janeiro. Han hoppade på ett tillfälle att studera under Judea Pearl, en datavetare och statistiker vid UCLA. Pearl, 83, är en jätte— de jätte—av kausal slutledning, och hans karriär hjälper till att illustrera varför det är svårt att skapa AI som förstår kausalitet.

Även välutbildade forskare är benägna att misstolka korrelationer som tecken på orsakssamband - eller att fela i motsatt riktning och tveka att ropa ut orsakssamband även när det är berättigat. På 1950-talet, till exempel, gjorde några framstående statistiker vatten i vattnet kring huruvida tobak orsakade cancer. De hävdade att utan ett experiment som slumpmässigt tilldelade människor att vara rökare eller icke-rökare, kunde ingen utesluta möjligheten att någon okänd – kanske stress eller någon gen – fick människor att både röka och få lungcancer.

Så småningom fastställdes det faktum att rökning orsakar cancer definitivt, men det behövde inte ha tagit så lång tid. Sedan dess har Pearl och andra statistiker utarbetat ett matematiskt tillvägagångssätt för att identifiera vilka fakta som skulle krävas för att stödja ett orsakspåstående. Pearls metod visar att, med tanke på förekomsten av rökning och lungcancer, skulle en oberoende faktor som orsakar båda vara extremt osannolik.

Omvänt hjälper Pearls formler också att identifiera när korrelationer inte kan användas för att fastställa orsakssamband. Bernhard Schölkopf, som forskar om kausala AI-tekniker som chef vid Tysklands Max Planck-institut för intelligenta system, påpekar att man kan förutsäga ett lands födelsetal om man känner till dess storkarbestånd. Det beror inte på att storkar föder bebisar eller för att bebisar attraherar storkar, utan förmodligen för att ekonomisk utveckling leder till fler bebisar och fler storkar. Pearl har hjälpt till att ge statistiker och datavetare sätt att angripa sådana problem, säger Schölkopf.

Judea Pearl: Hans teori om orsaksresonemang har förändrat vetenskapen.

Pearls arbete har också lett till utvecklingen av kausala Bayesian-nätverk - programvara som sållar igenom stora mängder data för att upptäcka vilka variabler som verkar ha störst inflytande på andra variabler. Till exempel använder GNS Healthcare, ett företag i Cambridge, Massachusetts, dessa tekniker för att ge forskare råd om experiment som ser lovande ut.

I ett projekt arbetade GNS med forskare som studerar multipelt myelom, en sorts blodcancer. Forskarna ville veta varför vissa patienter med sjukdomen lever längre än andra efter att ha fått stamcellstransplantationer, en vanlig behandlingsform. Programvaran cirkulerade genom data med 30 000 variabler och pekade på några som verkade vara särskilt troliga att vara orsakssamband. Biostatistiker och experter på sjukdomen nollställde en i synnerhet: nivån av ett visst protein i patienternas kroppar. Forskare kunde sedan köra en riktad klinisk prövning för att se om patienter med proteinet verkligen hade mer nytta av behandlingen. Det är mycket snabbare än att peta här och där i labbet, säger GNS medgrundare Iya Khalil.

Ändå har de förbättringar som Pearl och andra forskare har uppnått i kausal teori ännu inte gjort många inbrytningar i djupinlärning, vilket identifierar samband utan alltför mycket oro för orsakssamband. Bareinboim arbetar för att ta nästa steg: att göra datorer till mer användbara verktyg för mänskliga orsaksutforskningar.

Pearl säger att AI inte kan vara riktigt intelligent förrän den har en rik förståelse för orsak och verkan, vilket skulle möjliggöra den introspektion som är kärnan i kognition.

Ett av hans system, som fortfarande är i beta, kan hjälpa forskare att avgöra om de har tillräckligt med data för att svara på en orsaksfråga. Richard McElreath, en antropolog vid Max Planck Institute for Evolutionary Anthropology, använder programvaran för att vägleda forskning om varför människor går igenom klimakteriet (vi är de enda aporna som gör det).

Hypotesen är att nedgången av fertilitet hos äldre kvinnor gynnade tidiga mänskliga samhällen eftersom kvinnor som ansträngde sig mer för att ta hand om barnbarn i slutändan fick fler ättlingar. Men vilka bevis kan finnas idag för att stödja påståendet att barn klarar sig bättre med mor- och farföräldrar i närheten? Antropologer kan inte bara jämföra utbildnings- eller medicinska resultat för barn som har bott hos mor- och farföräldrar och de som inte har det. Det finns vad statistiker kallar förvirrande faktorer: mormödrar kan vara mer sannolikt att leva med barnbarn som behöver mest hjälp. Bareinboims programvara kan hjälpa McElreath att urskilja vilka studier om barn som växte upp med sina morföräldrar som är minst fulla av förvirrande faktorer och kan vara värdefulla för att svara på hans orsaksfråga. Det är ett stort steg framåt, säger McElreath.

Sista milen

Bareinboim pratar snabbt och gör ofta gester med två händer i luften, som om han försöker balansera två sidor av en mental ekvation. Det var halvvägs genom terminen när jag besökte honom på Columbia i oktober, men det verkade som om han knappt hade flyttat in på sitt kontor – knappt något på väggarna, inga böcker på hyllorna, bara en snygg Mac-dator och en whiteboard så tät. med ekvationer och diagram att det såg ut som en detalj från en tecknad serie om en galen professor.

Han ryckte på axlarna från rummets provisoriska tillstånd och sa att han hade varit mycket upptagen med att hålla föredrag om båda sidor av den kausala revolutionen. Bareinboim tror att arbete som hans erbjuder möjligheten att inte bara införliva kausalt tänkande i maskiner, utan också att förbättra det hos människor.

Att få människor att tänka mer noggrant på orsakssamband är inte nödvändigtvis mycket lättare än att lära det till maskiner, säger han. Forskare inom ett brett spektrum av discipliner, från molekylärbiologi till offentlig politik, nöjer sig ibland med att avslöja samband som faktiskt inte är förankrade i orsakssamband. Till exempel, vissa studier tyder på att dricka alkohol kommer att döda dig tidigt, medan andra indikerar att måttlig konsumtion är bra och till och med fördelaktigt, och ytterligare annan forskning har visat att storkonsumenter överlever icke-drickare. Detta fenomen, känt som reproducerbarhetskrisen, dyker upp inte bara inom medicin och nutrition utan även inom psykologi och ekonomi. Man kan se bräckligheten i alla dessa slutsatser, säger Bareinboim. Vi vänder resultat vartannat år.

Han hävdar att alla som frågar vad händer om – medicinska forskare som sätter upp kliniska prövningar, samhällsvetare som utvecklar pilotprogram, till och med webbpublicister som förbereder A/B-tester – borde börja inte bara med att samla in data utan genom att använda Pearls kausala logik och programvara som Bareinboims för att avgöra om tillgängliga data kan möjligen svara på en orsakshypotes. Så småningom föreställer han sig att detta leder till automatiserad vetenskapsmjukvara: en människa skulle kunna tänka sig en orsaksfråga att gå efter, och programvaran skulle kombinera kausal slutledningsteori med maskininlärningstekniker för att utesluta experiment som inte skulle svara på frågan. Det kan rädda forskare från ett stort antal dyra återvändsgränder.

Bareinboim beskrev denna vision när vi satt i lobbyn på MIT:s Sloan School of Management, efter ett föredrag han höll i höstas. Vi har en byggnad här på MIT med, jag vet inte, 200 personer, sa han. Hur bestämmer dessa samhällsvetare, eller vilka forskare som helst, vilka experiment som ska genomföras och vilka datapunkter som ska samlas in? Genom att följa sin intuition: De försöker se vart saker kommer att leda, baserat på deras nuvarande förståelse.

Det är ett i sig begränsat tillvägagångssätt, sa han, eftersom mänskliga forskare som designar ett experiment bara kan överväga en handfull variabler i sina sinnen på en gång. En dator, å andra sidan, kan se samspelet mellan hundratals eller tusentals variabler. Kodad med de grundläggande principerna för Pearls orsakskalkyl och kunna beräkna vad som kan hända med nya uppsättningar av variabler, kan en automatiserad vetenskapsman föreslå exakt vilka experiment de mänskliga forskarna ska lägga sin tid på. Kanske någon offentlig policy som har visat sig fungera bara i Texas skulle kunna fås att fungera i Kalifornien om några kausalt relevanta faktorer uppskattades bättre. Forskare skulle inte längre göra experiment i mörkret, sa Bareinboim.

Han tycker inte heller att det är så långt borta: Det här är den sista milen innan segern.

Tänk om?

Att klara den milen kommer förmodligen att kräva tekniker som precis har börjat utvecklas. Till exempel försöker Yoshua Bengio, en datavetare vid University of Montreal som delade Turing Award 2018 för sitt arbete med djupinlärning, få neurala nätverk – programvaran i hjärtat av djupinlärning – att göra meta-lärande och lägga märke till orsakerna till saker och ting.

Som det ser ut nu, om du ville ha ett neuralt nätverk för att upptäcka när människor dansar, skulle du visa det många, många bilder av dansare. Om du ville att det skulle identifiera när folk springer, skulle du visa det många, många bilder av löpare. Systemet skulle lära sig att skilja löpare från dansare genom att identifiera egenskaper som tenderar att vara olika i bilderna, såsom positionen för en persons händer och armar. Men Bengio påpekar att grundläggande kunskap om världen kan samlas in genom att analysera saker som är liknande eller oföränderliga över datamängder. Kanske kan ett neuralt nätverk lära sig att rörelser i benen fysiskt orsakar både löpning och dans. Kanske efter att ha sett dessa exempel och många andra som visar människor bara några meter från marken, skulle en maskin så småningom förstå något om gravitation och hur den begränsar mänsklig rörelse. Med tiden, med tillräckligt med meta-inlärning om variabler som är konsekventa över datauppsättningar, kan en dator få orsakskunskap som skulle kunna återanvändas i många domäner.

Pearl säger för sin del att AI inte kan vara riktigt intelligent förrän den har en rik förståelse för orsak och verkan. Även om orsaksresonemang inte skulle vara tillräckligt för en artificiell allmän intelligens, är det nödvändigt, säger han, eftersom det skulle möjliggöra den introspektion som är kärnan i kognition. Tänk om frågor är vetenskapens byggstenar, moraliska attityder, fri vilja, medvetande, sa Pearl till mig.

Du kan inte dra Pearl att förutsäga hur lång tid det kommer att ta för datorer att få kraftfulla kausala resonemangsförmåga. Jag är ingen futurist, säger han. Men i alla fall tycker han att det första steget borde vara att utveckla verktyg för maskininlärning som kombinerar data med tillgänglig vetenskaplig kunskap: Vi har mycket kunskap som finns i den mänskliga skallen som inte utnyttjas.

Brian Bergstein, tidigare redaktör på MIT Technology Review, är biträdande opinionsredaktör på Boston Globe.

Dölj