AI återuppfinner sättet vi uppfinner

Regina Barzilays kontor vid MIT ger en tydlig bild av Novartis Institutes for Biomedical Research. Amgens läkemedelsupptäckargrupp ligger några kvarter bortom det. Tills nyligen hade Barzilay, en av världens ledande forskare inom artificiell intelligens, inte tänkt så mycket på dessa närliggande byggnader fulla av kemister och biologer. Men när AI och maskininlärning började utföra allt mer imponerande bedrifter i bildigenkänning och språkförståelse, började hon undra: kunde det också förändra uppgiften att hitta nya droger?

Problemet är att mänskliga forskare bara kan utforska en liten del av vad som är möjligt. Det uppskattas att det finns så många som 1060 potentiellt läkemedelsliknande molekyler - fler än antalet atomer i solsystemet. Men att korsa till synes obegränsade möjligheter är vad maskininlärning är bra på. Utbildade på stora databaser med befintliga molekyler och deras egenskaper, kan programmen utforska alla möjliga relaterade molekyler.

Den här historien var en del av vårt marsnummer 2019

• Se resten av frågan
• Prenumerera

Att hitta droger är en oerhört dyr och ofta frustrerande process. Läkemedelskemister måste gissa vilka föreningar som kan vara bra läkemedel, med hjälp av deras kunskap om hur en molekyls struktur påverkar dess egenskaper. De syntetiserar och testar otaliga varianter, och de flesta är misslyckanden. Att komma på nya molekyler är fortfarande en konst, eftersom man har ett så stort utrymme av möjligheter, säger Barzilay. Det tar lång tid att hitta bra läkemedelskandidater.

Genom att påskynda detta kritiska steg kan djupinlärning erbjuda mycket fler möjligheter för kemister att fortsätta, vilket gör läkemedelsupptäckten mycket snabbare. En fördel: maskininlärningens ofta udda fantasi. Kanske kommer det att gå i en annan riktning som en människa inte skulle gå in i, säger Angel Guzman-Perez, en drogforskare vid Amgen som arbetar med Barzilay. Den tänker annorlunda.

Andra använder maskininlärning för att försöka uppfinna nya material för renteknologiska tillämpningar. Bland objekten på önskelistan finns förbättrade batterier för att lagra ström på elnätet och organiska solceller, som kan vara mycket billigare att tillverka än dagens skrymmande kiselbaserade.

Sådana genombrott har blivit svårare och dyrare att uppnå eftersom kemi, materialvetenskap och läkemedelsupptäckt har blivit förbluffande komplexa och mättade med data. Även när läkemedels- och bioteknikindustrin satsar pengar på forskning har antalet nya läkemedel baserade på nya molekyler varit oförändrat under de senaste decennierna. Och vi har fortfarande fastnat för litiumjonbatterier som dateras till tidigt 1990-tal och design för kiselsolceller som också är decennier gamla.

Den komplexitet som har bromsat framstegen inom dessa områden är där djupinlärning överträffar. Att söka genom flerdimensionell rymd för att komma med värdefulla förutsägelser är AI:s sweet spot, säger Ajay Agrawal, ekonom vid Rotman School of Management i Toronto och författare till bästsäljaren Prediction Machines: The Simple Economics of Artificiell Intelligens .

I en ny artikel hävdade ekonomer vid MIT, Harvard och Boston University att AI:s största ekonomiska inverkan kan komma från dess potential som en ny uppfinningsmetod som i slutändan omformar innovationsprocessens karaktär och organisationen av FoU.

Iain Cockburn, en BU-ekonom och medförfattare till tidningen, säger: Nya uppfinningsmetoder med breda tillämpningar kommer inte särskilt ofta, och om vi gissar rätt kan AI dramatiskt förändra kostnaden för att göra FoU inom många olika områden. Mycket av innovation handlar om att göra förutsägelser baserade på data. I sådana uppgifter, tillägger Cockburn, kan maskininlärning vara mycket snabbare och billigare i storleksordningar.

Med andra ord, AI:s främsta arv kanske inte är förarlösa bilar eller bildsökning eller ens Alexas förmåga att ta beställningar, utan dess förmåga att komma med nya idéer för att driva innovationen i sig.

Idéer blir dyra

I slutet av förra året vann Paul Romer Nobelpriset för ekonomi för arbete utfört under slutet av 1980-talet och början av 1990-talet som visade hur investeringar i nya idéer och innovation driver en robust ekonomisk tillväxt. Tidigare ekonomer hade noterat sambandet mellan innovation och tillväxt, men Romer gav en utsökt förklaring till hur det fungerar. Under decennierna sedan har Romers slutsatser varit den intellektuella inspirationen för många i Silicon Valley och hjälper till att förklara hur de har uppnått sådan rikedom.

Men vad händer om vår pipeline av nya idéer håller på att torka ut? Ekonomerna Nicholas Bloom och Chad Jones vid Stanford, Michael Webb, en doktorand vid universitetet, och John Van Reenen vid MIT tittade på problemet i en färsk artikel som heter Blir det svårare att hitta idéer? (Deras svar var ja.) När man tittade på läkemedelsupptäckt, halvledarforskning, medicinsk innovation och ansträngningar för att förbättra skördarna, fann ekonomerna en gemensam historia: investeringar i forskning ökar kraftigt, men utdelningen förblir konstant.

Ur en ekonoms perspektiv är det ett produktivitetsproblem: vi betalar mer för en liknande mängd produktion. Och siffrorna ser dåliga ut. Forskningsproduktiviteten – antalet forskare som krävs för att producera ett givet resultat – minskar med cirka 6,8 % årligen för uppdraget att utöka Moores lag, som kräver att vi hittar sätt att packa allt fler och mindre komponenter på ett halvledarchip för att kunna fortsätt göra datorer snabbare och kraftfullare. (Det krävs mer än 18 gånger så många forskare för att fördubbla flisdensiteten i dag som det gjorde i början av 1970-talet, fann de.) För att förbättra frön, mätt med skördar, sjunker forskningsproduktiviteten med cirka 5 % varje år. För den amerikanska ekonomin som helhet minskar den med 5,3 %.

---

Det stigande priset på stora idéer
Det krävs mer forskare och pengar för att hitta produktiva nya idéer, enligt ekonomer vid Stanford och MIT. Det är en trolig faktor i den övergripande tröga tillväxten i USA och Europa under de senaste decennierna. Grafen nedan visar mönstret för den övergripande ekonomin, och belyser USA:s totala faktorproduktivitet (efter decenniumsnitt och för 2000–2014) – ett mått på innovationens bidrag – kontra antalet forskare. Liknande mönster gäller för specifika forskningsområden.

källa: bloom, jones, van reenen och webb

---

Alla negativa effekter av denna nedgång har hittills kompenserats av det faktum att vi lägger mer pengar och människor på forskning. Så vi fördubblar fortfarande antalet transistorer på ett chip vartannat år, men bara för att vi ägnar mycket fler människor åt problemet. Vi måste fördubbla våra investeringar i forskning och utveckling under de kommande 13 åren bara för att fortsätta trampa vatten.

Det kan förstås vara så att områden som växtforskning och halvledarforskning börjar bli gamla och möjligheterna till innovation krymper. Men forskarna fann också att den totala tillväxten kopplad till innovation i ekonomin var långsam. Alla investeringar i nya områden, och alla uppfinningar de har genererat, har misslyckats med att förändra den övergripande historien.

Nedgången i forskningsproduktivitet verkar vara en decennier lång trend. Men det är särskilt oroande för ekonomer nu eftersom vi har sett en generell nedgång i den ekonomiska tillväxten sedan mitten av 2000-talet. I en tid med lysande ny teknik som smartphones, förarlösa bilar och Facebook är tillväxten trög, och den del av den som tillskrivs innovation – så kallad totalfaktorproduktivitet – har varit särskilt svag.

De kvardröjande effekterna av den finansiella kollapsen 2008 kan hämma tillväxten, säger Van Reenen, och det kan även fortsatt politisk osäkerhet. Men dyster forskningsproduktivitet är utan tvekan en bidragande orsak. Och han säger att om nedgången fortsätter kan det göra allvarlig skada på framtida välstånd och tillväxt.

Det är vettigt att vi redan har plockat mycket av det som vissa ekonomer vill kalla den lågt hängande frukten när det gäller uppfinningar. Kan det vara så att den enda frukten som finns kvar är några skrumpna äpplen på trädets yttersta grenar? Robert Gordon, ekonom vid Northwestern University, har varit en stark förespråkare för den uppfattningen. Han säger att vi sannolikt inte kommer att matcha den blomstrande upptäckten som markerade det sena 1800-talet och början av 1900-talet, när uppfinningar som elektriskt ljus och kraft och förbränningsmotorn ledde till ett sekel av aldrig tidigare skådad välstånd.

Om Gordon har rätt, och det finns färre stora uppfinningar kvar, är vi dömda till en dyster ekonomisk framtid. Men få ekonomer tror att så är fallet. Snarare är det vettigt att stora nya idéer finns där ute; det blir bara dyrare att hitta dem eftersom vetenskapen blir allt mer komplex. Chansen att nästa penicillin bara hamnar i våra knä är liten. Vi kommer att behöva fler och fler forskare för att förstå den framskridande vetenskapen inom områden som kemi och biologi.

Det är vad Ben Jones, ekonom vid Northwestern, kallar kunskapsbördan. Forskare blir mer specialiserade, vilket gör det nödvändigt att bilda större – och dyrare – team för att lösa problem. Jones forskning visar att åldern då forskarna når sin högsta produktivitet går upp: det tar längre tid för dem att få den expertis de behöver. Det är en medfödd biprodukt av den exponentiella tillväxten av kunskap, säger han.

Många säger till mig att våra fynd är deprimerande, men jag ser det inte så, säger Van Reenen. Innovation kan vara svårare och dyrare, men det, säger han, pekar helt enkelt på behovet av politik, inklusive skatteincitament, som kommer att uppmuntra investeringar i mer forskning.

Så länge du lägger resurser på FoU kan du behålla en sund produktivitetstillväxt, säger Van Reenen. Men vi måste vara beredda att spendera pengar för att göra det. Det kommer inte gratis.

Att ge upp vetenskapen

Kan AI kreativt lösa de typer av problem som sådan innovation kräver? Vissa experter är nu övertygade om att det kan, med tanke på de typer av framsteg som spelmaskinen AlphaGo visar upp.

AlphaGo bemästrade det uråldriga spelet Go, och slog den regerande mästaren, genom att studera de nästan obegränsade möjliga rörelserna i ett spel som har spelats i flera tusen år av människor som förlitar sig mycket på intuition. På så sätt kom det ibland fram vinnande strategier som ingen mänsklig spelare hade tänkt på att prova. På samma sätt, tänker man, kan djupinlärningsprogram som tränas på stora mängder experimentell data och kemisk litteratur komma fram till nya föreningar som forskare aldrig föreställt sig.

Kan ett AlphaGo-liknande genombrott hjälpa de växande arméerna av forskare att titta på ständigt växande vetenskapliga data? Kan AI göra grundforskning snabbare och mer produktiv och återuppliva områden som har blivit för dyra för företag att bedriva?

De senaste decennierna har sett en massiv omvälvning i våra FoU-ansträngningar. Sedan de dagar då AT&T:s Bell Labs och Xerox's PARC producerade världsförändrande uppfinningar som transistor, solceller och laserutskrift, har de flesta stora företag i USA och andra rika ekonomier gett upp grundforskningen. Samtidigt har amerikanska federala FoU-investeringar varit oförändrade, särskilt för andra områden än biovetenskap. Så medan vi fortsätter att öka antalet forskare totalt och att omvandla inkrementella framsteg till kommersiella möjligheter, har områden som kräver långsiktig forskning och en grund i grundvetenskap fått en törn.

Särskilt uppfinnandet av nya material har blivit ett kommersiellt bakvatten. Det har hållit tillbaka nödvändiga innovationer inom ren teknik – saker som bättre batterier, effektivare solceller och katalysatorer för att göra bränsle direkt från solljus och koldioxid (tänk artificiell fotosyntes). Medan priserna på solpaneler och batterier sjunker stadigt, beror det till stor del på förbättringar i tillverkningen och stordriftsfördelar, snarare än grundläggande framsteg inom själva tekniken.

Kan ett AlphaGo-liknande genombrott hjälpa de växande arméerna av forskare att titta på ständigt växande vetenskapliga data?

Det tar i genomsnitt 15 till 20 år att komma fram till ett nytt material, säger Tonio Buonassisi, en maskiningenjör vid MIT som arbetar med ett team av forskare i Singapore för att påskynda processen. Det är alldeles för långt för de flesta företag. Det är opraktiskt även för många akademiska grupper. Vem vill lägga år på ett material som kanske fungerar eller inte? Det är därför riskstödda startups, som har genererat mycket av innovationen inom mjukvara och till och med bioteknik, länge har gett upp ren teknik: riskkapitalister behöver i allmänhet en avkastning inom sju år eller tidigare.

En 10x acceleration [i hastigheten på materialupptäckten] är inte bara möjlig, den är nödvändig, säger Buonassisi, som driver ett fotovoltaiskt forskningslabb vid MIT. Hans mål, och det för ett löst sammankopplat nätverk av andra forskare, är att använda AI och maskininlärning för att få ner den 15- till 20-åriga tidsramen till cirka två till fem år genom att attackera de olika flaskhalsarna i labbet, automatisera så mycket av processen som möjligt. En snabbare process ger forskarna mycket fler potentiella lösningar att testa, gör att de kan hitta återvändsgränder på timmar snarare än månader och hjälper till att optimera materialen. Det förändrar hur vi tänker som forskare, säger han.

Det kan också göra materialupptäckt till en lönsam affärsverksamhet igen. Buonassisi pekar på ett diagram som visar den tid det tog att utveckla olika teknologier. En av kolumnerna märkt med litiumjonbatterier visar 20 år.

En annan, mycket kortare kolumn är märkt ny solcell; i toppen är klimatmålet 2030. Poängen är tydlig: vi kan inte vänta ytterligare 20 år på nästa genombrott inom renteknologiska material.

AI-startups inom droger och material

	ett Atomwise	två Kebotix	3 Djup genomik
Vad dem gör	Använd neurala nätverk för att söka igenom stora databaser för att hitta små läkemedelsliknande molekyler som binder till målproteiner.	Utveckla en kombination av robotik och AI för att påskynda upptäckten och utvecklingen av nya material och kemikalier.	Använd artificiell intelligens för att söka efter oligonukleotidmolekyler för att behandla genetiska sjukdomar.
Varför det spelar roll	Att identifiera sådana molekyler med önskvärda egenskaper, såsom styrka, är ett kritiskt första steg i läkemedelsupptäckten.	Det tar mer än ett decennium att utveckla ett material. Att minska den tiden kan hjälpa oss att ta itu med problem som klimatförändringar.	Oligonukleotidbehandlingar lovar mot en rad sjukdomar, inklusive neurodegenerativa och metabola störningar.

Det AI-drivna labbet

Kom till ett fritt land: det är så Alán Aspuru-Guzik bjuder in en amerikansk besökare till sitt labb i Toronto nu för tiden. 2018 lämnade Aspuru-Guzik sin fasta tjänst som kemiprofessor på Harvard och flyttade med sin familj till Kanada. Hans beslut drevs av en stark avsky för president Donald Trump och hans politik, särskilt den som rör immigration. Det skadade dock inte att Toronto snabbt håller på att bli ett mecka för forskning om artificiell intelligens.

Förutom att vara kemiprofessor vid University of Toronto, har Aspuru-Guzik också en position vid Vector Institute for Artificial Intelligence. Det är AI-centret som grundades av Geoffrey Hinton, vars banbrytande arbete med djupinlärning och neurala nätverk till stor del är krediterad för att ha startat dagens boom inom AI.

I en anmärkningsvärd tidning från 2012 visade Hinton och hans medförfattare att ett djupt neuralt nätverk, tränat på ett stort antal bilder, kunde identifiera en svamp, en leopard och en dalmatinerhund. Det var ett anmärkningsvärt genombrott vid den tiden, och det inledde snabbt en AI-revolution med algoritmer för djupinlärning för att förstå stora datamängder.

Forskare hittade snabbt sätt att använda sådana neurala nätverk för att hjälpa förarlösa bilar att navigera och upptäcka ansikten i en folkmassa. Andra modifierade verktygen för djupinlärning så att de kunde träna sig själva; bland dessa verktyg finns GAN (generative adversarial networks), som kan tillverka bilder av scener och människor som aldrig funnits.

I ett uppföljningsdokument från 2015 gav Hinton ledtrådar om att djupinlärning skulle kunna användas i kemi- och materialforskning. Hans artikel framhöll förmågan hos neurala nätverk att upptäcka invecklade strukturer i högdimensionell data – med andra ord, samma nätverk som kan navigera genom miljontals bilder för att hitta, säg, en hund med fläckar skulle kunna sortera igenom miljontals molekyler för att identifiera en. med vissa önskvärda egenskaper.

Energisk och sprudlande av idéer, Aspuru-Guzik är inte typen av vetenskapsman som tålmodigt spenderar två decennier på att ta reda på om ett material kommer att fungera. Och han har snabbt anpassat djupinlärning och neurala nätverk för att försöka återuppfinna materialupptäckt. Tanken är att ingjuta artificiell intelligens och automatisering i materialforskningens alla steg: den initiala designen och syntesen av ett material, dess testning och analys, och slutligen de många förfiningarna som optimerar dess prestanda.

En iskall dag i början av januari har Aspuru-Guzik hatten hårt dragen över öronen men verkar i övrigt vara omedveten om det bittra kanadensiska vädret. Han har annat i tankarna. För det första väntar han fortfarande på leveransen av en robot på 1,2 miljoner dollar, nu på ett fartyg från Schweiz, som kommer att bli mittpunkten för det automatiserade, AI-drivna labb han har föreställt sig.

I labbet kommer djupinlärningsverktyg som GAN:er och deras kusin, en teknik som kallas autoencoder, att föreställa sig att de lovar nya material och kommer på hur man gör dem. Roboten kommer sedan att göra föreningarna; Aspuru-Guzik vill skapa ett prisvärt automatiserat system som skulle kunna spotta ut nya molekyler på begäran. När materialen väl är gjorda kan de analyseras med instrument som en masspektrometer. Ytterligare maskininlärningsverktyg kommer att förstå dessa data och diagnostisera materialets egenskaper. Dessa insikter kommer sedan att användas för att ytterligare optimera materialen, justera deras strukturer. Och sedan, säger Aspuru-Guzik, kommer AI att välja nästa experiment att göra och stänga slingan.

Tanken är att ingjuta artificiell intelligens och automatisering i alla steg av materialforskning och läkemedelsupptäckt.

När roboten väl är på plats räknar Aspuru-Guzik med att tillverka cirka 48 nya material varannan dag, med hjälp av maskininlärningsinsikterna för att fortsätta att förbättra sina strukturer. Det är ett lovande nytt material varje timme, en aldrig tidigare skådad takt som helt skulle kunna förändra labbets produktivitet.

Allt handlar inte bara om att drömma fram ett magiskt material, säger han. För att verkligen förändra materialforskningen måste du attackera hela processen: Vilka är flaskhalsarna? Du vill ha AI i varje del av labbet. När du har en föreslagen struktur, till exempel, måste du fortfarande ta reda på hur du gör den. Det kan ta veckor till månader att lösa det som kemister kallar retrosyntes - att arbeta baklänges från en molekylstruktur för att ta reda på de steg som behövs för att syntetisera en sådan förening. En annan flaskhals kommer i att förstå mängden data som produceras av analysutrustning. Maskininlärning kan påskynda vart och ett av dessa steg.

Det som motiverar Aspuru-Guzik är hotet om klimatförändringar, behovet av förbättringar inom ren teknik och materialens viktiga roll för att producera sådana framsteg. Hans egen forskning tittar på nya organiska elektrolyter för flödesbatterier, som kan användas för att lagra överflödig el från elnät och pumpa tillbaka den när det behövs, och på organiska solceller som skulle vara mycket billigare än kiselbaserade. Men om hans design för ett fristående, automatiserat kemiskt labb fungerar, föreslår han, kan det göra kemin mycket mer tillgänglig för nästan alla. Han kallar det demokratisering av materialupptäckt.

Det är här handlingen är, säger han. AI:er som kör bilar, AI:er som förbättrar medicinsk diagnostik, AI:er för personlig shopping - den ekonomiska tillväxten från AI:er som tillämpas på vetenskaplig forskning kan översvämma den ekonomiska effekten från alla dessa andra AI:er tillsammans.

Vector Institute, Torontos magnet för AI-forskning, ligger mindre än en mil bort. Från fönstren i det stora öppna kontorsutrymmet kan du se över Ontarios parlamentsbyggnad. Närheten av experter inom AI, kemi och affärer till provinsens regeringssäte i centrala Toronto är inte en slump. Det finns en stark tro bland många i staden att AI kommer att förändra företag och ekonomi, och i allt högre grad är vissa övertygade om att det radikalt kommer att förändra hur vi gör vetenskap.

Ändå, om man gör det, är ett första steg att övertyga forskarna om att det är värt besväret.

Amgens Guzman-Perez säger att många av hans kamrater inom medicinsk kemi är skeptiska. Under de senaste decennierna har fältet sett en serie av förment revolutionerande teknologier, från beräkningsdesign till kombinatorisk kemi och screening med hög genomströmning, som har automatiserat den snabba produktionen och testningen av flera molekyler. Var och en har visat sig vara något hjälpsam men begränsad. Ingen, säger han, får dig på ett magiskt sätt en ny drog.

Det är för tidigt att med säkerhet veta om djupinlärning äntligen kan vara spelförändringen, erkänner han, och det är svårt att veta tidsramen. Men han tar uppmuntran från den hastighet med vilken AI har förändrat bildigenkänning och andra sökuppgifter.

Förhoppningsvis skulle det kunna hända inom kemin, säger han.

Vi väntar fortfarande på AlphaGo-ögonblicket i kemi och material – på algoritmer som har djupinlärning för att överlista den mest framgångsrika människan när de kommer med ett nytt läkemedel eller material. Men precis som AlphaGo vann med en kombination av kuslig strategi och en omänsklig fantasi, kan dagens senaste AI-program snart visa sig i labbet.

Och det har några forskare drömt stort. Tanken, säger Aspuru-Guzik, är att använda AI och automation för att återuppfinna labbet med verktyg som den molekylära skrivaren på 30 000 dollar han hoppas kunna bygga. Det kommer sedan att vara upp till forskarnas fantasi - och AI - att utforska möjligheterna.

Dölj