211service.com
Vetenskap i ett nötskal
En konceptuell illustration som visar en dator, papper och AI Minji månen
Ett team av forskare vid MIT och på andra håll har utvecklat ett neuralt nätverk som kan läsa vetenskapliga artiklar och göra en kort sammanfattning på vanlig engelska. Ett sådant system kan hjälpa redaktörer, författare och vetenskapsmän att skanna ett stort antal tidningar för att få en preliminär uppfattning om vad de handlar om. Och tillvägagångssättet skulle också kunna användas i maskinöversättning och taligenkänning.
Fysikprofessorn Marin Soljačić, doktoranderna Rumen Dangovski och Li Jing och kollegor hade utvecklat neurala nätverk för att ta itu med svåra problem inom fysiken när de insåg att de kunde tillämpa en del av sin fysikkunskap för att förbättra vissa AI-algoritmer.
Neurala nätverk efterliknar ett sätt som människor lär sig: datorn undersöker många olika exempel och identifierar de viktigaste underliggande mönstren. Även om de används i stor utsträckning för mönsterigenkänning, har sådana system ofta svårt att korrelera information från en lång rad data, såsom en forskningsartikel. Andra tekniker som används för att förbättra denna förmåga – inklusive en som kallas långtidsminne (LSTM) – kan inte hantera bearbetningsuppgifter på naturliga språk som kräver riktigt långtidsminne.
Medan neurala nätverk vanligtvis är baserade på multiplikation av matriser, utvecklade Soljačićs team ett baserat på vektorer som roterar i ett flerdimensionellt utrymme. Den använder vad de kallar en rotationsenhet för minne (RUM), som de kom fram till för att hjälpa till med vissa svåra fysikproblem som ljusets beteende i komplexa konstruerade material. De anpassade det sedan till bearbetning på naturligt språk för att hjälpa till med memorering och återkallelse.
I huvudsak representeras varje ord i texten av en vektor. Varje efterföljande ord svänger denna vektor i någon riktning, representerad i ett teoretiskt utrymme som i slutändan kan ha tusentals dimensioner. I slutet av processen översätts den slutliga vektorn eller uppsättningen vektorer tillbaka till sin motsvarande sträng av ord.
När teamet matade samma pressmeddelande om ett forskningsdokument genom ett konventionellt LSTM-baserat neuralt nätverk och genom det RUM-baserade systemet, gav LSTM-systemet denna repetitiva och ganska tekniska sammanfattning: Baylisascariasis, dödar möss, har äventyrat allegheny woodrat och har orsakat sjukdomar som blindhet eller allvarliga konsekvenser. Denna infektion, som kallas baylisascariasis, dödar möss, har äventyrat allegheny woodrat och har orsakat sjukdomar som blindhet eller allvarliga konsekvenser. Denna infektion, kallad baylisascariasis, dödar möss, har äventyrat allegheny woodrat.
RUM-systemet gav en mycket mer läsbar sammanfattning: Tvättbjörnar i städer kan infektera människor mer än vad man tidigare antagit. 7 procent av de tillfrågade individerna testade positivt för tvättbjörnsspolmaskantikroppar. Över 90 procent av tvättbjörnarna i Santa Barbara är värdar för denna parasit.
Forskarna har sedan dess utökat systemet så att det kan sammanfatta hela tidningar, inte bara pressmeddelanden.