AI lär sig när den bör och inte bör hänvisa till en människa

Mark Schiefelbein/AP

Sammanhanget: Studier visar att när människor och AI-system arbetar tillsammans kan de överträffa vardera en ensam. Medicinska diagnostiska system kontrolleras ofta av mänskliga läkare, och innehållsmodereringssystem filtrerar vad de kan innan de kräver mänsklig hjälp. Men algoritmer är sällan utformade för att optimera för denna AI-till-människa överlämning. Om de var det, skulle AI-systemet bara skjuta upp sin mänskliga motsvarighet om personen faktiskt kunde fatta ett bättre beslut.

Forskningen: Forskare vid MIT:s Computer Science and AI Laboratory (CSAIL) har nu utvecklat ett AI-system för att göra den här typen av optimering baserat på styrkor och svagheter hos den mänskliga kollaboratören. Den använder två separata maskininlärningsmodeller; man fattar det faktiska beslutet, oavsett om det är att diagnostisera en patient eller ta bort ett inlägg på sociala medier, och man förutsäger om AI:n eller människan är den bättre beslutsfattaren.

Den senare modellen, som forskarna kallar avvisaren, förbättrar iterativt sina förutsägelser baserat på varje beslutsfattares meritlista över tid. Det kan också ta hänsyn till faktorer utöver prestanda, inklusive en persons tidsbegränsningar eller en läkares tillgång till känslig patientinformation som inte är tillgänglig för AI-systemet.

Resultaten: Forskarna testade den hybrida human-AI-metoden i en mängd olika scenarier, inklusive för bildigenkänningsuppgifter och för upptäckt av hatretorik. AI-systemet kunde anpassa sig till expertens beteende och eftersträva dem när så var lämpligt, vilket gjorde att de två beslutsfattarna snabbt kunde nå en kombinerad noggrannhetsnivå som var högre än en tidigare hybrid human-AI-metod.

Fallstudie: Även om dessa experiment fortfarande är relativt enkla, tror forskarna att ett sådant tillvägagångssätt så småningom kan tillämpas på komplexa beslut inom hälso- och sjukvården och på andra håll. Överväg ett AI-system som hjälper läkare att ordinera rätt antibiotika. Även om bredspektrumantibiotika är mycket effektiva kan överanvändning av dem leda till antibiotikaresistens. Specifika antibiotika undviker å andra sidan det problemet men bör endast användas om de har stor chans att fungera. Med tanke på denna avvägning kan AI-systemet lära sig att anpassa sig till olika läkare med olika fördomar i sina recept, och korrigera för tendenser att över- eller underförskriva bredspektrumantibiotika.

Dölj