AI kan inte förutsäga hur ett barns liv kommer att bli ens med massor av data

SHARON MCCUTCHEON / UNSPLASH

Politiker använder ofta samhällsvetares arbete för att förutsäga hur specifik politik kan påverka sociala resultat som sysselsättning eller brottslighet. Tanken är att om de kan förstå hur olika faktorer kan förändra någons livsbana, kan de föreslå insatser för att främja de bästa resultaten.

Under de senaste åren har de dock i allt högre grad förlitat sig på maskininlärning, som lovar att producera mycket mer exakta förutsägelser genom att knäcka mycket större mängder data. Sådana modeller används nu för att förutsäga sannolikheten att en åtalad kan gripas för ett andra brott, eller att ett barn är i riskzonen för misshandel och vanvård i hemmet. Antagandet är att en algoritm som matas med tillräckligt med data om en given situation kommer att göra mer exakta förutsägelser än en människa eller en mer grundläggande statistisk analys.

Nu a ny studie publicerad i Proceedings of the National Academy of Sciences ställer tvivel om hur effektivt detta tillvägagångssätt verkligen är. Tre sociologer vid Princeton University bad hundratals forskare att förutsäga sex livsresultat för barn, föräldrar och hushåll med hjälp av nästan 13 000 datapunkter på över 4 000 familjer. Ingen av forskarna kom ens i närheten av en rimlig nivå av noggrannhet, oavsett om de använde enkel statistik eller banbrytande maskininlärning.

Studien belyser verkligen denna idé att i slutet av dagen är maskininlärningsverktyg inte magi, säger Alice Xiang, chef för rättvisa och ansvarsforskning vid den ideella Partnership on AI.

Forskarna använde data från en 15 år lång sociologistudie kallad Studie av ömtåliga familjer och barns välbefinnande , ledd av Sara McLanahan, professor i sociologi och offentliga angelägenheter vid Princeton och en av huvudförfattarna till den nya uppsatsen. Den ursprungliga studien försökte förstå hur livet för barn som föds av ogifta föräldrar kan se ut över tiden. Familjer valdes slumpmässigt ut från barn födda på sjukhus i stora amerikanska städer under år 2000. De följdes upp för datainsamling när barnen var 1, 3, 5, 9 och 15 år gamla.

McLanahan och hennes kollegor Matthew Salganik och Ian Lundberg designade sedan en utmaning att crowdsource förutsägelser om sex utfall i slutfasen som de ansåg vara sociologiskt viktiga. Dessa inkluderade barnens medelbetyg i skolan; deras nivå av grus, eller självrapporterad uthållighet i skolan; och den övergripande fattigdomsnivån i deras hushåll. Utmaningsdeltagare från olika universitet fick bara en del av datan för att träna sina algoritmer, medan arrangörerna höll tillbaka en del för slututvärderingar. Under loppet av fem månader lämnade hundratals forskare, inklusive datavetare, statistiker och beräkningssociologer, in sina bästa tekniker för förutsägelse.

Det faktum att ingen inlämning kunde uppnå hög noggrannhet på något av resultaten bekräftade att resultaten inte var en slump. Du kan inte bortförklara det baserat på misslyckanden hos någon speciell forskare eller någon speciell maskininlärning eller AI-teknik, säger Salganik, professor i sociologi. De mest komplicerade maskininlärningsteknikerna var inte heller mycket mer exakta än mycket enklare metoder.

För experter som studerar användningen av AI i samhället är resultaten inte så överraskande. Även de mest exakta riskbedömningsalgoritmerna i det straffrättsliga systemet, till exempel, maxar till 60 % eller 70 %, säger Xiang. Kanske i det abstrakta låter det lite bra, tillägger hon, men återfallsfrekvensen kan ändå vara lägre än 40 %. Det betyder att du redan får en träffsäkerhet på mer än 60 % om du inte förutser några återfall.

Likaså har forskning upprepade gånger visat att inom sammanhang där en algoritm bedömer risker eller väljer vart de ska rikta resurser, har enkla, förklarliga algoritmer ofta nära samma förutsägelsekraft som black-box-tekniker som djupinlärning. Den extra fördelen med black-box-teknikerna är alltså inte värda de stora kostnaderna i tolkningsbarhet.

Resultaten betyder inte nödvändigtvis att prediktiva algoritmer, oavsett om de är baserade på maskininlärning eller inte, aldrig kommer att vara användbara verktyg i policyvärlden. Vissa forskare påpekar till exempel att data som samlats in för sociologisk forskning skiljer sig från de data som vanligtvis analyseras i beslutsfattande.

Rashida Richardson, policychef vid AI Now-institutet, som studerar AIs sociala inverkan, noterar också oro över hur förutsägelseproblemet utformades. Huruvida ett barn har grus, till exempel, är en inneboende subjektiv bedömning som forskning har visat vara en rasistisk konstruktion för att mäta framgång och prestation, säger hon. Detaljen fick henne omedelbart att tänka, Åh, det här kommer inte att fungera.

Salganik erkänner också studiens begränsningar.

Men han betonar att det visar varför beslutsfattare bör vara mer försiktiga med att utvärdera algoritmiska verktygs noggrannhet på ett transparent sätt. Att ha en stor mängd data och ha komplicerad maskininlärning garanterar inte korrekt förutsägelse, tillägger han. Politiker som inte har så mycket erfarenhet av att arbeta med maskininlärning kan ha orealistiska förväntningar på det.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.

Dölj