211service.com
Hur man uppgraderar domare med maskininlärning
Jon Han
När ska en åtalad åtalas avvakta rättegång i fängelse snarare än hemma? Programvara kan avsevärt förbättra domarnas förmåga att ringa det samtalet – minska brottsligheten eller antalet personer som sitter fast och väntar i fängelse.
I en ny studie från National Bureau of Economic Research tränade ekonomer och datavetare en algoritm för att förutsäga om åtalade var en flygrisk från deras rap-blad och domstolsprotokoll med hjälp av data från hundratusentals fall i New York City. När den testades på över hundra tusen fler fall som den inte hade sett tidigare, visade sig algoritmen vara bättre på att förutsäga vad åtalade kommer att göra efter frigivningen än domare.
Jon Kleinberg , en professor i datavetenskap vid Cornell som är involverad i forskningen, säger att ett mål med projektet var att visa politiska beslutsfattare de potentiella fördelarna för samhället med att använda maskininlärning i det straffrättsliga systemet. Det här visar hur maskininlärning kan hjälpa till även i sammanhang där det finns betydande mänsklig expertis som tas tillvara, säger Kleinberg, som arbetade med projektet med forskare från Stanford, Harvard och University of Chicago.
De uppskattar att för New York City kan deras algoritms råd minska brottsligheten för åtalade som väntar på rättegång med så mycket som 25 procent utan att ändra antalet människor som väntar i fängelse. Alternativt kan det användas för att minska antalet fängelser som väntar på rättegång med mer än 40 procent, samtidigt som brottsfrekvensen för de tilltalade lämnas oförändrad. Att upprepa experimentet på data från 40 stora stadslän över hela USA gav liknande resultat.
Som en bonus var vinster som de möjliga samtidigt som fängelsepopulationen flyttades till att omfatta en mindre andel afroamerikaner och latinamerikaner.
Algoritmen tilldelar åtalade ett riskpoäng baserat på data hämtade från register för deras aktuella fall och deras rap-blad, till exempel brottet de är misstänkta för, när och var de greps, och antal och typ av tidigare fällande domar. (Den enda demografiska data den använder är ålder – inte ras.)
Kleinberg föreslår att algoritmer skulle kunna användas för att hjälpa domare utan större avbrott i hur de för närvarande arbetar i form av ett varningssystem som flaggar för att beslut med stor sannolikhet är felaktiga. Analyser av domarnas prestationer tyder på att de har en tendens att ibland släppa människor som med stor sannolikhet inte kommer att visa sig i domstol, eller att begå brott i väntan på rättegång. En algoritm skulle kunna fånga många av de fallen, säger Kleinberg.
Richard Berk , en professor i kriminologi vid University of Pennsylvania, beskriver studien som mycket bra arbete och ett exempel på ett nyligen ökat intresse för att tillämpa maskininlärning för att förbättra straffrättsliga beslut. Idén har utforskats i 20 år, men maskininlärning har blivit kraftfullare och data för att träna den har blivit mer tillgänglig.
Berk testade nyligen ett system med Pennsylvania State Parole Board som ger råd om risken för att en person kommer att begå återfall, och fann bevis för att det minskade brottsligheten. NBER-studien är viktig eftersom den tittar på hur maskininlärning kan användas före dom, ett område som inte har utforskats grundligt, säger han.
Men Berk säger att det behövs mer forskning om hur man säkerställer att straffrättsliga algoritmer inte leder till orättvisa resultat. Förra året en undersökning av ProPublica fann att kommersiell programvara som utvecklats för att avgöra vilka dömda som skulle få skyddstillsyn var mer benägna att felaktigt märka svarta människor än vita människor som högrisk.
Jens Ludwig , chef för University of Chicago Crime Lab, som arbetade med den nya NBER-studien, säger att den visar hur orättvisa resultat är långt ifrån oundvikliga, genom att visa att en domarerådgivningsalgoritm kan minska brottsligheten såväl som den hastighet med vilken svarta och latinamerikaner är fängslade. Dessa verktyg kan faktiskt förbättra rättvisan i förhållande till status quo, säger han.