Hur man utrotar dolda fördomar i AI

Algoritmer fattar livsavgörande beslut som att neka villkorlig frigivning eller bevilja lån. Cynthia Dwork, en datavetare vid Harvard, utvecklar sätt att se till att maskinerna fungerar rättvist. Förbi

• TR Personal arkivsida

24 oktober 2017

Miguel Porlan

Varför är det svårt för algoritmdesigners eller datavetare att redogöra för partiskhet och orättvisa?

Ta en arbetsmiljö som är fientlig mot kvinnor. Anta att du definierar framgång som det faktum att någon har ett jobb i två till tre år och får befordran. Då kommer din prediktor – baserat på historiska data – att korrekt förutsäga att det inte är en bra idé att anställa kvinnor. Det som är intressant här är att vi inte pratar om historiska anställningsbeslut. Även om anställningsbesluten var helt opartiska, kvarstår verkligheten – den verkliga diskrimineringen i den fientliga miljön. Det är djupare, mer strukturellt, mer inarbetat och svårare att övervinna.

Den här historien var en del av vårt novembernummer 2017

• Se resten av frågan
• Prenumerera

Jag tror att den stora användningen av maskininlärning och AI kommer att vara i kombination med riktigt kunniga människor som kan historia och sociologi och psykologi för att ta reda på vem som bör behandlas på samma sätt som vem.

Jag säger inte att datorer aldrig kommer att kunna göra det, men jag ser det inte nu. Hur vet du när du har rätt modell och när den fångar vad som verkligen hände i samhället? Du måste ha en förståelse för vad du pratar om. Det finns det berömda ordspråket Alla modeller är fel och vissa är användbara.

— som sagt till Will Knight

Dölj