Apple Card utreds angående påståenden om att det ger kvinnor lägre kreditgränser

Kategori: Artificiell intelligens Postad 11 nov

Algoritmen som bestämmer kreditgränsen för användare av Apples nya kreditkort, som lanserades i USA i augusti, står inför en utredning eftersom det verkar ge män högre gränser än kvinnor.

Nyheterna: On November 7, web entrepreneur David Heinemeier Hansson postade en nu viral tweet sade att Apple-kortet hade gett honom 20 gånger kreditgränsen för hans fru. Detta trots att de lämnade in gemensamma skattedeklarationer och att hans fru vid utredning hade en bättre kreditvärdighet än han. Apples medgrundare Steve Wozniak svarade till tweeten och sa att han också hade beviljats ​​10 gånger sin frus kreditgräns, trots att de inte har några separata tillgångar eller bankkonton.

Resultat: Nu startar New Yorks Department of Financial Services en utredning om Goldman Sachs, som hanterar kortet. Dess föreståndare, Linda Lacewell, sa i ett blogginlägg att vakthunden skulle undersöka om den algoritm som används för att fatta dessa kreditgränsbeslut bryter mot delstatslagar som förbjuder diskriminering på grund av kön. Regulatorn har redan nyligen inlett en utredning i rapporter om att en algoritm resulterade i att svarta patienter fick mindre omfattande vård än vita patienter.

Vidare problem: Goldman Sachs postade ett uttalande på Twitter under helgen där han sa att kön inte tas med i beräkningen när kreditvärdighet fastställs. Men den oförklarliga skillnaden i kortets kreditgränser är ytterligare ett exempel på hur algoritmisk fördom kan skapas oavsiktligt. Algoritmer av det slag som används för att bedöma kreditvärdighet tränas på år av historiska data, och partiskhet kan glida in i processen på ett antal olika sätt.