IBM säger att det inte längre arbetar med ansiktsigenkänning eftersom det används för rasprofilering

Kategori: Artificiell intelligens Postad 09 juni

Nyheterna: IBM har sagt att företaget kommer att sluta utveckla eller sälja mjukvara för ansiktsigenkänning på grund av oro för att tekniken används för att främja rasism. I en brev till kongressen , sade IBM:s VD Arvind Krishna att teknikjätten motsätter sig all teknik som används för massövervakning, rasprofilering, kränkningar av grundläggande mänskliga rättigheter och friheter.

Han efterlyste en nationell dialog om huruvida och hur det är lämpligt att teknik för ansiktsigenkänning används av inhemska brottsbekämpande myndigheter. Brevet efterlyste också nya federala regler för att slå ner på polisens missförhållanden, och mer utbildning och utbildning för efterfrågade färdigheter för att förbättra ekonomiska möjligheter för färgade.

Inget nytt bekymmer: Aktivister och experter har i åratal påpekat att system för ansiktsigenkänning är partiska och flaggat oro över dess risk för missbruk . Deras oro är berättigad: a landmärke studie av US National Institute of Standards and Technology förra året bekräftade att majoriteten av ansiktsigenkänningsalgoritmerna fungerade sämre på icke-vita ansikten.

Hur det har tagits emot: IBM är det första stora teknikföretaget som drar sig tillbaka från att utveckla tekniken helt och hållet. Även om nyheten har tagits emot brett positivt av teknikarbetare, och i synnerhet kampanjer som är oroliga för användningen av ansiktsigenkänning, kritiker har påpekat att det knappast är en stor uppoffring för IBM att lämna en marknad som man knappt hade fotfäste på till att börja med.

Trots det är det fortfarande ett stort teknikföretag som tar en ovanligt stark moralisk ställning över ett av dagens mest kontroversiella ämnen. Det är särskilt lägligt med tanke på de pågående protesterna över polisvåld och rasism i USA och runt om i världen. Men det är oklart om det kommer att förbli en engångsförändring av IBM eller ett drag som hjälper till att driva andra teknikföretag till handling.