211service.com
Microsoft skapar ett orakel för att fånga partiska AI-algoritmer
Substantivprojekt | Andrejs Kirma | Fröken. Tech
Microsoft bygger ett verktyg för att automatiskt identifiera bias i en rad olika AI-algoritmer. Det är det djärvaste försöket hittills att automatisera upptäckten av orättvisor som kan smyga sig in i maskininlärning – och det kan hjälpa företag att använda AI utan att oavsiktligt diskriminera vissa personer.
Stora teknikföretag tävlar om att sälja maskininlärningsteknik från hyllan som kan nås via molnet. När fler kunder använder dessa algoritmer för att automatisera viktiga bedömningar och beslut, kommer frågan om partiskhet att bli avgörande. Och eftersom partiskhet lätt kan smyga sig in i maskininlärningsmodeller, kan sätt att automatisera upptäckten av orättvisor bli en värdefull del av AI-verktygslådan.
Saker som transparens, förståelighet och förklaring är tillräckligt nya för fältet för att få av oss har tillräcklig erfarenhet för att veta allt vi bör leta efter och alla sätt som partiskhet kan gömma sig i våra modeller, säger Rika Caruna , en senior forskare på Microsoft som arbetar med instrumentpanelen för bias-detection.
Algoritmisk bias är ett växande problem för många forskare och teknikexperter (se Inspektera algoritmer för bias ). Eftersom algoritmer används för att automatisera viktiga beslut, finns det en risk att bias kan bli automatiserad, implementeras i stor skala och svårare för offren att upptäcka.
Caruna säger att Microsofts fördomsfångande produkt kommer att hjälpa AI-forskare att fånga fler fall av orättvisa, även om inte alla. Naturligtvis kan vi inte förvänta oss perfektion - det kommer alltid att finnas en partiskhet oupptäckt eller som inte kan elimineras - målet är att göra så bra vi kan, säger han.
Det viktigaste företagen kan göra just nu är att utbilda sin personal så att de är medvetna om de otaliga sätten på vilka partiskhet kan uppstå och yttra sig och skapa verktyg för att göra modeller lättare att förstå och fördomar lättare att upptäcka, tillägger Caruna.
Facebook tillkännagav sitt eget verktyg för att upptäcka partiskhet vid sin årliga utvecklarkonferens den 2 maj. Dess verktyg, som kallas Fairness Flow, varnar automatiskt om en algoritm gör en orättvis bedömning om någon baserat på hans eller hennes ras, kön eller ålder. Facebook säger att det behövde Fairness Flow eftersom fler och fler människor på företaget använder AI för att fatta viktiga beslut.
Bin Yu , professor vid UC Berkeley, säger att verktygen från Facebook och Microsoft verkar vara ett steg i rätt riktning, men kanske inte räcker. Hon föreslår att stora företag bör låta externa experter granska sina algoritmer för att bevisa att de inte är partiska. Någon annan måste undersöka Facebooks algoritmer – de kan inte vara en hemlighet för alla, säger Yu.