211service.com
Bias finns redan i sökmotorresultat, och det kommer bara att bli värre
Hur sökmotorer fungerar är långt ifrån fördomsfritt, hävdar en ny bok. 26 februari 2018
NYU Book Press
Internet kan tyckas vara lika villkor, men det är det inte. Safiya Umoja Noble stod öga mot öga med det faktum en dag när hon använde Googles sökmotor för att leta efter ämnen som hennes syskonbarn kan tycka är intressanta. Hon gick in på termen svarta flickor och kom tillbaka med sidor dominerade av pornografi.
Noble, en kommunikationsprofessor i USC Annenberg, var förskräckt men inte förvånad. I flera år har hon hävdat att webbens värderingar återspeglar dess byggare – mestadels vita västerländska män – och inte representerar minoriteter och kvinnor. Hennes senaste bok, Algoritmer för förtryck , detaljerad forskning som hon startade efter den ödesdigra Google-sökningen, och den utforskar de dolda strukturerna som formar hur vi får information via internet.
Boken, ut den här månaden, hävdar att sökmotorernas algoritmer inte är så neutrala som Google vill att du ska tro. Algoritmer främjar vissa resultat framför andra, och även en till synes neutral kod kan återspegla samhällets fördomar. Dessutom, utan någon insikt i hur algoritmerna fungerar eller vad det bredare sammanhanget är, kan sökningar orättvist forma diskussionen om ett ämne som svarta tjejer.
Noble talade med MIT Technology Review om problemen med det nuvarande systemet, hur Google kan göra bättre och hur artificiell intelligens kan göra saker värre.
MED TILLSTÅND AV SAFIYA UMOJA NOBLE
Vad har folk för fel om hur sökmotorer fungerar?
Om vi letar efter närmaste Starbucks, ett specifikt citat eller något mycket smalt som är lätt att förstå, fungerar det bra. Men när vi börjar komma in på mer komplicerade begrepp kring identitet, kring kunskap, är det här sökmotorerna börjar svika oss. Det här skulle inte vara så mycket av ett problem förutom att allmänheten verkligen litar på sökmotorer för att ge dem vad de tror kommer att vara sanningen, eller något undersökt, eller något som är trovärdigt. Det är här, tror jag, vi har det största missförståndet i allmänheten om vad sökmotorer är.
För att ta itu med partiskhet undertrycker Google normalt vissa resultat. Finns det ett bättre tillvägagångssätt?
Vi skulle kunna tänka oss att dra tillbaka på ett så ambitiöst projekt att organisera all världens kunskap, eller så kan vi omformulera och säga: Det här är en teknik som är ofullkomlig. Det är manipulerbart. Vi kommer att visa dig hur det manipuleras. Vi kommer att göra den typen av dimensioner av vår produkt mer transparenta så att du känner till resultatets djupt subjektiva karaktär. Istället är positionen för många företag – inte bara Google – att [de] tillhandahåller något som du kan lita på och som du kan lita på, och det är här det blir ganska svårt.
Hur kan maskininlärning vidmakthålla en del av den rasism och sexism du skriver om?
Jag har argumenterat för att artificiell intelligens, eller automatiserade beslutssystem, kommer att bli en fråga om mänskliga rättigheter detta århundrade. Jag tror starkt på det, eftersom maskininlärningsalgoritmer och projekt använder data som redan är partisk, ofullständig, felaktig och [vi lär] maskiner hur man fattar beslut baserat på den informationen. Vi vet att [det] kommer att leda till en mängd olika resultat. Låt mig bara tillägga att AI kommer att bli svårare och svårare att ingripa eftersom det kommer att bli mindre tydligt vilken data som har använts för att informera om tillverkningen av den AI, eller tillverkningen av dessa system. Det finns många olika typer av datamängder, till exempel, som inte är standardiserade, som går samman för att fatta beslut.
Sedan du först sökte efter svarta tjejer 2010, har du sett saker bli bättre eller sämre?
Sedan jag började skriva om och tala offentligt om att i synnerhet svarta flickor förknippas med pornografi har saker och ting förändrats. Nu finns inte pornografin och det hypersexualiserade innehållet på första sidan, så jag tror att det var en tyst förbättring som inte kom till med mycket fanfar. Men andra samhällen, som Latina och asiatiska flickor, är fortfarande mycket sexualiserade i sökresultat.