Farorna med Tech-Bro AI

Tabitha Goldstaub, en av grundarna till CognitionX , som hjälper företag att distribuera AI, säger att diversifiering av fältet är nödvändigt för att se till att produkterna faktiskt fungerar bra.
  • TR Personal arkivsida
24 oktober 2017

Miguel Porlan





Om du tänker på artificiell intelligens och kärnkomponenterna i vad som gör en AI, har du det faktum att den har fått ett mål och sedan kommer att hitta ett sätt att nå det målet. Det är då ofta väldigt otransparent om hur det nådde det målet. Om du bygger in en omedveten fördom i en maskin, kanske du inte vet att den finns där; resultatet kan vara skadligt för kvinnor och det är väldigt svårt att räkna ut exakt varför det har hänt.

I traditionell teknik kan du se [vad som har hänt]: kvinnor som dör i bilolyckor eftersom krocktestdockorna var formen av en man snarare än formen av en kvinna. [Med AI kan det finnas] liknande situationer på liv eller död, i drogprövningar eller i autonoma fordon och sånt.

Problemet med artificiell intelligens

Den här historien var en del av vårt novembernummer 2017



  • Se resten av frågan
  • Prenumerera

Det finns några exempel på [gender bias in AI today]: Google-annonser som visar mer lönande [jobb]-annonser för män än kvinnor . Vi kan anta andra typer av situationer som skulle hända - tänk om kvinnor inte kunde få lån eller bolån eller försäkringar?

Jag har ingen dystopisk syn på AI. Jag ser inte mördarrobotar. Jag är så mycket mer fokuserad på de smala applikationerna, och jag tror att om man tittar på varenda en av dessa smala applikationer finns det en chans att det påverkar kvinnor negativt. Jag tror inte att artificiell intelligens är problemet här; det är det extra problemet snarare än orsaken. Vi pratar om risken att vår omedvetna sexism eller omedvetna rasism sipprar in i maskinerna som vi bygger.

Hur får vi alla som bygger AI att tänka på dessa saker? Vi måste få konsumenterna att efterfråga etisk AI. Det är inte tillräckligt många som ser detta som mer än bara en könsfråga; detta är en verklig, grundläggande produktfråga.



— som sagt till Rachel Metz

Dölj