AI har en kulturellt partisk världsbild som Google har en plan att förändra

Kategori: Artificiell intelligens Postad 02 dec

Google har lanserat en Inkluderande bildtävling , ett försök att utöka det kulturella flytet av programvara för bildigenkänning. Uppgiften för deltagare: minska fördomen i ett datorseendesystem som tränats på en kulturellt partisk bilddatauppsättning.

Sammanhanget: Maskiner måste tränas på enorma mängder bilddata för att kunna känna igen objekt. De senaste stegen i bildigenkänning har sammanfallit med lanseringen av stora, allmänt tillgängliga datamängder, inklusive ImageNet och Öppna Bilder .

Problemet: De mest populära datamängderna är dock USA- och västerländska - helt enkelt för att dessa västerländska bilder dominerade internet när datamängderna kompilerades. Som en konsekvens misslyckas system som tränats på dem ofta med att exakt beskriva scener från andra kulturer och platser. Ta bröllopsbilder som exempel. Ett standardsystem för bildigenkänning, utbildat på datauppsättningar med öppen källkod, kan känna igen en brud i en vit klänning, vilket återspeglar den klassiska västerländska traditionen. Men det kommer inte att känna igen en brud i en sari från en indisk ceremoni.

Utmaningen: Ett sätt att mildra detta problem är att bygga fler olika och representativa bilddatauppsättningar. Medan Google följer detta tillvägagångssätt, tror företaget också på att gå vidare på ett annat sätt: genom att justera själva maskininlärningsalgoritmerna så att de blir mer inkluderande när de lär sig från ofullkomlig data.

Resultaten: Tävlingen hölls i samarbete med konferensen Neural Information Processing Systems (NeurIPS), en av de största årliga sammankomsterna för AI-forskning. Tävlingen fick bidrag från över 100 deltagare. Google Brain-forskaren Pallavi Baljekar noterade vid ett konferenssamtal söndagen den 2 december att det första året tävlingsvinnare kunde ta små steg mot mer inkluderande system. Men bara en av de fem bästa tillvägagångssätten kände igen en indisk brud. Det är klart att mer arbete måste göras.