Facebooks radioaktiva data spårar bilderna som används för att träna en AI

Kategori: Artificiell intelligens Postad 06 februari

Nyheterna: Ett team från Facebook AI Research har utvecklat ett sätt för att spåra exakt vilka bilder i en datamängd användes för att träna en maskininlärningsmodell. Genom att göra omärkliga justeringar av bilder, skapa ett slags vattenstämpel, kunde de göra små motsvarande ändringar i hur en bildklassificerare tränade på dessa bilder fungerar, utan att försämra dess övergripande noggrannhet. Detta lät dem senare matcha modeller med bilderna som användes för att träna dem.

Varför det är viktigt: Facebook kallar tekniken för radioaktiv data eftersom den är analog med användningen av radioaktiva markörer inom medicin, som dyker upp i kroppen under röntgen. Att lyfta fram vilken data som har använts för att träna en AI gör modellerna mer transparenta, och flaggar potentiella källor till partiskhet – som en modell som tränats på en icke-representativ uppsättning bilder – eller avslöjar när en datauppsättning användes utan tillstånd eller för olämpliga syften.

Gör inga misstag: En stor utmaning var att ändra bilderna utan att bryta den resulterande modellen. Små justeringar av en AI:s input kan ibland leda till att den gör dumma misstag, som att identifiera en sköldpadda som en pistol eller en sengångare som en racerbil. Facebook såg till att designa sina vattenstämplar så att det inte blev så. Teamet testade sin teknik på ImageNet, en allmänt använd datamängd med mer än 14 miljoner bilder, och fann att de kunde upptäcka användning av radioaktiva data med hög tillförsikt i en viss modell även när bara 1% av bilderna hade markerats.