Människors onlinefoton används utan samtycke för att träna ansiktsigenkänning AI

Kategori: Artificiell intelligens Postad 13 mars

Foton av människors ansikten tas rutinmässigt från webbplatser för att hjälpa till att utveckla ansiktsigenkänningsalgoritmer, utan försökspersonernas medgivande, en rapport av NBC avslöjar.

Det senaste exemplet: I januari IBM släppte en datamängd av nästan en miljon foton som hade skrapats från fotodelningswebbplatsen Flickr sedan kommenterade med information om detaljer som hudton. Företaget presenterade detta som en del av ansträngningarna att minska det (mycket verkliga) problemet med partiskhet inom ansiktsigenkänning. Den fick dock inte medgivande från någon att göra detta, och det är nästan omöjligt att få bilderna borttagna.

Smutsig hemlighet: IBM är långt ifrån ensamma. När företag försöker förbättra sin teknik för ansiktsigenkänning behöver de tillgång till ett stort antal bilder för att mata sina algoritmer. Att bara ta bilder som redan har laddats upp på internet är ett mycket snabbt – men etiskt tveksamt – sätt att göra det.

Snabba framsteg: Ansiktsigenkänning kan vara bekvämt för att låsa upp din telefon, men det kan också vara ett kraftfullt övervakningsverktyg. Dess användning växer snabbt utan praktiskt taget någon tillsyn, vilket leder till växande krav på att tekniken ska regleras.

En spänning: Algoritmer för ansiktsigenkänning har en dålig precision när det gäller att identifiera icke-vita ansikten, och system kan missköna människor på basis av till exempel längden på deras hår. Ett sätt att bekämpa detta är att lägga till fler bilder av, säg, svarta kvinnor, eller män med långt hår, till träningsdatan. Men att göra det utan att inhämta människors samtycke innan de använder deras bilder kommer att få många att känna sig djupt obekväma.

Anmäl dig här till vårt dagliga nyhetsbrev The Download för att få din dos av de senaste måste-läsa nyheterna från den nya teknikens värld.