IBM:s fotoskrapningsskandal visar vilken konstig bubbla AI-forskare lever i

Kategori: Artificiell intelligens Postad 15 mars

På tisdagen publicerade NBC en berättelse med en gripande rubrik: Ansiktsigenkänningens 'smutsiga lilla hemlighet': Miljontals onlinefoton skrapade utan samtycke. jag länkade till det i vårt senaste Algoritmnummer, men det är värt ett återbesök idag.

Berättelsen belyser en färsk datauppsättning som släppts av IBM med 1 miljon bilder av ansikten, avsedda att hjälpa till att utveckla rättvisare ansiktsigenkänningsalgoritmer. (Jag skrev om nyheterna då också.) Det visar sig, NBC fann, att dessa ansikten skrapats direkt från webbsidan Flickr som webbhotell för foton, utan tillstånd från försökspersonerna eller fotograferna.

För vissa av er kommer denna övning omedelbart att kännas läskig och konstig. För andra kommer det att verka helt normalt. Vad den här historien avslöjade var inte så mycket en smutsig liten hemlighet utan snarare den kulturella klyftan mellan allmänheten och AI-gemenskapen.

Verkligen, för industriinsiders gjorde IBM inget utöver det vanliga. AI-forskare samlar in data från olika hörn av internet hela tiden för att mata de ständigt hungriga maskininlärningsalgoritmerna som kräver enorma mängder av det för att träna. Instagram-bilder är till exempel en vanlig källa för bilddata; hashtaggarna överensstämmer ofta bekvämt med bildernas innehåll, vilket gör det extra enkelt att generera märkt data. New York Times och Wall Street Journal-artiklar är också en vanlig datakälla för välskrivna, kopieringsredigerade meningar. Ännu bättre att de är kategoriserade efter ämne: teknik, affärer, sport.

Faktum är att att skrapa data från allmänt tillgängliga källor är så mycket av en branschstandard att det lärs ut som en grundläggande färdighet (sans etik) i de flesta datavetenskap och maskininlärningsutbildningar. Samtidigt är de flesta tekniska plattformar utformade för att bjuda in sådan skrapning genom att erbjuda API:er med direkt tillgång till deras data. Fram till nyligen gjordes detta utan eftertanke. (Hej Facebook.)

Allt detta betyder inte att det är rätt eller fel att skrapa data. Det finns några helt godartade eller legitima sätt på vilka praktiken kan användas (se Vi analyserade 16 625 artiklar för att ta reda på vart AI är på väg härnäst); det beror verkligen på sammanhanget. Den här historien belyser snarare behovet för teknikindustrin att anpassa sina kulturella normer och standardpraxis för att hålla jämna steg med den snabba utvecklingen av själva tekniken, såväl som allmänhetens medvetenhet om hur deras data används.

Det finns sätt att använda vår data idag som vi inte var medvetna om för fem, 10 år sedan, säger Rumman Chowdhury, global ledare för ansvarig AI på Accenture Applied Intelligence. Hur kunde vi [allmänheten] möjligen ha gått med på en förmåga som inte fanns?

Med andra ord kan det en gång ha varit en genomförbar praxis att glatt skrapa människors data, och det kan en gång ha varit tillräckligt medgivande för att nämnda data skulle kunna användas så länge som det var allmänt tillgängligt, men tillkomsten av AI och den aldrig tidigare skådade omfattningen av Silicon Valleys datamonopolisering och monetarisering har alla förändrat ekvationen. Teknologer bär ansvaret för att förändras med det och se till att det finns en bred, informerad samhällelig samsyn för deras praxis.

Chowdhurys tips till dem som kämpar för att navigera i de grå områdena av dataintegritet? Fundera på om hur du använder data är i den anda som den ursprungligen genererades och delades. Om du använder det på ett helt tangentiellt sätt är det dags att pausa och ompröva.

Den här historien dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få det direkt levererat till din inkorg, registrera dig här gratis.