En AI-app som gör dig till en filmstjärna har riskerat miljontals integritet

Kategori: Artificiell intelligens Postad 04 sep

ZAO, en viral kinesisk app som använder AI för att byta ut användare och kända skådespelare, är nu indragen i en stor integritetskontrovers.

Nyheterna: På fredagen blev en ny app släppt av Momo, en utvecklare av sociala medier, omedelbart viral på kinesiska sociala medier. Det tillåter användare att ladda upp ett enda porträtt och inom några sekunder, se deras ansikte överlagrat på skådespelare i ikoniska filmscener. På söndagen hade det gjort det bli den mest nedladdade gratis underhållningsapp i Kinas Apple Store.

AI fejk: Det är den senaste – och kanske mest imponerande – tillämpningen av generativa kontradiktoriska nätverk, eller GAN, AI-algoritmerna bakom deepfakes. Medan GAN har använts för ansiktsredigering och ansiktsbyte tidigare (i allt högre grad i Hollywood-filmer), visar ZAO:s användning av ett enda foto, i kombination med hastigheten och sömlösheten av dess byte, hur långt det är med den senaste tekniken inom mediefåp har avancerat.

Kontroversen: Inom några timmar efter det att det släpptes började ZAO väcka integritetsproblem, särskilt över en klausul i användaravtalet som gav utvecklare rätten att använda alla uppladdade bilder gratis i all evighet. Det gjorde det också möjligt för dem att överföra den rätten till vilken tredje part som helst utan användartillstånd. Juridiska experter i Kina sa att det inte var lagligt, och på lördagen hade appens utvecklare fallit under press och tagit bort klausulen. WeChat, Kinas bästa app för sociala nätverk, förbjöd också all delning av filmer eller foton från ZAO.

Redan sedd: Avsnittet spelade upp en liknande kontrovers om FaceApp, en fotoredigeringsapp som blev viral i juli. Appen använde också GAN för att retuschera människors porträtt och hade samlat på sig över 150 miljoner foton av ansikten sedan lanseringen. ZAO fick en mycket snabbare och skarpare motreaktion, men den hade förmodligen redan använts av miljontals användare när den reviderade sin policy. Å ena sidan visar frekvensen av sådana incidenter hur lätt en användares personuppgifter nu kan samordnas och återanvändas utanför hans eller hennes kontroll. Å andra sidan visar det att människor också har blivit mer känsliga för integritet och är mindre villiga att ge upp den utan kamp.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.