Land med en miljard ansikten

Clearview AI har byggt en av de mest omfattande databaserna över människors ansikten i världen. Din bild finns förmodligen där (vår värd Jennifer Strongs var). I del två av denna fyradelade serie om ansiktsigenkänning träffar vi VD:n för det kontroversiella företaget som berättar att vår framtid är fylld med FaceID – oavsett om det är reglerat eller inte.

Vi träffas:

• Hoan Ton-That, Clearview AI
• Alexa Daniels-Shpall, Police Executive Research Forum

Krediter:

Det här avsnittet rapporterades och producerades av Jennifer Strong, med Tate Ryan-Mosley och Emma Cillekens, med särskilt tack till Karen Hao och Benji Rosen. Vi är redigerade av Michael Reilly och Gideon Lichfield. Vår tekniska chef är Jacob Gorski.

Hela avsnittet transkription:

Jennifer Strong: Det pågår ett slagsmål i domstolarna mellan nätverkssajten LinkedIn och ett företag som heter hiQ Labs – en startup som berättar för företag när deras anställda riskerar att bli tjuvjagade av andra företag...

Problemet är att det gör detta genom att ta bort data från LinkedIns webbplats.

Läsning av nyhetsankare: med mer än 500 miljoner användare världen över är LinkedIn en skattkammare av personlig information. Men vad händer om den informationen du inte vill dela kommer tillbaka till din chef?

Jennifer Strong: Men hiQ hävdar att det är ok – all denna data är offentligt tillgänglig utan inloggning. Fallet kan komma att gå till högsta domstolen i år, men än så länge håller rättssystemet med hiQ.

Vet du vilka rättigheter du har till integritet på webbplatser som LinkedIn eller YouTube?

Skulle det vara förvånande att foton – inklusive några som du aldrig har sett men på något sätt hamnat på webben – används av företag för att växa sina verksamheter, inklusive för att bygga saker som AI-system som identifierar misstänkta för polisen?

Jag heter Jennifer Strong och i del två av vår serie om ansiktsigenkänning och polisarbete pratar vi med vd Hoan Ton-That, grundaren av ett av världens mest kontroversiella teknikföretag, Clearview AI.

Jennifer Strong: Redan 2011 gav Googles dåvarande vd, Eric Schmidt, en huvudintervju vid en konferens som anordnades av The Wall Street Journal.

Erik Schmidt : Jag är personligen mycket oroad över föreningen för mobilspårning och ansiktsigenkänning.

Jennifer Strong: Att kombinera ansikts-ID med spårningsdata från mobiltelefoner kan ge bort nästan varje detalj om hur och var vi spenderar vår tid.

Schmidt sa att han trodde att det kunde användas på gott eller ont, men i demokratier trodde han att det skulle regleras snabbt.

Han stod på scen med journalisterna Walt Mossberg och Kara Swisher och de pressade honom på det: Vilka möjligheter hade Google och vad kan hända i fel händer?

Erik Schmidt : För att vara tydlig, byggde vi den tekniken... och vi undanhöll den. Så vitt jag vet är det den enda tekniken som Google byggt och efter att ha tittat på den bestämde vi oss för att sluta.

Jennifer Strong: Spola framåt nästan ett decennium. Ansiktsigenkänning är fortfarande inte reglerad, och big tech är tillbaka för att ifrågasätta vad som ska byggas och vem som ska ha det.

Saken är att tekniska jättar inte är de största spelarna i det utrymmet. Företag som är – inklusive NEC, Cognitec och Clearview AI – fortsätter att sälja sina system.

Och eftersom ansiktsigenkänning inte är reglerad, såvida inte ett företag bestämmer sig för att berätta för oss att dessa verktyg finns eller en journalist avslöjar något, kommer vi inte nödvändigtvis att veta vad som finns där ute – än mindre hur det används, även när det används på oss.

Clearview kallas ibland för ansikts-ID:s mördare app. Det är också otroligt kontroversiellt. Det skrapade tyst miljarder bilder från internet – från Venmo, LinkedIn, Google, Facebook, Twitter, YouTube och så vidare – och det byggde ett system som tros användas flitigt av brottsbekämpande myndigheter, inklusive FBI och ICE, också som statlig och lokal polis.

Det finns många juridiska strider som utkämpas om denna praxis som kallas webbskrapning - inte för att det är något i sig dåligt med det, det är bara ett verktyg för att samla in data från internet. Det är hur webbplatser erbjuder prisjämförelser och fastighetslistor. Det är också så en hel del offentlig forskning görs.

Så den verkliga frågan är att det inte riktigt finns grundregler för Vad kan skrapas. Och den federala lagen används oftast för att reda ut dessa fall? Tja, det är från 1986. Innan webben ens fanns.

Under hela den här serien kommer vi att höra från folk som bygger teknologier, såväl som de som kämpar mot dem. Och jag satte mig ner med Clearviews verkställande direktör för att prata om allt detta, ur hans perspektiv.

Hoan Ton-Det : Jag heter Hoan Ton-That och jag är grundare och VD för Clearview AI.

Jennifer Strong : Ok, hur skulle du beskriva ditt företag, tekniken och vad den gör?

Hoan Ton-Det : I grund och botten är det en sökmotor för ansikten. Så du laddar upp ett foto av ett ansikte och det hittar allmänt tillgängliga länkar som finns online. Och just nu används det för brottsbekämpning för att lösa brott i efterhand. Så en tjänsteman, om de har fastnat i ett ärende och de har något från videofilmer, kan de köra det genom vårt system och sedan starta en utredning.

Jennifer Strong: Han säger att det omedelbart överklagades till polisen, men det var efter att han shoppat runt till några olika grupper.

Hoan Ton-Det : När vi byggde vår ansiktsigenkänningsteknik utforskade vi många olika idéer och många olika sektorer från privat säkerhet till gästfrihet ... när vi gav den till några personer inom brottsbekämpning, var ökningen enorm. Och de ringde oss tillbaka nästa dag och sa att vi håller på att lösa ärenden. Detta är galet. På en veckas tid hade vi ett riktigt tjockt häfte.

Jennifer Strong : Så var fick du idén att skapa Clearview. Vilka var dina motiv?

Hoan Ton-Det : Jag har alltid älskat att lära mig om datorprogrammering sedan jag var liten och tittade på MIT-videoföreläsningarna eller gör projekt med öppen källkod och laddar ner bilder för att träna bättre modeller för ansiktsigenkänning. Och så småningom förvandlades det till att göra en ansiktssökmotor. Och det var bara en överraskning för mig hur många som verkligen inte tog sig an den här idén eftersom det är ett så svårt problem eftersom du måste vara väldigt, väldigt noggrann men vi höll fast vid det och det slutade med att det fungerade riktigt bra.

Jennifer Strong: Det finns en växande lista med anledningar till varför forskare kanske väljer att inte arbeta med en sökmotor med ansikten. En stor sak är hur det arbetet kan tillämpas.

Kade Crockford : Ta fallet med Steve Talley, en finansanalytiker från Colorado.

Jennifer Strong: Kade Crockford är en integritetsförespråkare. Det här är från hennes Ted Talk.

Kade Crockford : 2015 åtalades Talley för bankrån på grund av ett fel i ett ansiktsigenkänningssystem. Talley kämpade för det fallet och han blev så småningom fri från dessa anklagelser, men han förlorade sitt hus, sitt jobb och sina barn. Steve Talleys fall är ett exempel på vad som kan hända när tekniken misslyckas. Men ansiktsövervakning är lika farligt när det fungerar som det annonseras.

Tänk bara på hur trivialt det skulle vara för en statlig myndighet att sätta en övervakningskamera utanför en byggnad där människor träffas för Anonyma Alkoholister. Det skulle vara lika enkelt att använda den här tekniken för att automatiskt identifiera varje person som deltog i Women's March eller en Black Lives Matter-protest.

Jennifer Strong: Även om Ton-That tror att Clearviews verktyg är säkrare än vad hon beskriver.

Hoan Ton-Det : Ett falskt positivt i en livemiljö är mer ett problem än det är i en efterhandsmiljö. För om du får en varning och du springer ner för att hitta personen, har du kanske mycket mindre tid på dig att se om det stämmer. Om du sitter bakom ett skrivbord och gör en undersökning har du all tid i världen att se till att du gör rätt.

Jennifer Strong: Men det finns ingen enighet om vad det innebär att göra rätt.

I avsnitt ett träffade vi Robert Williams. Han greps felaktigt i just den typ av utredning Ton-That talar om, efter att programvara felaktigt matchat hans körkortsfoto med bilder på någon som stjäl klockor.

Verktyget som användes i fallet med Mr. Williams byggdes inte av Clearview utan av ett företag som heter DataWorks – även om båda dessa system är beroende av neurala nätverk.

Hoan Ton-Det : Så ett neuralt nätverk är en nyare form av artificiell intelligens där vi istället för att hårdkoda vissa faktorer - till exempel vill göra ansiktsigenkänning för att hitta liknande ansikten på samma person - istället för hårdkodande faktorer som avståndet mellan dina ögon eller avståndet mellan ögonen och näsan, den lär sig bara av massor av olika exempel. Och vad vi gör är att vi samlar in som tusen exempel på George Clooney eller tusen exempel på Brad Pitt och maskinen med tiden lär den sig skillnaden mellan de två ansiktena och sedan kan den applicera den på ett ansikte som inte har setts förut .

Jennifer Strong: Något alla vi pratat med för den här serien var överens om är att dessa system fungerar bäst när belysningen är bra och kameror är placerade i ansiktshöjd.

Men med säkerhetskameror är det sällsynt. Det finns också utmaningen med skalan.

Hoan Ton-Det : Hur söker du efter miljarder ansikten eller vektorer på under en sekund? Typisk uppslagning av databaser med namn och e-post. Detta ser upp genom likhet. Och att göra det i stor skala är svårt. Vi var tvungna att skaffa ett eget datacenter också för det. Vanligtvis om du köper ett ansiktsigenkänningssystem, finns det ett kallstartsproblem. Vilka bilder lägger du in där? Så polisavdelningar kan ha sina egna mugshots men de har inte mugshots från andra polisavdelningar. Så det begränsar verkligen användbarheten av det. Och vi insåg precis att det finns biljoner och biljoner webbsidor på internet och på sociala medier och ni vet, nyhetssajter, mugshot-webbplatser.

Jennifer Strong: Vi är bara några kilometer ifrån varandra i New York City, men på grund av pandemin chattar vi över Zoom.

Hoan Ton-Det : Jennifer, jag hade tagit en skärmdump av ett foto på dig tidigare. Har du något emot om jag laddar upp det?

Jennifer Strong : Nej, det är bra.

Jennifer Strong: Och han lägger upp ett gammalt foto från mitt LinkedIn-konto på skärmen.

Hoan Ton-Det : Så, på vänster sida? Ser du den här nya sökknappen där du väljer ett foto? Så det här är den jag ska använda. Oroa dig inte. Ingen kan se skärmen förutom vi (skratt).

Och så det tog, du vet, ungefär en sekund. Och du kan se att det finns en länk som du kan klicka på. Men när vi går igenom det här är, så det är, eh, från Twitter. Kommer du ihåg det här fotot överhuvudtaget?

Jennifer Strong : Ummm nej jag visste inte att det var taget... Jag ser väldigt...

Hoan Ton-Det : Ja. Du gör. Du ser väldigt seriös ut i den där. Ja.

Här håller du ett föredrag på The Wall Street Journal, The Future of Everything.

Jennifer Strong : Ja.

Hoan Ton-Det : Du intervjuar någon här på Duke Health. Så, som jag sa, alla dessa saker är offentligt tillgängliga. Så det är i princip så det fungerar.

Jennifer Strong: Det finns inget ovanligt här. Bara bilder på mig på jobbet som rapporterar berättelser och är värd för paneler i olika städer – även om det är lite jobbigt att hitta foton på mig själv som jag aldrig har sett – och återigen tar det upp den här svåra frågan om samtycke.

Du förstår, jag är osannolikt att markera en ruta som ger tillstånd till företag som Clearview att skrapa min bild och använda den för att bygga upp sina företag.

Saken är den att de inte behöver det.

Vi kommer tillbaka om ett ögonblick direkt efter detta.

Hoan Ton-Det : Det som är unikt med Clearview AI och som gör det lite svårare för människor att förstå, är att bara söka allmänt tillgänglig information.

Jennifer Strong: Och det är här Ton-That gör ett argument som vi kan diskutera och föra i många år framöver: att det öppna internet som vi känner det, inklusive saker som Google-sökningar, inte skulle existera om vi hade satt begränsningar för användningen av onlinedata.

Hoan Ton-Det : LinkedIn är ett miljardföretag, eller biljonföretag Microsoft, de har inte rätt att blockera andra människors tillgång till offentlig data. Så det är en sak som bara är på en intressant plats eftersom det bara söker offentligt tillgänglig information och saker som folk vill ska vara privata. Vi vet att vi inte vill putsa dem över hela internet. Så jag tror att vi har en instinkt för vad vi vill hålla privat och vad vi vill hålla offentligt och så kommer det alltid att vara.

Jennifer Strong: Det är säkert att säga att inte alla håller med honom.

Twitter är bland en mängd företag som skickade Clearview en order om upphörande och avstå från att sluta skrapa deras bilder och radera all deras data. Twitter säger också att deras policyer förbjuder deras data från att användas för ansiktsigenkänning. Med tanke på att han redan har skrapat miljarder bilder, skulle du bli förlåten för att du undrar hur mycket mer information som fortfarande finns där ute för honom att fånga.

Men det är bara toppen av isberget.

Hoan Ton-Det : Vi är fortfarande inte ens 1% av vad som finns där ute när du kör siffrorna, det är lite galet hur mycket information som finns där ute. Så när det kommer till integritet måste vi liksom titta på oss själva och säga, ja, vi delar frivilligt mycket av denna information. Och det kan vara sant, men hur, hur känner vi om det? Vi har ingen privat information som Google eller Facebook har. Google har din plats på Android hela tiden. Facebook känner till alla dina vanor och vad du gillar och vad du inte gillar. Instagram utforska fliken är precis som fenomenal när det gäller att ta reda på vad du gillar, det är lite läskigt, men de vet mycket mer information än vad vi gör. Och vi är bara fokuserade på att försöka ansöka om det bästa, tror vi, för att göra världen mycket säkrare.

Jennifer Strong: Och för honom betyder det att arbeta med polisen.

Hoan Ton-Det : Så redan i många brottsbekämpande myndigheter som använder ansiktsigenkänning har de en procedur som säger att man inte bara kan arrestera någon baserat på en ansiktsigenkänningsmatch. Du måste fortfarande göra uppföljningsforskning. Så det finns alltid en människa i kretsen som kontrollerar är den här personen, rätt person? Har de rätt namn? Bor den personen i samma område där brottet begicks?

Jennifer Strong: Men hur är det med folk som är falskt anklagade?

Ton-Det skulle hävda att det är ett mänskligt misslyckande. På samma sätt är vi fortfarande ansvariga för hur vi kör när vi använder GPS – när navigeringen säger sväng höger och det är inte säkert att göra det – är det upp till oss och våra mänskliga hjärnor att ignorera det.

Och han påminner oss om att folk också har fel.

Hoan Ton-Det : Som ett exempel är mänskliga laguppställningar. The Innocence Project säger att 70 % av de felaktiga fällande domarna kommer från ögonvittnen. Så, du vet, om du är en dålig polis och du vill döma någon för ett brott de inte har begått, kan du typ tycka om att folk väljer den person du vill ha ur en lineup och jag tror att teknik som Clearview kan faktiskt hjälpa till att lägga till mycket transparens och ansvarsskyldighet. Något som vi skulle älska att verkligen titta på är hur det faktiskt kan hjälpa människor att inte bli felidentifierade.

Jennifer Strong: På ett sätt, det här argumentet han gör emot mänsklig dom? Det är samma som används mot att överlämna dessa beslut till AI: det finns fel, partiskhet och rasism. Men där Ton-That inte tror att vi på ett tillförlitligt sätt kan förändra människor, tror han att han har tagit bort dessa saker från sitt system.

Hoan Ton-Det : Och så vi tror att vi helt och hållet har löst problemet med noggrannhet och rasfördomsproblem som har plågat andra företag för ansiktsigenkänning. Och vi vill att andra ska veta att vi verkligen kan ta den här tekniken och använda den.

Jennifer Strong: Dessa är mycket stora påståenden som kanske inte ens är möjliga, och det finns för närvarande inget sätt att verifiera något av det. Clearview har inte tillhandahållit den typ av offentlig tillgång som skulle göra det möjligt för deras system att granskas på samma sätt som Amazon och andra har.

Han säger att företaget gjorde sin egen granskning och satte ihop en oberoende granskningsnämnd som tog ett liknande tillvägagångssätt som när ACLU testade Amazons ansiktsigenkänningssystem genom att köra bilder av den amerikanska kongressen förbi en mugshot-databas – som är foton på personer som har arresterats för ett brott.

Hoan Ton-Det : Och så körde de den här oberoende studien. Men istället för att söka i ett galleri med 25 000 mugshots sökte den i ett galleri med 2,8 miljarder bilder vid den tiden. Och vi gjorde andra statliga lagstiftande församlingar som delstaten New York och Texas. Och vart och ett av resultaten som kom upp var rätt person och de gick igenom dem individuellt.

Jennifer Strong: Ur Clearviews perspektiv betyder detta att tekniken faktiskt kan hjälpa rättssystemet att bli mer rättvist. Han säger att de fick Jonathan Lippman, chefsdomaren vid New York Court of Appeals, att ingå i den granskningspanelen.

Hoan Ton-Det : Och han tror verkligen att om du har något som är mer korrekt så är det bättre för de tilltalade också. De kommer inte att hamna i fängelse för ett brott de inte har begått.

Jennifer Strong: Om Silicon Valley har ett varumärke är det denna teknooptimism om hur deras skapelser kommer att förändra världen, men utan bördan av att vara ansvarig för eventuella oönskade förändringar som kan följa med det.

Kanske det verkligen borde inte vara teknikskaparnas uppgift att oroa sig för vilka typer av insyn, tillsyn och skyddsräcken som behövs för att skydda allmänheten.

Hoan Ton-Det : Jag tycker att det är regeringens och beslutsfattares ansvar att komma med regler och teknikföretag bör ha en plats vid bordet, och det ligger i deras intresse att ha en plats vid bordet. Ibland ser man dåliga policyer antagna för att de inte vet hur tekniken fungerar. Så jag tror att fler teknikföretag kommer att engagera sig i politiken.

Vi har fått mycket uppmärksamhet men vi vet att vi gör rätt. Och jag tror att i det långa loppet är all typ av ny teknik kontroversiell från tryckpressen... och det är bara en del av processen. Valet står inte mellan ingen ansiktsigenkänning och ansiktsigenkänning. Det står mellan ansvarsfull ansiktsigenkänning och ett slags vilda västern.

Jennifer Strong: En grupp som vill hjälpa till att tämja det vilda västern är The Police Executive Research Forum. Den ideella organisationen har ägnat de senaste fyra decennierna åt att hjälpa polischefer att arbeta med nya problem.

Alexa Daniels-Shpall : Användningen av tasers. De använder kroppsburna kameror. Nu tittar vi också på ämnet ansiktsigenkänning.

Jennifer Strong: Alexa Daniels-Shpall leder denna forskning i samarbete med det amerikanska justitiedepartementet.

Alexa Daniels-Shpall : Vi har gjort mycket av den här forskningen inom detta område med målet att utveckla några nationella riktlinjer. De använder det på en mängd olika sätt och de har typ alla utvecklat sina egna procedurer, protokoll och policyer.

Jennifer Strong: Vi kommer in på det nästa avsnittet... Men för nu är det viktiga att hennes forskning tyder på att Clearviews antagande av polisavdelningar kanske inte är så utbrett som påstås. I januari berättade han för New York Times att mer än 600 brottsbekämpande myndigheter har börjat använda hans produkt under det senaste året.

Alexa Daniels-Shpall : Vi har bara sett en handfull som har följt upp med ett formellt kontrakt.

Jennifer Strong: Sammanfattning: polismyndigheter använder Clearview. Men det är stor skillnad mellan att försöka och att köpa.

Alexa Daniels-Shpall : Jag vet att några provade det och sedan bestämde sig för att inte använda det. Och åtminstone några av dem vi pratade med sa att det bara inte fungerade så bra för dem. Och jag tror att det förmodligen beror på, du vet, vad du testar det med och, och precis var du är i landet. För, du vet, jag vet inte att någon har en uppfattning om hur många bilder som kommer upp i olika områden.

Jennifer Strong: Och inte alla polismyndigheter som provade det gjorde det medvetet... eller via officiella kanaler.

Alexa Daniels-Shpall : Cheferna fick reda på att detektiver hade kontaktats av företaget för att testa det. Och de förde det sedan till sina chefer för att säga, hej, vi borde titta på att gå vidare med det. Och cheferna sa typ, vi kommer att stänga ner det för nu, och gå igenom våra normala upphandlings- och utvärderingsprocesser innan vi går vidare. // Det har varit ett slags blandat mottagande skulle jag säga från olika byråer. Och den viktigare frågan skulle vara att ta reda på hur många slags permanenta långtidskontrakt och hur många byråer som har gjort den formella upphandlingen för att skapa en relation med företaget snarare än bara de gratis provperioderna som pågick.

Jennifer Strong: Nästa gång möter vi poliser runt om i USA som använder ansikts-ID...

Dori Koren : Det är lite Hollywoodish men vi gjorde det med flit, det var så vi ville att det skulle kännas. Så tänk dig att gå in i ett stort rum och på framväggen har du den här massiva displayen - alla typer av kameraflöden som ett övervakningsrum, men lite mer högteknologiskt, lite större, lite mer avancerad.

Jennifer Strong: Och ta reda på vilken roll skådespelaren Woody Harrelson och andra kändisar omedvetet spelar när det gäller att namnge polismisstänkta...

Det här avsnittet rapporterades och producerades av mig, med Tate Ryan-Mosely och Emma Cillekens, med särskilt tack till Karen Hao och Benji Rosen. Vi är redigerade av Michael Reilly och Gideon Litchfield. Vår tekniska chef är Jacob Gorski.

Tack för att du lyssnade, jag heter Jennifer Strong.

Dölj