Podcast: Observera, shoppare – du spåras

I vissa butiker spårar sofistikerade system kunder på nästan alla tänkbara sätt, från att känna igen deras ansikten till att mäta deras ålder, deras humör och praktiskt taget sminka dem. Systemen ber sällan om folks tillåtelse, och för det mesta behöver de inte. I vår säsong 1-final tittar vi på explosionen av AI och ansiktsigenkänningstekniker i butikslokaler, och vad det betyder för framtidens shopping.

Vi träffas:

• RetailNext CTO Arun Nair
• L'Oreals teknologiinkubator Global VP Guive Balooch
• Modiface vd Parham Arabi
• Biometrispionjär och ordförande för ID4Africa Joseph Atick

Krediter

Det här avsnittet rapporterades och producerades av Jennifer Strong, Anthony Green, Tate Ryan-Mosley, Emma Cillekens och Karen Hao. Vi är redigerade av Michael Reilly och Gideon Lichfield.

Transkript

[TR ID]

Stark: Återförsäljare har använt tekniker för ansiktsigenkänning och AI-spårning i flera år.

[ Ljud från Face First: Tänk om du kunde stoppa detaljhandelsbrottsligheten innan den inträffar genom att veta när en snattare kommer in i din butik? Och tänk om du kunde veta om förekomsten av våldsamma brottslingar innan de agerar? Med Face First kan du stoppa brott innan det börjar.]

Stark: Det är en av de största leverantörerna av denna teknik till butiker. Den upptäcker ansikten, röster, föremål och hävdar att den kan analysera beteenden. Men system för ansiktsigenkänning har en väldokumenterad historia av felidentifiering av kvinnor och färgade.

[ Ljud från 2019 års kongressutfrågning om ansiktsigenkänning (Ocasio-Cortez): Vi har en teknik som skapats och designats av en demografisk person som bara är mest effektiv på den demografin. Och de försöker sälja den och tvinga den på hela landet?]

Stark: Detta är representanten Alexandria Ocasio-Cortez vid en kongressutfrågning 2019 om ansiktsigenkänning. Fototeknik fungerar bättre på ljusare hud. Och datauppsättningar som används av företag för att träna ansiktsanalyssystem är till stor del baserade på ansikten som samlats in från internet där innehåll tenderar att skeva vitt, manligt och västerländskt.

[ Ljud från 2019 års kongressutfrågning om ansiktsigenkänning (Ocasio-Cortez): Och tror du att detta kan förvärra de redan allvarliga ojämlikheterna i vårt straffrättssystem]

[ Ljud från 2019 års kongressutfrågning om ansiktsigenkänning (Buolamwini): Och det är det redan.]

Stark: Joy Buolamwini är en aktivist och datavetare.

[ Ljud från 2019 års kongressutfrågning om ansiktsigenkänning (Buolamwini): Så det finns ett fall med Mr. Bah, en 18-årig afroamerikansk man som felidentifierades i Apples butiker som en tjuv. Och i själva verket arresterades han felaktigt flera gånger på grund av denna typ av felaktig identifiering.

Stark: I takt med att medvetenheten om dessa problem växer, letar fler ställen efter att sätta restriktioner kring dess användning, till exempel i Portland, Oregon, som nyligen antog det mest omfattande förbudet mot ansikts-ID i USA.

[ Ljud från butik i Portland, Oregon: titta in i kameran för inträde]

Stark: Förbudet träder i kraft i januari och när det gör det kommer rösten och kameran att försvinna från platser som denna mataffär där tekniken låser upp dörren för sena nattshoppare. Men användning på annat håll går långt bortom brottsbekämpning (och börjar spela andra roller i detaljhandeln) som att komma ihåg dina tidigare beställningar och betalningsuppgifter.

Mjölnare: Dessa ansiktsbaserade teknologier, ehh artificiell intelligens, maskinseende tillåter oss att se vår kund i offlinevärlden som Amazon ser sina kunder i onlinevärlden. Det gör att vi kan skapa skräddarsydda upplevelser för kunden och gör det också möjligt för oss att direkt rikta in den kunden på nya sätt när de kommer tillbaka till restaurangen.

Stark: Det är ordföranden för Cali Group, John Miller, dess snabbmatsrestaurang Caliburger provar tekniker som den senare marknadsför till hela branschen. Andra återförsäljare använder ansiktsigenkänning för att veta när VIP-shoppare eller kändisar är i deras butiker, inte olikt den här scenen från filmen Minority Report där Tom Cruise promenerar genom ett köpcentrum, hans ögon skannas och annonserna adresserar hans karaktär med namn.

[ Ljud från Minority Report där röster tilltalar John Anderson personligen]

Stark: Ansiktsmåtten som driver dessa applikationer kan också användas för många andra saker förutom att bara identifiera någon. Till exempel, vissa köpcentra använder det för att hjälpa till att fastställa sina butikshyror genom att räkna hur många människor som går förbi och använda ansiktsdata för att mäta kön, ålder och annan demografi. Ibland är ansiktsigenkänningskameror till och med gömda inuti i köpcentrets kataloger. Och i butiker använder återförsäljare det för att bättre förstå vad shoppare är intresserade av. Det är också inbäddat i shoppingappar och butiksspeglar som låter folk prova allt från glasögon till smink virtuellt.

Jag heter Jennifer Strong och det här avsnittet avslutar vår första säsong (och vår senaste miniserie om ansiktsigenkänning) med en titt på hur den används för att titta på, förstå och påverka dina shoppingvanor.

[VISA ID]

Stark: Så jag står utanför vad som brukade vara den största butiken i världen. Det här är Macy's på 34th Street på Manhattan. Byggnaden fyller ett helt stadskvarter och på något sätt är det typ av tyngdpunkten för julhandeln här som bland annat inspirationen till en av New Yorks mest kända julfilmer, Miracle on 34th Street.

Men företaget kan också ha en historia av att använda ansiktsigenkänning och en stämningsansökan lämnades in om det i Illinois som har en biometrisk integritetslag som kräver att företag ska få tillstånd innan de använder det på kunder. Den stämningsansökan hävdar att Macy's är en klient till ClearviewAI. Vi har haft grundaren på den här showen Hoan Ton-That och hans produkt fungerar genom att matcha bilder, i det här fallet av shoppare eller snattare, mot en databas med kanske miljarder foton tagna från sociala medier publicerade av människor som inte har ändrat sina inställningar för att göra bilderna privata bara för sina vänner.

Nu har New York Citys rådsmedlemmar precis antagit en biometrisk åtgärd här som om den undertecknas av borgmästaren kommer att få återförsäljare här också att berätta för kunder att ansiktsigenkänning används och kanske vad som händer med dessa uppgifter. Men du vet att det är för tidigt att säga hur det kan se ut. Jag menar är det att gå som en del av en stor skara shoppare förbi en väggskylt som säger att ansiktsigenkänning är närvarande, är det lika med att vara informerad, än mindre att ge samtycke? Men jag ska gå in med min producent, Anthony Green, och se om vi kan hitta helt olika tillämpningar av ansiktskartläggning att visa dig.

Flera av dessa skönhetsdiskar har iPads som fungerar som speglar med förstärkt verklighet. Vi provade tre av dem bara en men bad om samtycke för att analysera våra ansikten. Två av systemen såg oss bra genom våra masker. Den andra kände inte igen våra ansikten alls.

Jag gick fram till en spegel och den säger att min belysning är okej. Kom närmare tills ditt ansikte fyller en cirkel. Tydligen har jag mörka ringar, ojämn konsistens. irritation och rodnad och ögonlinjer. Vi är åtminstone på den mindre sidan? Jag vet inte. Oj. Hej Anthony, du borde se det här. Jag var inte säker på att det gjorde någonting och titta nu i spegeln.

Grön: Wow.

Stark: Höger?

Grön: Wow.

Stark: Jag har inte riktigt ord för att beskriva det här, men det är så roligt att se mig själv att det är påhittat.

Grön: Precis som glammad upp.

Stark: Ja. Jag är som superglammad. Och bokstavligen allt jag gjorde var att titta i den här spegeln och sedan tittade jag ner på en iPad och Holy, wow.

Grön: Det här fungerar med din mask på.

Stark: Det här är med min mask på. Och om jag drar ner masken blir jag sminkad överallt.

Grön: Åh ja.

Stark: Som glansad och allt. Åh, titta på dig.

Grön: Wow.

Stark: Okej, så Anthony tog bara ett steg över mot mig och nu har han gjort upp till niorna. Okej. Dessa erfarenheter är bland många många sätt som ansiktskartläggning kan tillämpas på.

Men eftersom de är så kontroversiella vill de flesta varumärken helt enkelt inte prata om det. Och för det mesta behöver de inte. Det finns inget nationellt krav på att företag avslöjar hur de samlar in eller använder vår biometriska data även om vi kan föreställa oss en inte så avlägsen framtid när den informationen blir viktigare än något dokument vi har. Dessa personuppgifter kommer sannolikt att ersätta alla för att bevisa vilka vi är och vad vi äger.

Det mesta av det vi vet om återförsäljarnas användning av ansiktsigenkänning började 2013 när det blev offentligt att identitetsföretaget NEC hade ett dussintal varumärken och hotell som kunder och de använde dess ansiktsavläsningsteknik för att identifiera kändisar och andra VIPs när de gick in genom deras dörrar.

Året därpå meddelade Facebook att det tillämpade neurala nätverk på ansikts-ID för första gången, vilket gjorde att det fungerade betydligt bättre. Och återförsäljare, inklusive Walmart, började testa det som ett sätt att identifiera personer som blivit tagna för snatteri.

År 2016 experimenterade snabbmatsföretag med andra användningsfall. Ett partnerskap, mellan KFC och den kinesiska teknikjätten Baidu, rekommenderade menyalternativ till kunder baserat på deras ålder och humör enligt ansiktsskanning. Nuförtiden är det också möjligt att betala med ansiktet, men än så länge har dessa applikationer inte riktigt hängt med. Och så, var du än handlar, är det rimligt att anta att du kan stöta på någon aspekt av denna teknik och den kan kombineras med hur många andra trackers som helst. Men det är lika sant att mycket av spårningen som görs i butiker med datorseende inte involverar någon ansiktsigenkänning alls.

Nair: Om du bygger en webbplats idag finns det många verktyg tillgängliga som du kan använda för att ge dig data, som hur många personer som besökte din webbplats, vilka de var, hur de navigerade på din webbplats och så vidare och för e-handelssajter. även eventuell köpaktivitet. Och du kan använda all denna information för att förstå besökarnas beteende och optimera din webbplats. Vi gör exakt samma sak, men för fysiska utrymmen. Jag heter Arun Nair. Jag är CTO och medgrundare av RetailNext.

Stark: Deras spårningsprogram används på kontor, museer, till och med bowlingbanor, men deras primära marknad är detaljhandeln. Takkameror utrustade med datorseende spårar kunder när de färdas genom butiken. Det kan gissa grundläggande demografisk information som kön, vem som är anställd – baserat på om de går bakom registret, till och med interaktioner mellan anställda och kunder.

Nair: Vi har till och med en förutsägelsealgoritm som kommer att berätta för dig baserat på historisk information när din butik kommer att vara upptagen senare på dagen, senare i veckan. Och det är oerhört användbart för bemanningen. Så se till att när du förväntar dig en topp, att det finns folk där för att hjälpa shoppare och de inte står i kö och så vidare samt att du inte alltid är bemannad när ingen behöver vara där.

Stark: Han säger att företaget kan avgöra vad du tittar på, men det spårar inte ögonblick, uttryck eller ansikten. Och de identifierar inte någon individuellt.

Nair: Vi vet inte vilka de är som individer, och vi försöker specifikt att inte göra det lika bra. Och i faktiskt många fall, när vi väl fått den informationen, slänger vi videon eller så suddar vi videon.

Stark: När det gäller integritet, anser han att system som använder ansiktsigenkänning för identitet bör vara opt-in

Nair: Samtycke handlar inte bara om, Åh, jag lägger ut mina uppgifter så att du kan göra vad du vill. Jag tror att samtycke också handlar om att du vet, vi vill att du gör detta så att vi kan göra detta i gengäld för dig. Är du okej med det?

Stark: Men han medger att det är lättare sagt än gjort.

Nair: Det är inte lätt att välja bort de sakerna. Och även om du väljer bort det, är utmaningen att låt oss säga att du säger det, Hej, jag vill välja bort mitt ansikte. Som ett teknikföretag måste jag fortfarande lagra en digitaliserad version av ditt ansikte för att se till att jag inte spårar dig igen i framtiden för nästa gång jag ser ditt ansikte behöver jag något att kartlägga för att säga att, Åh, jag borde tappa den här personens ansikte. Men igen, du vet, på ett konstigt sätt, jag lagrar nu en digitaliserad version av ditt ansikte, vilket. Återigen, det är inte riktigt ditt ansikte, men det är en representation av det.

Stark: Och dessa utmaningar försvinner inte. De flesta spårningstekniker är inte reglerade, och vi vet helt enkelt inte hur ofta saker som ansiktsdata fångas. Det som är tydligt är att detaljhandeln håller på att flyttas till en värld som är centrerad kring realtidsanalys av kundupplevelser.

Nair: Jag tror att de kommer att se mer och mer av det framåt, där det faktiskt sker färre köp på dessa platser, men det är ungefär så man lär sig om varumärket. [00:12:15] Nästan som reklam, liksom att bygga upp en varumärkeslojalitet.

Stark: Att spåra kunder och deras interaktion med butiken hjälper inte bara återförsäljare att veta vad som säljer, det ger dem också insikt om vad kunderna vill ha.

Nair: Du introducerar en ny produkt. Och du vill se till att folk ser den produkten. Våra algoritmer kommer att berätta om folk faktiskt går in i ett område i butiken och interagerar med en produkt och faktiskt gör ett köp efteråt.

Balooch: Jag tror att det är en kombination av AI med fysiska föremål som verkligen skapar ett spännande ögonblick. Du vet, du skulle aldrig riktigt kunna prova en trend och sedan faktiskt avstå från den. Det var aldrig möjligt. Men nu på grund av AI kan vi verkligen gå igenom trender väldigt snabbt. Vi kan kurera trender, vi kan ge människor vad de önskar. Jag heter Guive Balooch och driver den globala teknikinkubatorn på L'Oreal. Jag har varit på företaget i 15 år och mitt jobb är att hitta skärningspunkten mellan skönhet och teknik.

Stark: L’Oreal är världens största kosmetikaföretag med Estee Lauder, Maybelline, Garnier och otaliga andra konsumentvarumärken under företagets paraply.

Balooch: Vi började för ungefär åtta år sedan med en augmented reality-app som heter makeup genius. Det var världens första virtuella prova på. Och sedan dess har vi lanserat projekt kring personlig skönhet som anpassning av hudvård, anpassning av foundation. Vi har lanserat en UV-sensor i Apple Store som är en bärbar enhet som inte har något batteri och som kan mäta din UV-exponering. Och nu är vi, vi går mer och mer mot masspersonalisering och att hitta sätt att kombinera teknologier som AR och AI för att skapa nya fysiska objekt som kan vara magiska för skönhetskonsumenter och förhoppningsvis glädja våra användare.

Stark: Och det här är svårare än det kanske låter. Att designa upplevelser som låter kunder prova smink i förstärkt verklighet innebär enorma tekniska utmaningar för ansiktsdetektion.

Balooch: Du måste upptäcka var ögat är och var ögonbrynet är. Och det måste vara på en nivå av noggrannhet att när produkten finns där, ser det inte ut som att den inte är precis på din läpp. Och det är, det är roligt eftersom jag kommer från en akademisk bakgrund med en doktorsexamen. Så jag insåg inte hur komplicerad den specifika delen av den här tekniken är. Jag tänkte, Åh, det är okej. Vi ska bara hämta programvaran. Det blir lätt. Vi får det bara att fungera. Men det visar sig nej, det är verkligen komplicerat eftersom människors läppar kan variera i form, färgen mellan din hudton och din läpp kan också vara väldigt olika. Och så du måste ha en algoritm som kan upptäcka det och se till att det fungerar på människor från mycket ljus till mycket mörk hud.

Stark: Och han säger att en av de största effekterna av AI på skönhetsmarknaden kan vara mer inklusivitet – något som branschen länge har kämpat med.

Balooch: Jag är under denna, du vet, starka övertygelse om att inklusivitet är framtiden för skönhet och inkludering betyder att varje människa har rätt att ha en produkt som är vad de behöver för sig själva och att visa upp för världen hur de vill vara visat upp. Och jag tror att endast genom saker som AI och teknik kommer vi att kunna nå den nivån av personlig relation med människors önskemål om sina skönhetsvanor.

Stark: Dessa vanor formas runt vår hud. Och hudtonen har historiskt sett varit en av de svåraste tekniska och kulturella utmaningarna.

Balooch: Vi lanserade detta projekt som heter som är denna foundation blender. Och när jag först började det här projektet trodde jag att det skulle bli väldigt enkelt för när jag gick till Home Depot umm jag är egentligen ingen hantlangare, men jag följde med min, min pappa mycket till Home Depot och han skulle köpa måla. Han skulle matcha färgen och de skulle bara göra färgen där. Och jag sa, okej, det är så lätt? Så när vi först startade projektet insåg vi, okej, du vet, du tar bara en hudton från ett stycke, du vet, ett papper och du kan bara matcha foundationen. Och jag insåg senare att vår hud inte är som en vägg, det är biologisk vävnad som förändras beroende på vilken typ av hudton du har.

Stark: Kort sagt, algoritmen fungerade inte.

Balooch: Så vi var tvungna att sluta och spendera ytterligare sex månader för att förbättra det. Först gjorde vi det med en liten enhet som mäter din hudton, med hjälp av ett fysiskt föremål, eftersom din hudton är svår att mäta om du faktiskt inte rör huden eftersom ljuset kan ändra färgen på din hud. Och så beroende på om du är ute eller om du är inne, kan du ha stor skillnad i måttet. Men inte längre. Tack vare AI tror jag att vi mer och mer med AI kommer att kunna få exakta mätningar. Vi måste testa dem och se till att de fungerar lika bra som föremål. Men när vi väl kommer till en punkt, när vi tror att vi närmar oss det, då kan du lösa några riktigt, riktigt stora utmaningar. Och inom foundation kan 50 % av kvinnorna inte hitta rätt nyans av foundation. Och det finns inget sätt att antalet produkter på hyllan någonsin kommer att lösa det eftersom du alltid kommer att ha fler hudtoner i världen än produkter du kan lägga på hyllan.

Stark: Och framtiden kan öppna upp en helt ny klass av personliga skönhetsverktyg.

Balooch: Vi kan göra föremål som, ni vet, inte är enorma – handhållna – och som kan göra otroliga saker. Precis som i framtiden kan du tänka dig att du kan fördela ögonskugga på ditt ögonlock automatiskt bara genom att upptäcka ansiktet och kunna ha ett föremål som kan dispensera det.

Stark: För att bygga den framtiden förvärvade L'Oreal ett företag som heter Modiface som tillverkar verktyg för augmented reality för mer än 70 av världens främsta skönhetsmärken.

arabiska: Ett stort steg som hände för några år sedan var att gå från foton till live-videosimulering. Riktigt svårt tekniskt sett, men verkligen inflytande på konsumentupplevelsen. Istället för att behöva ta ett foto och ladda upp det kunde de se en livevideo.

Stark: Parham Aarabi är grundare och VD för Modiface.

arabiska: Nästa stora steg som jag ser att jag är väldigt exalterad över är en kombination av AI-förståelse av ansiktet, tillsammans med vår simulering. Så inte bara säga till dig, okej, så du väljer ett läppstift och så här ser det ut, utan säger, för att du valde det här läppstiftet och för att du, du vet, du har blå ögon, tror vi att den här ögonskuggan kan matcha den bäst.

Stark: Hans bakgrund är i ansikts- och läppspårning.

arabiska: Och så hade vi skapat den här provdemon där du till exempel kunde spåra någons läppar och byta läpparna med en kändis. Min medgrundare hade idén att innan vi gör detta borde vi faktiskt göra några förändringar på huden. Och så var det egentligen kombinationen av dessa två idéer som blev grunden för Modiface.

Stark: Skönhetsbranschen frodas på den personliga shoppingupplevelsen. Och även om e-handelsförsäljningen länge har ökat har denna sektor varit mycket långsammare än andra. För sammanhanget var den bästa e-handelssäljaren inom skönhet 2018 schampo. Men pandemin skyndar på saker och ting. Onlineförsäljningen hos skönhetsjätten Sephora ökade med 30 procent i USA i år. Och det har också samarbetat med Modiface för att utveckla en app som fungerar som en virtuell butik, komplett med produkthandledningar och en skönhetsdisk för augmented reality.

arabiska: Du ser en prova-på-knapp, du trycker på den och ett fönster öppnas. Du ser din egen video i det fönstret, men med olika virtuella produkter som visas.

Stark: Och att bygga konsumenternas förtroende för dessa simulerade produkter innebär att skapa en upplevelse lika sömlös som att titta i en spegel.

arabiska: Om någon faktiskt provar ett läppstift och en hårfärg och sedan filmar sig själva mot att använda vår teknik och sedan har en virtuell simulering av dessa produkter, borde de två inte kunna skiljas åt. Fördröjningen inom simuleringen som tillämpas jämfört med när du tittar på ditt ansikte och du ser rörelser behöver inte vara uppenbara för användaren. Och det är alltså enorma utmaningar. Den ena är av realism. Du vill inte att eyelinern ska flimra på någons ögon och det andra är att göra det så snabbt att du inte märker någon fördröjning på en webbplats i livevideo. Så det här är stora, stora utmaningar.

Stark: Och det är mer än bara kosmetika. Inslag av ansiktsdetektion används i allt större utsträckning inom medicin för att diagnostisera sjukdom. Och han tror att deras produkter i framtiden kommer att upptäcka alla typer av hudsjukdomar.

arabiska: Så vi har drivit på den här hudbedömningen, um, riktning genom att titta på någons bild. Och baserat på det, att veta vilka hudvårdsprodukter som är bäst för dem, och mer, ju mer vi gör detta och ju mer vi tränar våra AI-system, finner vi att de ökar i nivån av noggrannhet som matchar den hos hudläkare . Och jag tror att om du följer den linjen, att denna AI, som faktiskt inte kan ersätta hudläkare, men verkligen hjälpte dem som... ett objektivt verktyg som kan titta på någons ansikte och ge rekommendationer.

Stark: Det känns som att det finns mer medvetenhet om ansiktsigenkänning av dess risker, omognader och fördomar men också dess ökade närvaro i våra liv och bara rå potential. För mig verkar det som om vi precis har skrapat på ytan - i denna röriga digitala race mot något annat och stort. Och det fick mig att undra hur en av dess uppfinnare kan tänka på allt detta?

En fästing: Jag började arbeta med den mänskliga hjärnan ungefär ett år efter att jag tog examen och gjorde tillsammans med mina, samarbetspartners några grundläggande genombrott, vilket ledde till skapandet av ett fält som kallas den biometriska industrin och den första kommersiellt gångbara ansiktsigenkänningen. Det är därför folk hänvisar till mig som en grundare av ansiktsigenkänning och den biometriska industrin.

Stark: Det är Dr Joseph Atick. Han utvecklade en av de första ansiktsigenkänningsalgoritmerna redan 1994.

En fästing: Algoritmen för hur en mänsklig hjärna skulle känna igen bekanta ansikten blev tydlig medan vi gör matematisk forskning vid Institutet för avancerade studier i Princeton.

Stark: Men tekniken som behövs för att fånga dessa ansikten fanns ännu inte i allas fickor.

En fästing: På den tiden hade datorer inga kameror. Telefoner som hade kameror fanns inte. Vi var tvungna att bygga ögonen för hjärnan. Vi hade en hjärna, vi trodde att vi visste hur hjärnan skulle analysera signaler, men vi hade inte ögonen som skulle få informationen och den visuella signalen till hjärnan.

Stark: Webbkameror kom på 90-talet och datorer med videofunktioner kom på marknaden några år efter.

En fästing: Och det var en spännande tid för helt plötsligt hade hjärnan som vi byggt äntligen det par ögon som skulle behövas för att se.

Stark: Detta var genombrottet som han och hans team behövde för att förverkliga sitt koncept. Så de började koda.

En fästing: det var en lång period av månader av programmering och misslyckande och programmering och misslyckande

Stark: Men till sist…

En fästing: Och en natt, tidig morgon, faktiskt, hade vi precis slutfört, um, en version av algoritmen. Vi skickade in källkoden för kompilering för att få en körkod. Och vi klev ut, jag klev ut för att gå till toaletten. Och sedan när jag klev tillbaka in i rummet såg den mitt ansikte, drog ut det från bakgrunden och det uttalade att jag ser Josef. Och det var ögonblicket då håret på ryggen – jag kände att något hade hänt. Vi var ett vittne. Och jag började, um, att kalla på de andra människorna som fortfarande var i labbet och var och en av dem, de skulle komma in i rummet. Och jag skulle säga, det skulle säga, jag ser Norman. Jag skulle träffa Paulus, jag skulle träffa Josef. Och vi turas om att springa runt i rummet bara för att se hur många den kan se i rummet.

Stark: De hade byggt något som aldrig hade byggts förut. Månader av matematik och kodning och långa nätter verkade ge resultat. Men inom några år övergick den spänningen till oro.

En fästing: Min oro över tekniken som jag hjälpte till att skapa och uppfinna började väldigt snabbt efter att jag hade uppfunnit den. Jag såg en framtid där vår integritet skulle äventyras om vi inte införde skyddsåtgärder för att förhindra missbruk av denna kraftfulla teknik.

Stark: Och han ville göra något åt ​​det.

En fästing: Så 1998 lobbade jag branschen och jag sa att vi måste sätta ihop principer för ansvarsfull användning. Och det är här en organisation som heter IBIA föddes 1998 som en branschorganisation för att främja ansvarsfullt användande. Och så jag var grundaren av den där organisationen. Och jag mådde bra ett tag för jag kände att vi har fått det rätt. Jag kände att vi har uppfunnit tekniken, men sedan införde vi en ansvarsfull användningskod som ska följas av vad som än är implementeringen. Den koden levde dock inte tidens tand. Och anledningen bakom det är att vi inte förutsåg uppkomsten av sociala medier.

Stark: Ansiktsigenkänning bygger på en databas med bilder. Storleken, kvaliteten och integritetsvillkoren för denna databas är till stor del det som avgör hur säker eller påträngande tekniken är. 1998 byggde Atick sina databaser genom att manuellt skanna tusentals bilder och märka dem med namn. Det var tråkigt och begränsande i storlek.

En fästing: Vi har släppt odjuret ur påsen genom att mata det miljarder ansikten och hjälpa det genom att tagga oss själva. Vi är nu i en värld där maskininlärning nu tillåter uppkomsten av över 400 olika algoritmer för ansiktsigenkänning i världen. Därför är varje hopp om att kontrollera och kräva att alla ska vara ansvariga i sin användning av ansiktsigenkänning svårt.

Stark: Och detta förvärras av skrapning, där en databas skapas genom att hela internet skannas efter offentliga bilder.

En fästing: Och så jag började få panik 2011, och jag skrev en artikel som sa att det är dags att trycka på panikknappen eftersom världen är på väg i en riktning där ansiktsigenkänning kommer att vara allestädes närvarande och ansikten kommer att vara tillgängliga överallt i, i, i databaser. Datorkraften blir väldigt, väldigt massiv till den grad att vi potentiellt kan känna igen miljarder människor. Och vid den tiden sa folk att jag var en alarmist, men de inser att det är precis vad som händer idag.

Stark: Så på ett sätt lobbyar han mot sin egen uppfinning, även om han fortfarande använder biometri för att bygga saker som han tror kan gynna det större goda som digitalt ID för människor i utvecklingsländer.

En fästing: Den kylande effekten är något som är oförlåtligt. Om jag inte kan gå ut på gatan, eftersom jag tror att någon använder en iPhone, skulle jag kunna ta en bild på mig och koppla mig till min onlineprofil, och den här online- och offline-anslutningen är en farlig sak. Och det händer just nu.

Stark: Och han tycker att vi akut behöver några juridiska grundregler.

En fästing: Så det är inte längre en teknisk fråga. Vi kan inte innehålla denna kraftfulla teknik genom teknik. Det måste finnas någon form av rättsliga ramar.

Stark: Som han ser det kommer den tekniska fördelen att fortsätta att driva framåt – med AI i spetsen. Men människorna som bygger och använder den? De står i centrum.

En fästing: Jag tror att det måste finnas en viss harmoni mellan vad teknik kan göra för oss och hjälper oss att leva med värdighet och få enklare liv och få kontakt med de människor vi älskar, men samtidigt måste det vara inom vad vår moral och våra förväntningar som människor tillåter det att vara.

Stark: Med andra ord, än en gång... det verkar upp till oss. Det här avsnittet rapporterades och producerades av mig, Anthony Green, Emma Cillekens, Tate Ryan-Mosley och Karen Hao. Vi är redigerade av Michael Reilly och Gideon Lichfield. Tack också till Kate Kaye med Podcasten Banned in PDX. Det är det för säsong ett. Tack så mycket för att du valde att spendera din tid med oss. Vi träffas igen här på det nya året tills dess glada helger och... Tack för att du lyssnade, jag heter Jennifer Strong.

[TR ID]

Dölj