Podcast: Ansiktsigenkänning används i tysthet för att kontrollera tillgången till bostäder och sociala tjänster

Teknik för ansiktsigenkänning används i bostadsprojekt, härbärgen för hemlösa, skolor, till och med över hela städer – vanligtvis utan mycket fanfar eller diskussion. För vissa representerar detta en kritisk teknik för att hjälpa utsatta samhällen att få tillgång till sociala tjänster. För andra är det ett flagrant intrång i privatlivet och kränkning av mänsklig värdighet. I det här avsnittet talar vi till förespråkarna, teknologerna och dissidenterna som tar itu med de röriga konsekvenserna som kommer när en teknik som kan identifiera dig nästan var som helst (även om du bär en mask) används utan någon tydlig spelbok för att reglera eller hantera Det.

Vi träffas:

• Eric Williams, senior personal advokat vid Detroit Justice Center
• Fabian Rogers, samhällsförespråkare vid Surveillance Technology Oversight Project
• Helen Knight, grundare av Tech for Social Good
• Ray Bolling, VD och medgrundare av Eyemetric Identity Systems
• Mary Sunden, verkställande direktör för Christ Church Community Development Corporation

Krediter

Det här avsnittet rapporterades och producerades av Jennifer Strong, Tate Ryan-Mosley, Emma Cillekens och Karen Hao. Vi är redigerade av Michael Reilly och Gideon Lichfield.

Transkript

[TR ID]

Stark: Så jag är på nedre Manhattan bredvid några byggnader som kallas Knickerbocker Village. Du kanske hör tunnelbanan springa upp där ovanför. Så historieintresserade kanske känner till denna plats som en slags födelseplats för bostadsrättigheter. Några av New York Citys första bestämmelser om hyresbostäder kom att existera här på grund av hyresgästföreningen. Dessa byggnader var också bland de allra första federalt finansierade bostäderna till överkomliga priser. De är ungefär 90 år gamla och byggdes för att stödja en ny medelklass efter den stora depressionen. Men anledningen till att jag är här är för att det också är bland de allra första lägenhetskomplexen i New York City att installera ansiktsigenkänning istället för nycklar. Och det här är inte nyligen heller. Det var ungefär sju år sedan efter att orkanen Sandy slet genom området, gjorde otrolig skada och orsakade fruktansvärda översvämningar. Och det var i dessa reparationer som lägenheterna fick en del uppgraderingar, inklusive detta nyckellösa inträdessystem vid alla portar som använder ansikts-ID.

Och du vet, det ser inte superskillt ut från de vanliga samtalsboxarna som låter dig surra någon och jag undrade lite hur lätt de skulle vara att upptäcka, men det är faktiskt superlätt av några anledningar. En är att dagarna är korta nu. Och så det är lite mörkt här ute och alla ingångspunkter har dessa riktigt ljusa spotlights som lyser på dem, antar jag, för att lysa upp människors ansikten och göra det lättare för systemet att upptäcka dem. Den andra är den här typen av rolig liten dans, kanske är det som en lutning i lutande rörelse som några av folket som försöker ta sig in i lägenhetshuset gör när de kommer närmare dessa kameror. Det är ganska kyligt här ute. Så jag antar att de försöker få dörren att låsas upp snabbare.

Stark: Problem med den här inställningen.. är inte nya. Det är väldokumenterat att ansiktsigenkänning ofta inte fungerar lika bra på icke-vita ansikten... vilket förklarar varför vissa invånare har haft svårt att få tillgång till den här byggnaden. Det har också låst upp dörren till ansikten på icke-invånare tidigare. I framtiden kan användningen av denna teknik komma att regleras... men för närvarande är hur och var den används fortfarande ett vilda västern. Jag heter Jennifer Strong och som en del av vår senaste miniserie om face I-D kommer vi att titta på användning i bostäder och en massa svåra frågor som väcker.

[VISA ID]

[ Ljud från Grönt ljus meddelande : och jag välkomnar er alla idag till huvudkontoret för offentlig säkerhet i Detroit för detta spännande tillkännagivande av Project Green Light Detroit.]

Stark: Det var 2016... och födelsen av vad som skulle bli ett av de mer kontroversiella övervakningsprojekten i USA.

[ Ljud från Grönt ljus meddelande : Våldsnivån i den här staden är inte acceptabel.]

Stark: I decennier har Detroit, Michigan, listats bland de mest våldsamma städerna i landet. Det här är Mike Duggan - stadens borgmästare.

[ Ljud från Grönt ljus meddelande : Men om vi inte gör något annorlunda så kommer vi inte att ändra banan.... och så hur många gånger har du sett på TV om du känner igen den här personen ringer in och det finns en så grynig bild har du ingen aning om . Det kan vara din egen bror och du skulle inte veta av den bilden...]

Stark: Och så, de provade något nytt... ett samarbete mellan polis och lokala företag... med den senaste tekniken.

[ Ljud från Grönt ljus meddelande : ...och vi sa.. tänk om vi gick till några bensinstationer, som anmälde sig frivilligt, och satte en standard att du tänder din bensinmack hela vägen till omkretsen så starkt att du kan läsa en tidning. Och sedan och du sätter sådana högupplösta färgkameror och sätter i en internetanslutning kommer vi att övervaka det i realtid på polisens högkvarter.]

Stark: med andra ord...privata företag betalar för att installera kameror av högsta kvalitet som streamar livevideo tillbaka till polisens högkvarter... och i gengäld får de mer tid och tjänster från polisen.

[ Ljud från Grönt ljus meddelande (Borgmästare Mike Duggan): … ok så det är på den skärmen där]

Stark: Nästa... han visar folk på presskonferensen hur det här systemet fungerar.

[ Ljud från Grönt ljus meddelande (Borgmästare Mike Duggan) : men jag vill att du ska se synligheten. [wow!] Det är vad våra poliser tittar på på övervåningen i realtidskriminalcentret just nu. De kan se dussintals skärmar samtidigt ... jag menar hur mycket annorlunda är detta.]

Stark: Och som du kan höra från publikens reaktion är kvaliteten på den här videon en total game changer.

[ Ljud från Grönt ljus meddelande (Borgmästare Mike Duggan ): Det här är vad vi ska göra över hela staden…. Och den andra saken är...Vi har mjukvara för ansiktsigenkänning som kommer härnäst. Vi kommer att kunna... inom alltför lång tid... matcha utestående teckningsoptioner mot dessa kameror... Så här ser det ut på natten. Ta en titt. klockan 10 på natten. Du kan se hur stark belysningen är. Och det är därför det var så viktigt att vi har belysningsstandarderna utöver kamerastandarden.]

Stark: Idag täcker Project Green Lights kameror hundratals butiker... De är också riktade mot allmännyttiga bostäder... skolor... och transporter. Men när det började för fem år sedan var det bara en handfull bensinstationer.

[ Ljud från Grönt ljus meddelande : Så det föll på oss som småföretagare att vara den katalysatorn. För att Detroit ska vara en fantastisk stad och komma tillbaka... kvarteren ska komma tillbaka. De måste vara säkra. Allmän säkerhet är en rättighet för alla medborgare i staden Detroit och vi är hedrade över att vara en del av det]

Stark: På den tiden fanns det mycket stöd för Project Green Light... många såg det som att samhället gick samman... arbetade med varandra och med polisen för att ta tillbaka dess gator...

[ Ljud från Grönt ljus meddelande : Project Greenlight är goda nyheter. Och inte bara för vår polis, utan det är goda nyheter för vårt samhälle. Vi borde fira det. Vi borde stödja det. Vi borde utöka det. När folk pratar om stadsdelar som vi inte gör tillräckligt för grannskap, måste du berätta för dem om det här programmet. Detta är andan i Detroit. Det här gjorde bara mitt jobb så mycket enklare och om jag kan ha en video av brottet som begås... Jag har precis vunnit mitt fall. (applåder)]

Stark: Men när jag ser tillbaka är det inte så enkelt.

Williams: Det finns absolut inga som helst bevis för att projektet Green Light har lett till en minskning av brottsligheten i Detroit.

Stark: Eric Williams är en senior advokat på den ideella advokatbyrån... Detroit Justice Center.

Williams: i termer av dess framgång med de första åtta stationerna, var det en avsevärd minskning av brottslig aktivitet på dessa platser från år till år, eftersom dessa åtta platser är resultaten mycket mindre tydliga.

Stark: Och aktivister inklusive Williams har andra bekymmer med detta projekt.

Williams: Ironiskt nog är projektet Green Light något som jag blev involverad i innan jag faktiskt gick till Detroit justice center. Jag var bara, mina känslor är bara förolämpade av själva existensen. Jag har problem med den typen av polisövervakning.

Stark: Hans huvudsakliga stridspunkt?

Williams: Problemet som jag har med Project Green Light i synnerhet är den totala bristen på transparens, eller hur? Till exempel användes ansiktsigenkänningsteknik i samband med Project Green Light i nästan två år innan folk verkligen visste något om det.

Stark: Han säger att allmänheten inte riktigt förstod vad som hände. Att deras kommer och går skulle livestreamas till polisens högkvarter från hundratals platser runt staden... och deras ansikten kunde skannas och identifieras. Fast, som ni hörde, var staden ganska tydlig från lanseringsdagen att den planerade att använda ansiktsigenkänning. Den tillhandahåller också en allmän karta med var alla dessa kameror finns... och det finns skyltar, ofta med ett pulserande grönt ljus, som markerar deras närvaro. Men... hur många uppmärksammar egentligen lokala myndigheter som talar om offentlig-privata partnerskap? Och vad skulle samtycke innebära i detta sammanhang? Det finns lite val när ditt hem, jobb, skola och lokala butiker... alla är omgivna av dessa kameror...

[ Ljud från protester i Detroit: skanderar]

Stark: Under sommaren... kokade spänningarna mellan Detroit-medborgare och polisen till ytan. Och... en av de viktigaste önskemålen?

[ Ljud från protester i Detroit: Detta är våra kollektiva krav... Den andra är... att bli av med Project Green Light...]

Williams: Vi skulle till exempel vilja se en lagstiftning som förbjuder användningen av ansiktsigenkänningsteknik i allmännyttiga bostäder. Som just nu projekt Green Light är på offentliga bussar, är i offentliga skolor och faktiskt på platser där fattiga människor är oproportionerligt sannolikt att ha rätt, det är så det fungerar. Så vi skulle vilja se om inte annat, ett moratorium för dess användning av brottsbekämpande myndigheter.

Stark: Men ansiktsigenkänning smyger sig inte bara in i allmännyttan via polisen. I takt med att teknikens popularitet ökar och kostnaden för att skaffa den sjunker, vill hyresvärdar, stora som små, installera den som ett sätt att öka säkerheten eller presentera fastigheten som att den har de senaste uppgraderingarna och bekvämligheterna som nyckellöst inträde. Ansiktsigenkänning är inte reglerat, så vi vet helt enkelt inte hur ofta det används eller om dessa användningar är effektiva. Men vi träffade en hyresgäst som åtminstone för tillfället har stoppat sin hyresvärd från att installera ett system som låser upp dörrar med ansikten istället för nycklar .

Fabian: Jag kommer från Atlantic Plaza Towers. Där vår hyresvärd försökte installera ansiktsigenkänning i byggnaden

Stark: Fabian Rogers är hyresgäst och samhällsförespråkare i New York City.

Fabian: Så jag är här och talar för dem som vanligtvis inte har tid eller pengar att göra det.

Stark: Atlantic Plaza är ett hyresstabiliserat bostadskomplex i Brooklyn. För två år sedan hittade han en notis i sin brevlåda om förbättringar av byggnaderna.

Fabian: Vi visste inte vad vi hade att göra med vid den tiden då alla gjorde bakgrundsforskning för att försöka förstå vad det var som hyresvärden försökte lägga in, för det här var inte din typiska stora kapitalförbättring där han bara försöker ändra markiser på byggnaden eller försöker uppdatera terrasserna. Han försöker sätta in ansiktsigenkänning längst fram. Och så det blir obligatoriskt att behöva använda tekniken om den skulle användas och installeras i varje byggnad.

Stark: Tillsammans med mer än hundra andra hyresgäster... bestämde han sig för att slå tillbaka.

Fabian: De farhågor som vi hade som hyresgäster handlade inte om mer säkerhet eller mer övervakning. Vi övervakades redan i vår byggnad som den är med 24, 24-7 HD-inspelningskameror i varje skrymsle och vrår av dessa byggnader förutom i våra lägenheter och brandtrappan. Vi förstod bara detta som ytterligare ett verktyg för att tjata med vår livssituation. Detta var inte bara att välkomna en ny teknik som kommer att hjälpa våra liv att bli bättre. Det var aldrig den typen av situation.

Stark: De organiserade sig själv och skickade ett brev till förvaltningsbolaget där de motsatte sig kamerorna.

Fabian: Till denna dag har vi aldrig fått något svar tillbaka.

Stark: Och detta störde dem. Så de tog hjälp av en advokatbyrå... och de fick ett möte med hyresvärden.

Fabian: Vad är syftet med att du installerar den här tekniken? Som, vad är syftet med det här för oss? Hur är det med fallet med en polis som vill ha stämningar? Och de upptäcker att de har en misstänkt i byggnaden. Nu, vad, liksom, vad databaser är, är den här tekniska åtkomsten, vad delar den? Vad sparar det? Hur sparar det? Vem ger den uppgifterna till? Och sådana saker, alla dessa etiska frågor och logistiska frågor... de hade till och med lindat sina huvuden runt det. De fastnade precis som om vi fick lite ny teknik från ett nystartat företag. Vi vill försöka genomföra det så vi kan försöka få några nya hyresgäster som är villiga att betala en högre hyra.

Stark: Till slut var kamerorna inte installerade. Men det betyder inte att problemet är löst. Säkerhetsprojekt som det här kan få finansiering från det amerikanska departementet för bostads- och stadsutveckling, men det spårar inte om ansikts-ID används eller hur. Och hyresvärdar kan i stort sett göra vad de vill med det.

Fabian: Och det är bara läskigt. Och återigen, allt detta händer för att det saknas lagstiftning. Jag är inte en kämpe mot teknisk innovation. Det är inte vad jag säger här. Vad jag säger är att vi måste ifrågasätta kontextualiteten i vilken vi använder ny teknik som, ni vet, sprider sig och som används i samhället. Är de verkligen etiska? Är de verkligen bättre än de lågteknologiska lösningarna som vi har? Är techno-solutionism alltid svaret på frågan, på frågan och för boende tror jag personligen inte det.

Stark: Det finns lagstiftning inför parlamentet och senaten som skulle sätta en paus i användningen av identitetsteknik i bostäder som stöds ekonomiskt av den federala regeringen. Det kallas No Biometric Barriers to Housing Act. New York City överväger också att komma med egna regler om biometriska data, bostäder och hyresvärdar, men generella förbud är bekymrade för vissa. Inklusive några personer vi träffade som tillhandahåller bostäder till hemlösa.

Riddare: Jag tror att vi förlorar en hel kategori av ett sätt att tjäna och stödja människor som inte har förtroende, men som behöver hjälp.

Stark: Helen Knight är grundaren av en candian startup som arbetar med ideella organisationer. Det kallas tech for social good dot c-a. Hon hävdar att det finns en stark användning av ansikts-ID för att hjälpa utsatta samhällen.

Riddare: De är offer för brott. De har nyligen vräkts från sitt hem. De är i en krissituation och det är helt rimligt att de inte har körkort. Har inget pass. Har ingen form av bild-ID. De behöver hjälp idag. Så du kan inte avvisa dem. Du ska inte avvisa dem. Avsikten är att ge dem service.

Stark: Men för att göra det effektivt måste härbärgen kunna visa hur många olika människor som använder deras tjänster och vilka dessa människor är... Det är hur de finansieras. Det är också hur de kopplar människor till sociala tjänster och andra program.

Riddare: Som det ser ut just nu ligger ansvaret på den person som är mitt i en krissituation att formulera sitt exakta behov, menar jag, utan att ha ett faktiskt sätt att identifiera vad deras resa genom systemet har varit och se var de har varit till andra anläggningar eller matbanker eller medicinska program, då är det bara, det är bara jag som står framför dig och berättar min historia om och om igen, berättar för dig om traumat i mitt liv. Och hoppas att jag säger de magiska orden som slutar med att jag skaffar ett hus.

Stark: Hon riktade användningen av den här tekniken för ett härbärge för hemlösa i staden Calgary... och hon säger att alla tillgängliga identifieringsmetoder har problem.

Riddare: Så det fanns en anläggning som använde fingeravtrycksidentifiering, eh, i över ett decennium och i stort sett fungerar det bra. Det fungerar inte helt, beroende på personerna i skyddsrumsanläggningen. Det fungerar inte riktigt på kalla fingrar där det inte fungerar på smutsiga fingrar. Det fungerar inte på skadade fingrar och det fungerar inte på saknade fingrar.

Stark: Och problem med att använda någons fingeravtryck för ID går djupare än bara om de fungerar eller inte...

Riddare: Det är inte traumainformerat att låta någon gå in på en anläggning och säga, ja, du kan absolut komma in, men låt mig bara ta dina fingeravtryck. Det finns flera problem. En, skärmen lyser grönt, vilket är en utlösande faktor och skrämmande för människor som har paranoida vanföreställningar, kanske de inte vill röra vid det, det där skrämmande som potentiellt, um, sjukdomsöverföring, eh, men också den mentala upplevelsen för att ha arresterats och tagit fingeravtryck tidigare. Du upprepar faktiskt samma trauma varje gång de kommer in på anläggningen.

Stark: Hon har också provat spårningsenheter som drivs av R-F-I-D…..som står för radiofrekvensidentifiering. Och de försökte irisigenkänning, vilket är där en skanner läser en persons ögon. Men till slut fann hon att ansiktsigenkänning var det som fungerade.

Riddare: Så, eh, ansiktsigenkänning är egentligen det enda som är möjligt och tillgängligt, ehm, hela tiden. … // SO Ansiktsigenkänning är snällare känslomässigt genom att det är passivt, det, inte berör dem och du kan fånga det snabbare och det finns ingen risk för överföring. Så där, jag, jag är angelägen om att se omfattningen utökad tillämpning av ansiktsigenkänning, för det är det snällaste man kan göra mot människor som har haft traumatiska liv och, och fortfarande vet vilka de är och hjälpa dem på det sätt som de behöver hjälpas åt.

Bolling: Är det ett foto på dig?

Stark: Åh, det är det. Ja det är min LinkedIn.

Bolling: Så jag antar att jag precis identifierade dig med hjälp av ett foto som jag tog från LinkedIn som jag registrerade i vår programvara och sedan bara använde en vanlig webbkamera med dig med en mask. Jag kunde identifiera dig.

Stark: Wow. Wow. Det där är jag med en mask och en huva och hörlurar och allt annat runt ansiktet här.

Bolling: Hej, jag heter Ray Bolling. Jag är president och medgrundare av eyemetriska identitetssystem.

Stark : Vi är ute på en stadsgata och han ger mig en genomgång av sin programvara. Hans företag skapar applikationer som drivs av fingeravtryck, irisskanningar och nu med ansiktsigenkänning för att identifiera någon när de går in i en byggnad ... inklusive härbärgen för hemlösa ... matbanker ... och offentliga skolor.

Bolling: Vi har sett ett ökat intresse för denna teknik till följd av covid. Vi måste kunna göra saker på ett kontaktlöst sätt, um, men ändå kunna identifiera människor ordentligt. Men gör det på ett sätt. Um, det involverar inte överföringen, du vet, vårt besökshanteringssystem där vi skulle be någon att lämna över sitt körkort när det sker ett utbyte av ett kort eller ett ID, um, du kan eventuellt överföra bakterier, använda en kontaktlös metod för ansiktsigenkänning eller iris det är något som, um, inte kräver någon överföring eller con eller, eh, av information, du vet, av en fysisk bit av plast.

Stark: Andra ansiktsigenkänningssystem som vi har pratat om på den här showen sitter ovanpå enorma databaser med foton tagna från internet. Men inte den här.

Bolling: Ja, våra kunder, när de köper eller installerar ett av våra system, börjar vår personal med en tom databas. De bygger själva databasen med kända personer och som villigt och aktivt deltar i registreringen av systemet. De är också aktivt involverade när de uppmärksammas.

Stark: I praktiken kan det fungera ungefär så här...

Bolling: Vanligtvis kommer vi att få en import av alla elever eller personal från ett skoldistrikt. Och vi har all deras information. Vårt första försök är att försöka registrera alla från ett fotografi, ett befintligt fotografi, men de måste vara av god kvalitet. Vanligtvis fungerar en skolporträttbild bra, men det finns fall på grund av belysning eller hår som vi måste ta om den personens foto, eh, för att få dem att registrera sig direkt i systemet.

Stark: Sedan….

Bolling: Eleverna går bara fram till en Microsoft Surfplatta med en webbkamera. De står framför den och den loggar in dem i skolan. …

Stark: Och han säger att det är mer effektivt än andra alternativ.

Bolling: ...Det är viktigt för skoldistriktet eftersom de får ersättning från staten baserat på närvaro. Så de har ett biometriskt sätt att verifiera närvaron av barnen som dök upp den dagen. Och det hindrade eleverna från att låna eller ta en väns ID-kort och checka in dem.

Stark: En av hans kunder är Christ Church Community Development Corporation. Det tillhandahåller skydd, engagemang och uppsökande tjänster för hemlösa i Bergen County, New Jersey. De använder hans företags fingeravtrycksläsare, och under de kommande månaderna planerar de också att lägga till ansiktsigenkänning som ett annat sätt att logga in. Biometri har hjälpt dem att samla in bättre data som de har använt för att ta itu med några stora problem

Sunden: Vi är det första samhället i landet som har fått ett slut på både veteraners hemlöshet och kronisk hemlöshet.

Stark: Mary Sunden är koncernens verkställande direktör.

Sunden: Och en av de främsta anledningarna till att vi kunde göra det är på grund av informationen vi samlar in och hur vi använder den för att hjälpa människorna vi arbetar med.

Stark: Detta arbete har fått nationellt erkännande från den federala myndigheten som övervakar bostäder och stadsutveckling. Och hon säger att de ytterligare data de samlar in också har hjälpt dem att spåra trender över tid.

Sunden: Så vad vi har märkt under de senaste två åren är en betydande ökning av personer som är 60 år och äldre, som är i hemlösa systemet. Detta är inget som vi någonsin hade i vårt område för 10 år sedan till exempel. Så om helt plötsligt, istället för att 20 % av människorna som kommer på middag varje kväll är 60 år eller äldre, är det helt plötsligt 30 %. Och det pågår i mer än bara en dag eller två, sedan ser vi att något pågår och vi måste gå och titta på det och försöka ta reda på vad som är orsaken bakom det. Men det är data som visar att saker förändras. Och då måste man lägga det personliga arbetet på att lista ut motivationen bakom eller orsakerna bakom det.

Stark: Just nu... hon testar en kamera som tar människors temperaturer... och hoppas att det inte kommer att vara ett långt steg för kunder att acceptera tillägget av ansiktsigenkänning.

Sunden: Så du går in i byggnaden och den kontrollerar automatiskt din temperatur. Och det finns en bild på dig. Den lagrar inte din bild, men där är du, och den talar om din temperatur, den gissar ditt kön och din ålder felaktigt, vi njuter av att lura den. Jag har förändrats, um, den senaste veckan från en äldre till en medelålders man eller kvinna. Så det är lite kul... men folk jag förväntar mig inte i den här pandemin att när folk snart är i vår byggnad igen kommer de att ha svårt med det eftersom de kommer att förstå att syftet med det är att hålla dem säkra och . Livet är bara mycket mer invasivt nu och vi är vana vid det. Så jag tror att det har en fördel som vi försöker, vi försöker dra fördel av saker som händer. Så det faktum att, du vet, människor är vana vid att få invasiva frågor om sin hälsa. Vi ska bara dra nytta av det. Och ansiktsbehandlingen är bara en annan sak, inte så annorlunda från temperaturskanningssystemet.

Stark: Nästa avsnitt…

Donnie Scott: Du kan se en framtid där du när du kommer till sportevenemanget dirigerar dig till din parkering baserat på att känna igen din bil eller att dela vem du är från din telefon. Från parkeringen kommer du att dirigeras genom den kortaste linjen. Du vet att den linjen kommer att röra sig snabbt eftersom den är biometriskt aktiverad.

Stark: Vi tittar på hur ansiktsigenkänning och andra spårningssystem förändrar sportupplevelsen på läktaren och på planen.

Mike D'Auria: Vad detta är avsett att göra är att spåra varje spelares och bollens rörelse 25 gånger i sekunden. Så du kan typ tänka under loppet av en typisk NBA-basketmatch, du kan typ fånga miljontals datapunkter som inte fanns tidigare och använda dem för att bygga en svit av produkter eller upplevelser ovanpå den kan verkligen förändra vårt sätt att se och interagera med sport.

Stark: Det här avsnittet rapporterades och producerades av mig, Emma Cillekens, Tate Ryan-Mosley och Karen Hao. Vi är redigerade av Michael Reilly och Gideon Lichfield. Tack för att du lyssnade, jag heter Jennifer Strong.

[TR ID]

Dölj