Podcast: Historien om AI, som berättas av människorna som uppfann den

Välkommen till Jag var där när , ett nytt muntligt historieprojekt från I maskiner vi litar på podcast. Den innehåller berättelser om hur genombrott inom artificiell intelligens och datoranvändning hände, som berättat av personerna som bevittnade dem. I det här första avsnittet möter vi Joseph Atick – som hjälpte till att skapa det första kommersiellt gångbara ansiktsigenkänningssystemet.

Krediter:

Det här avsnittet producerades av Jennifer Strong, Anthony Green och Emma Cillekens med hjälp av Lindsay Muscato. Den är redigerad av Michael Reilly och Mat Honan. Den är mixad av Garret Lang, med ljuddesign och musik av Jacob Gorski.

Fullständig utskrift:

[TR ID]

Jennifer: Jag är Jennifer Strong, värd för I maskiner vi litar på .

Jag vill berätta om något vi har jobbat med ett litet tag bakom kulisserna här.

Det heter Jag var där när .

Det är ett muntligt historiskt projekt som visar berättelserna om hur genombrott inom artificiell intelligens och datoranvändning hände ... som berättat av människorna som bevittnade dem.

Joseph Atick: Och när jag kom in i rummet såg den mitt ansikte, drog ut det från bakgrunden och det uttalade: Jag ser Joseph och det var ögonblicket då håret på ryggen... Jag kände att något hade hänt. Vi var ett vittne.

Jennifer: Vi kickar igång med en man som hjälpte till att skapa det första ansiktsigenkänningssystemet som var kommersiellt gångbart ... tillbaka på 90-talet ...

[IMWT ID]

Jag är Joseph Atick. Idag är jag verkställande ordförande för ID for Africa, en humanitär organisation som fokuserar på att ge människor i Afrika en digital identitet så att de kan få tillgång till tjänster och utöva sina rättigheter. Men jag har inte alltid varit på det humanitära området. Efter att jag disputerat i matematik gjorde jag tillsammans med mina medarbetare några grundläggande genombrott, vilket ledde till den första kommersiellt gångbara ansiktsigenkänningen. Det är därför folk hänvisar till mig som en grundare av ansiktsigenkänning och den biometriska industrin. Algoritmen för hur en mänsklig hjärna skulle känna igen bekanta ansikten blev tydlig när vi höll på med forskning, matematisk forskning, medan jag var på Institute for Advanced Study i Princeton. Men det var långt ifrån att ha en idé om hur man skulle genomföra en sådan sak.

Det var en lång period av månader av programmering och misslyckande och programmering och misslyckande. Och en natt, tidig morgon, faktiskt, hade vi precis färdigställt en version av algoritmen. Vi skickade in källkoden för kompilering för att få en körkod. Och vi klev ut, jag klev ut för att gå till toaletten. Och sedan när jag klev tillbaka in i rummet och källkoden hade kompilerats av maskinen och hade kommit tillbaka. Och vanligtvis efter att du kompilerat körs den automatiskt, och när jag kom in i rummet såg den en människa som rörde sig in i rummet och den såg mitt ansikte, drog ut det från bakgrunden och det uttalade: Jag ser Josef. och det var ögonblicket då håret på ryggen - jag kände att något hade hänt. Vi var ett vittne. Och jag började ropa på de andra som fortfarande var i labbet och var och en av dem skulle komma in i rummet.

Och det skulle säga, jag ser Norman. Jag skulle träffa Paulus, jag skulle träffa Josef. Och vi turas om att springa runt i rummet bara för att se hur många den kan se i rummet. Det var, det var ett ögonblick av sanning där jag skulle säga att flera års arbete till slut ledde till ett genombrott, även om det teoretiskt sett inte krävdes något ytterligare genombrott. Bara det faktum att vi kom på hur vi skulle implementera det och till slut såg att förmågan i handling var väldigt, väldigt givande och tillfredsställande. Vi hade utvecklat ett team som mer är ett utvecklingsteam, inte ett forskarteam, som fokuserade på att lägga alla dessa funktioner i en PC-plattform. Och det var födelsen, egentligen födelsen av kommersiell ansiktsigenkänning, skulle jag säga, 1994.

Min oro började väldigt snabbt. Jag såg en framtid där det inte fanns någon plats att gömma sig med utbredningen av kameror överallt och kommodiseringen av datorer och datorernas bearbetningsförmåga som blev bättre och bättre. Och så 1998 lobbade jag branschen och jag sa att vi måste sätta ihop principer för ansvarsfullt bruk. Och jag mådde bra ett tag, för jag kände att vi har fått det rätt. Jag kände att vi har infört en ansvarsfull användningskod som ska följas av vad som än är implementeringen. Den koden levde dock inte tidens tand. Och anledningen bakom det är att vi inte förutsåg uppkomsten av sociala medier. I grund och botten, vid den tidpunkt då vi etablerade koden 1998, sa vi att det viktigaste elementet i ett ansiktsigenkänningssystem var den taggade databasen med kända personer. Vi sa, om jag inte finns i databasen kommer systemet att vara blind.

Och det var svårt att bygga databasen. Som mest kunde vi bygga tusen 10 000, 15 000, 20 000 eftersom varje bild var tvungen att skannas och måste föras in för hand - den värld som vi lever i idag, vi är nu i en regim där vi har låtit odjuret ur påsen genom att mata den med miljarder ansikten och hjälpa den genom att tagga oss själva. Um, vi är nu i en värld där allt hopp om att kontrollera och kräva att alla är ansvariga i sin användning av ansiktsigenkänning är svårt. Och samtidigt är det ingen brist på kända ansikten på internet eftersom man bara kan skrapa, som det har hänt nyligen av vissa företag. Och så jag började få panik 2011, och jag skrev en artikel som sa att det är dags att trycka på panikknappen eftersom världen är på väg i en riktning där ansiktsigenkänning kommer att vara allestädes närvarande och ansikten kommer att vara tillgängliga överallt i databaser.

Och på den tiden sa folk att jag var en alarmist, men idag inser de att det är precis vad som händer idag. Och vart går vi härifrån? Jag har lobbat för lagstiftning. Jag har lobbat för juridiska ramar som gör det till ett ansvar för dig att använda någons ansikte utan deras samtycke. Så det är inte längre en teknisk fråga. Vi kan inte stoppa denna kraftfulla teknik med hjälp av tekniska medel. Det måste finnas någon form av rättsliga ramar. Vi kan inte tillåta att tekniken går för mycket före oss. Före våra värderingar, före vad vi tycker är acceptabelt.

Frågan om samtycke fortsätter att vara en av de svåraste och mest utmanande frågorna när det handlar om teknik, att bara meddela någon betyder inte att det räcker. För mig måste samtycke informeras. De måste förstå konsekvenserna av vad det innebär. Och inte bara för att säga, ja, vi satte upp en skylt och det här räckte. Vi berättade för folk, och om de inte ville hade de kunnat gå vart som helst.

Och jag tycker också att det finns, det är så lätt att bli förförd av flashiga tekniska funktioner som kan ge oss en kortsiktig fördel i våra liv. Och sedan inser vi att vi har gett upp något som var för värdefullt. Och vid den tidpunkten har vi desensibiliserat befolkningen och vi kommer till en punkt där vi inte kan dra oss tillbaka. Det är det jag är orolig för. Jag är orolig över det faktum att ansiktsigenkänning genom arbetet av Facebook och Apple och andra. Jag säger inte att allt är olagligt. Mycket av det är legitimt.

Vi har kommit till en punkt där allmänheten kan ha blivit blasé och kan bli okänslig för att de ser det överallt. Och om 20 år kanske du kliver ut ur ditt hus. Du kommer inte längre att ha förväntningarna att du inte skulle vara det. Det kommer inte att kännas igen av dussintals människor du korsar längs vägen. Jag tror vid den tidpunkten att allmänheten kommer att bli väldigt orolig eftersom media kommer att börja rapportera om fall där människor har blivit förföljda. Människor blev måltavla, folk valdes till och med ut utifrån deras nettoförmögenhet på gatan och kidnappades. Jag tror att det är ett stort ansvar på våra händer.

Och så jag tror att frågan om samtycke kommer att fortsätta att förfölja branschen. Och tills den frågan kommer att bli ett resultat, kanske den inte kommer att lösas. Jag tror att vi måste fastställa begränsningar för vad som kan göras med den här tekniken.

Min karriär har också lärt mig att det inte är bra att ligga före för mycket eftersom ansiktsigenkänning, som vi känner det idag, faktiskt uppfanns 1994. Men de flesta tror att det uppfanns av Facebook och maskininlärningsalgoritmerna, som är sprider sig nu över hela världen. Jag var i princip, någon gång i tiden, tvungen att avgå som offentlig VD eftersom jag begränsade användningen av teknik som mitt företag skulle marknadsföra på grund av rädslan för negativa konsekvenser för mänskligheten. Så jag känner att forskare måste ha modet att projicera in i framtiden och se konsekvenserna av sitt arbete. Jag säger inte att de ska sluta göra genombrott. Nej, man ska gå för fullt, göra fler genombrott, men vi ska också vara ärliga mot oss själva och i princip uppmärksamma världen och politikerna på att detta genombrott har plus och minus. Och därför, när vi använder den här tekniken, behöver vi någon form av vägledning och ramar för att se till att den kanaliseras för en positiv tillämpning och inte negativ.

Jennifer: Jag var där när... är ett muntligt historiskt projekt som visar berättelser om människor som har sett eller skapat genombrott inom artificiell intelligens och datoranvändning.

Har du en historia att berätta? Känner du någon som gör det? Skicka ett mejl till oss på [email protected].

[MIDROLL]

[KREDIT]

Jennifer: Det här avsnittet spelades in i New York City i december 2020 och producerades av mig med hjälp av Anthony Green och Emma Cillekens. Vi är redigerade av Michael Reilly och Mat Honan. Vår mixtekniker är Garret Lang... med ljuddesign och musik av Jacob Gorski.

Tack för att du lyssnade, jag heter Jennifer Strong.

[TR ID]

Dölj