Podcast: In the AI ​​of the Beholder

Idéer om vad som är skönhet är komplexa, subjektiva och på intet sätt begränsade till fysiska utseenden. Även om det är svårfångat, vill alla ha mer av det. Det betyder stora företag och i allt högre grad människor som använder algoritmer för att skapa sina ideala jag i den digitala och ibland fysiska världarna. I det här avsnittet utforskar vi skönhetsfiltrens popularitet och sätter oss ner med någon som är övertygad om att hans mjukvara kommer att visa dig hur du kan nappa och ta dig till ett bättre liv.

Vi träffas:

• Shafee Hassan, grundare av Qoves Studio
• Lauren Rhue, biträdande professor i informationssystem vid Robert H. Smith School of Business

Krediter

Det här avsnittet rapporterades av Tate Ryan-Mosley och producerades av Jennifer Strong, Emma Cillekens, Karen Hao och Anthony Green. Vi är redigerade av Michael Reilly och Bobbie Johnson.

Transkript

[TR ID]

[Montage sånger om skönhet]

Stark: Skönhet har alltid varit en av samhällets största tvångstankar. Och så länge vi har dyrkat det... har vi också hittat sätt att förändra och förbättra det. Från smink och kläder... till airbrush-foton... eller en kirurgisk nyp och tuck. Och nu? AI.

[Montage av nyhetsbevakning om skönhetsfilter]

[Ljud från en Apple keynote med fotoförstoring där kvinnor får att le mer. Publiken jublar]

Stark: Du kanske inte inser det...men den här tekniken är nära till hands. I skönhetsfiltren på din telefon och sociala medier. Tekniken har blivit så bra på att upptäcka var dina ögon, näsa och käklinje är att det är enklare än någonsin att justera dessa funktioner. Med ett enkelt svep kan du justera bågen på ditt ögonbryn, eller justera kurvan på dina läppar och konstruera din 'idealbild'.

Det är möjligt att det kommer att finnas 45 miljarder kameror i världen nästa år... tillsammans med allt fler sätt att använda AI för att analysera, tagga, redigera och prioritera dessa bilder. Företag som Microsoft, NVIDIA och Face++... har alla offentligt släppta produkter avsedda att mäta skönhet på något sätt. Det finns till och med AI-drivna system som lovar att titta på bilder av ditt ansikte för att berätta hur vacker du är – (eller inte är) – och vad du kan göra åt det.

Hassan: Så vi visar dig vad algoritmen letar efter. Och om du så vill ändra det, kan du, du vet, använda dessa, dessa operationer.

Stark: Men kan vem som helst, eller vilken som helst sak , vara verkligt objektiv om skönhet?

Rhue: Låt oss bara säga att jag aldrig har sett en kulturellt känslig skönhets-AI.

Stark: Och kommer denna nya våg av skönhetsförbättringar att lämna vår nästa generation med mer osäkerhet än någonsin?

Veronica: Det finns liksom ett sätt att filtren är ungefär som skadliga för människors mentala hälsa och kan vara riktigt förödande för vissa människor eftersom de jämför sig själva med det.

Stark: Jag heter Jennifer Strong och det här avsnittet tittar vi på maskinernas roll i att forma våra skönhetsstandarder och hur dessa standarder formar oss.

[VISA ID]

Veronica: När jag ska använda ett ansiktsfilter är det för att det finns vissa saker som jag vill se annorlunda ut. Så om jag inte har smink eller om jag tycker att jag inte nödvändigtvis ser bäst ut så förändrar skönhetsfiltret vissa saker om ditt utseende.

Veronica: Hej, jag heter Veronica. Jag är 19 år gammal och jag kommer från Minnesota.

Sofia: Jag är Sophia, jag är 15. Och jag kommer också från Minnesota.

Stark: De är systrar... och ivriga användare av sociala medier. De använder skönhetsfilter för att förbättra hur de ser ut på foton. De visar min producent Tate Ryan-Mosley några av sina favoriter.

Sofia: Ser jag ut så? Nej. Inte ett dugg.

Tate: Beskriv vad som får dig att se annorlunda ut på den bilden?

Sofia: Den har dessa massiva fransar som får mina ögon att se vackra ut. Mina läppar tredubblas i storlek och min näsa mindre.

Veronica: Mitt idealiska filter. Det kallas för Naomi-filtret på Snapchat. Det rensar huden och gör sedan dina ögon enorma.

Tate: När började du använda dem? Kommer du ihåg?

Veronica: Femte klass? Jag vet inte. Det var mer roligt i början. Som att det var som ett skämt, som att folk inte försökte se bra ut när de använder filtren

Sofia: Det var jag definitivt. Som 12-åriga tjejer, som att ha tillgång till något som gör att du inte ser ut som om du är 12. Som att det är det coolaste någonsin.

Stark: Filter är explosivt populära. Vissa är roliga... som den som fick valpöron och en falsk näsa i ansiktet. Andra är märkesvaror, geotaggade, och det finns konstiga sådana också. Men det vanligaste slaget är dock skönhetsfilter, som ändrar utseendet på någon på ett foto i ett försök att göra dem mer attraktiva – ofta genom att omforma och färga om deras egenskaper.

Och de största fansen är unga tjejer.

I åratal nu... dessa systrar har använt filter nästan varje dag... Men de är fortfarande inte säkra på vad de tycker om dem.

Veronica: Med sociala medier i stort. Det är omöjligt att inte jämföra sig med människor. Men jag tror att när folk använder sådana filter och de inte avslöjar det. Jag känner att det kan göra att människor blir mer osäkra eller mer påverkade av det än de skulle göra på bara ett vanligt foto, eftersom du inte uppskattar deras naturliga skönhet jämfört med skönheten som var formulerad för att göra dem se perfekt ut.

Sofia: Det är inte normalt. Det är inte en normal kropp. // Vi känner oss så vackra i dem. Och det är som varför..

Veronica: Finns det något av en validering när du uppfyller den standarden? Även om det bara är för som en bild...

[Ljud från TEDx talk: Epidemic of Beauty Sickness]

Engeln: För cirka 15 år sedan var jag en ivrig ung doktorand. Och jag ägnade mycket tid åt att undervisa.

Stark: Det här är Renee Engeln, professor i psykologi vid Northwestern University, som håller ett TEDx-föredrag.

Engeln: Och ju mer jag lyssnade på mina kvinnliga elever, desto mer fattade jag något oroande. Dessa ljusa, begåvade unga kvinnor ägnade oroväckande mycket tid åt att tänka på att prata om att försöka ändra sitt fysiska utseende.

Nu är våra uppfattningar om skönhet komplicerade. De har djupa evolutionära rötter. Ur ett vetenskapligt perspektiv är skönhet inte bara önskvärd, utan också sällsynt.

Stark: Hon fortsatte med att studera detta problem och intervjuade kvinnor om hur de påverkades av att ständigt se bilder av orealistiska skönhetsstandarder... och vad hon fann var... oväntat.

Engeln: Kvinnor vet att kvinnorna de ser på dessa bilder inte är representativa för den allmänna befolkningen av kvinnor. De är mycket medvetna om att i den verkliga världen, ingen, ingen faktiskt ser ut så här... Det verkar inte spela någon roll. Det räcker inte att veta bättre. Samma kvinna som sa detta, till exempel, den här kroppstypen är orealistisk smal och hennes revben syns och du är typ, ja, precis. Hon följde upp det med, jag känner att jag vill vara sådan.

Stark: Engeln höll sitt föredrag 2013 ... långt innan AI skönhetsfilter. Och nu för tiden ser vi inte bara modellerade modeller i tidningar ... men bilder på oss själva och våra vänner som har retuscherats av algoritmer.

Och... det ger bränsle till en helt ny industri...

Hassan: Vi insåg att det finns en efterfrågan på att lära sig hur man korrekt redigerar ansikten. Och utifrån det insåg vi att det också finns en efterfrågan på att bedöma ansikten för att förstå vad som gör ett ansikte attraktivt eller för att bättre förstå vilka förändringar som kommer att få ett ansikte att se bättre ut, i huvudsak.

Stark: Shafee Hassan är grundaren av Qoves Studio. Det är bara ett av ett antal nya företag som använder neurala nätverk för att känna igen saker i människors ansikten som kan anses vara oattraktiva. Han är en byggnadsingenjör till sin utbildning ... vilket han säger informerar hans arbete.

Hassan: Och dessa brister dyker upp gång på gång. Och de är väldigt vanliga i vissa etniciteter och mindre vanliga i andra och en dator kan upptäcka det riktigt exakt eftersom pixelvärdena, färgvärdena är väldigt lika oavsett var du tittar på det eller vilken del av ansiktet det kommer ifrån .

Stark: Forskare tror att sociala mediejättar som Facebook, Instagram och Tik Tok alla använder algoritmer som mäter attraktionskraften hos ett ansikte.

Hassan: ...avgöra eller förutbestäm om ett innehåll kommer att bli framgångsrikt eller inte, och sedan vidarebefordra det innehållet till en större population av användare.

Stark: Hittills har ingen bekräftat detta. Vad vi vet (från rapportering från The Intercept) är att TikTok bad sina innehållsmoderatorer att undertrycka videor med personer som de ansåg vara oattraktiva, fattiga eller som har ett funktionshinder. En talesperson för TikTok sa att dessa regler var ett tidigt, rakt försök att förhindra mobbning och att de inte längre är på plats.

Och det är här företag som Hassans kommer in i bilden. Ur hans perspektiv är diskussioner om huruvida det är rätt eller fel att främja och undertrycka bilder av människor baserat på deras utseende? Han säger att detta system är verkligheten och ansiktsdrag påverkar social status, professionella utsikter och inkomst. Men han tror att hans företag kan göra den processen mer transparent.

Hassan: Så vi visar dig vad algoritmen letar efter. Och om du så vill ändra det, kan du, du vet, använda dessa, dessa operationer. Och det är också något vi tillhandahåller. Vi tillhandahåller sätt, lösningar och det behöver inte ens vara kosmetiskt. Sömn kan förbättra dina konturer under ögonen, vilket en skönhetsalgoritm kan bestraffa dig med ungefär 0,5 av ett märke.

Stark: Äh-ha. Du hörde rätt. Operationer för att hjälpa människor att förkroppsliga det de tror att maskiner letar efter. Hans YouTube-kanal fokuserar på just det — med videor som får mer än en miljon visningar. Som den här:

[Ljud från YouTube-video med Hassan]

Hassan: Välkommen till det första avsnittet av att definiera skönhet... Där jag försöker utforska vad som gör ett ansikte attraktivt på ett så objektivt sätt som möjligt.

Stark: Och de erbjuder detaljerade rapporter om dessa upplevda brister.

Hassan: Helst ska mänskliga ögon vara en ögonbredd isär... här är en artikel skriven om ett experiment från 2008 om specifikt interpupillavstånd mellan ögonen och hur de påverkar attraktiviteten.

Stark: Han ser kirurgi som en större del av vår framtid, särskilt när betydelsen av vår onlinebild växer.

Hassan: Hela poängen är att vi vill klargöra hur människor ser kirurgi som ett mer positivt verktyg för social rörlighet, eftersom ditt utseende påverkar hur du behandlas, hur mycket pengar du tjänar, hur din socioekonomiska status kan gå upp eller ner. Om du har en deformerad käke tänker jag inte berätta för dig att du är vacker, precis som du är. Och jag tycker att du bör få rättelse på det eftersom forskning har visat att en deformitet av en cervikal vinkeldeformitet på t.ex. 130 grader eller mer är mycket strängt bedömd som mycket oattraktiv av precis som majoriteten av lekmannabedömare. Så, liksom idén om detta politiskt korrekta sätt att skönhet, skönhet är något som jag liksom vill ta till mig, även om det är kontroversiellt. Jag känner att många håller med om det jag säger. Och det är så klart därför jag har en plattform.

Stark: Jag frågade Hassan om han har fått mycket kritik för detta arbete.

Hassan: Lustigt nog var den hårdaste kritiken jag fick från mina vänner och familj när jag började och aldrig kritik från någonstans på internet, öh, folk var väldigt nyfikna på tekniken. Det väcker viss oro angående integritet, men uppenbarligen gör vi vårt bästa för att hålla allt så säkert som möjligt. Det väcker viss oro för, um, jag antar, en övergripande känsla av kontroll, du vet, att säga till folk att det här är fel med ditt ansikte, bla, bla, bla.

Stark: Men skönhetsalgoritmer ha utsätts för hård kritik för att vidmakthålla rasism och ålderism. Till exempel, 2016 var Microsoft och NVIDIA värd för en skönhetstävling med en AI-domare. Och av 6-tusen bidrag var nästan alla de 44 vinnarna vita.

Hassan: Tja, ett av de stora problemen med skönhetsalgoritmer är att de vanligtvis trendar med kaukasiska ansikten. Och så de straffar, eh, ansikten med icke-eurocentriska egenskaper väldigt hårt eftersom de inte är tränade med den typen av egenskaper. En av sakerna när vi utvecklade vår algoritm är att träna den med så många olika ansikten som möjligt. Jag har alltid trott att attraktiva människor är en egen ras. Och så överskrider deras attraktiva egenskaper liksom en eurocentrisk eller en kaukasisk eller en afrocentrisk eller vilken centric du vill titta på. Skarpa käkar, vassa kindben, magert ansiktsfett, som det här är inte en eurocentrisk sak. Det här är bara en biologigrej.

Stark: Och Hassan hämtar sin 'inspiration' från den djupt dystopiska 90-talsfilmen Gattaca .

[Ljud från biotrailern för Gattaca]

Hassan: Så Gattaca är väldigt påverkande eftersom många människor inte föds till de mest genetiskt begåvade. Och detta går tillbaka till tanken på att kändisarna på toppen, de snygga attraktiva människorna på toppen är där bara för att de är genetiskt begåvade. Jag tror inte helt att det var så de kom dit. Jag tror att mycket av det har att göra med lite hjälp från operation, lite hjälp från kosten, lite hjälp från tränare i världsklass. Det här är saker som de aldrig kommer att tala om, men det är, det är en del av illusionen av att vara onåbar och att vara upphöjd från den vardagliga människan. Så Gattaca är den bästa symbolen, den bästa representationen av vad vårt företag handlar om.

Stark: När jag rapporterade den här historien... bestämde sig min producent Tate för att prova sitt verktyg för ansiktsbedömning. Och att se vad som händer härnäst gör mig extremt obekväm.

Jag hade den här upplevelsen på en mässa för några år sedan... och även om jag visste att det var en gimmick... så skapade det fortfarande rädsla i mitt huvud. Och nu på den här zoomskärmen? Det går utöver skrämseltaktik och överprissatt ansiktskräm... det här verktyget rekommenderar nålar och knivar...

Hassan: Så, vi är på webbplatsen Och än så länge har det gått bra, vi rullar ner. Så det här är din, um, bild. Vi kan ladda upp det. Jag är ingen robot... Här. Här. Okej, och det här är de brister som datorn upptäcker.

Hassan: Fördjupade nasolabialveck. Det här är de här linjerna här, och det är för att du ler...Depression under ögonkonturen, som definitivt är här...regionen sjunker bara omedelbart. Och sedan går den upp igen när den kommer mot kindbenen. Så generellt för attraktiva ansikten är konturen inline. Det är jämnt med ögonen, Så små, lätta mörka ringar. svullna nedre ögonlocket, vilket jag håller med om. Det här ögonlocket är definitivt riktigt svullet av någon anledning, men det här är inte det. Så det är vad den har plockat upp istället för 0,5 eller 0,58, vilket är hyfsat starkt. en nasal Jugal fettkudde, eh, det är den här dynan här, den är väldigt liten. Och så vid denna 0,3, vilket är, tror jag korrekt, är det inte något jag oroar mig särskilt mycket om att datorn tror att du har ett epikantiskt veck som är ett asiatiskt monolid som de kallar det ... och det beror förmodligen på att ditt övre ögonlocksfett täcker upp mycket av ditt övre ögonlock. Så det ser det i princip som det hela, att vara ett ögonlock.

Stark: Låt oss trycka på pausknappen här för något sammanhang ... hur konstigt det än är för mig att beskriva min vän och kollega på det här sättet ... du kan inte se Tate. Så, med hennes tillåtelse... här går vi: hon är lång, blond, har dessa stora blå ögon, starka kindben och ett gigantiskt leende... hon är också ung, som tvåsiffrigt yngre än jag... och när det gäller den genetiken? Hon är dotter till en proffsidrottare.

Men vi hör rekommendationer om vad hon kan göra för att åtgärda sina förmodade brister... inklusive olika typer av plastikkirurgi... och jag kan inte låta bli att tänka på hur hårt det här verktyget kan döma resten av oss... speciellt någon som inte är ung och vitt.

Stark: Vi ska ta en kort paus, men först... Våra vänner på Financial Times har återlanserat sin podcast, Tech Tonic. Ta reda på hur en enhet som din fitbit kan vara den första att veta att du har covid... eller vad antitrustlagar betyder för en specialist på rökt fisk... innovationsredaktör John Thornhill tar oss in på akutmottagningar, kryssningsfartyg och klassrum för att utforska hur tekniken har omformat vår värld... och vad det betyder för oss.

Alla fem avsnitten är tillgängliga nu var du än får dina poddsändningar... sök bara teknisk tonic.

Vi kommer tillbaka... direkt efter detta.

[MIDROLL]

Stark: Vad innebär det att ta redan bristfälliga normer för skönhet ... till stor del påtvingade oss av oss själva ... och istället? Överlämna denna röra till algoritmer som är ännu mer felaktiga, fyllda med partiskhet och som ytterligare förstärker eurocentriska egenskaper som de definition av vad som är vackert...

Oavsett om det är ett Instagram-filter som gör ögonen större... huden mjukare och käklinjerna skarpare... Eller programvara som påpekar hur dina funktioner missar det standardiserade märket...

...och så ringde vi upp en forskare som undersöker hur tekniken påverkar de val vi gör.

Rhue: Och jag tittade på ansiktsigenkänningsverktygen som fanns där ute för att försöka förstå bilderna bättre. Och det var då jag insåg att det fanns poängalgoritmer för skönhet.

Stark: Lauren Rhue är professor vid University of Maryland School of Business.

Rhue: Och jag tänkte att det verkar omöjligt. Skönhet är helt i betraktarens öga. Det finns alla dessa olika kulturella standarder som har med skönhet att göra. Hur kan du träna en algoritm för att avgöra om någon är vacker eller inte?

Stark: Den här typen av poängsättning skiljer sig från vad Hassan gör... men båda tillämpar samma teknik.

Rhue: Tja, du laddar upp en bild och de, med en poäng från noll till 100, kommer att berätta hur vacker den här personen är. De faktiskt, pappret som jag skriver, det tittar på Face Plus Plus, och de delar upp det i ett manligt parti och ett kvinnligt partitur. Så kvinnor tycker att den här personen är vacker, 85 av hundra, medan män tror att hon kanske är 90 av hundra.

Stark: Det är mestadels oklart vilka företag som använder skönhetsvärderingsalgoritmer... men för de som vill är de lätt till försäljning. Till exempel, en av de största spelarna inom detta - Face Plus Plus, som ägs av den kinesiska tekniska enhörningen, Megvii - Deras skönhetspoängfunktion är tillgänglig som en del av deras ansiktsigenkänningssystem. Instagram och Facebook har förnekat att de använder sådana algoritmer. TikTok och Snapchat avböjde att kommentera ... men Rhue säger att bara rekommendationsalgoritmerna i sig själv ofta mäter attraktivitet ... oavsett om de är avsedda att göra det.

Rhue: Tja, om du tittar på vad Instagram vill ha kommer det i huvudsak att vara modeller, eller hur? Du kommer inte att se många olika typer av ansiktsdrag och uttryck. Och, och det kommer att vidmakthålla denna idé om skönhet, på grund av bristen på mångfald i vad du ser på Instagram, och vad som är extremt populärt på Instagram

Stark: Med andra ord, bilderna som bedöms vara vackrast av användare får flest likes... och det är vad som rekommenderas till andra...

Rhue: Vi begränsar typen av bilder som är tillgängliga för alla.

Stark: När du kombinerar det med att människor genomgående applicerar dessa skönhetsfilter på sina foton... har det lett till något som kallas instagramansiktet... vilket är en speciell estetik som prioriteras och belönas på sociala medier. Och det har skapat ett nytt idealiserat utseende som dominerar plattformen.

Rhue: Jag förstår att det är mer ett underhållningsvärde för varför vi har skönhetsfilter, men vårt val av skönhetsfilter är definitivt beroende av kulturen, eller hur? Informerad om vad skönhetsnormerna är. Och många gånger finns det eurocentriska skönhetsstandarder, och det kan du se med några av de ansiktsigenkänningsproblem som har fortsatt att dyka upp. Så det faktum att på zoom kan personer med mycket mörk hy, bokstavligen, deras hud försvinna. För asiatiska ansikten att deras ögon ursprungligen inte sågs av kameror. Höger? Och så på det faktum att många av skönhetsfiltren är till för att få dina ögon att se större ut. Och en del av det är att det är vad folk vill ha. Och det är där jag tror att hönan och ägget kommer in. Är det, hur ska du utöka det här, idén om skönhet bort från bara eurocentriska skönhetsstandarder om vi ser dessa skönhetsfilter som vidmakthåller vissa egenskaper som mer attraktiva än andra .

Stark: Sociala medier är välkänt för att vara uteslutande, liksom skönhetsbranschen. Men det är AI också.

Rhue: Jag blev förstås intresserad av att se om man kunde se dessa kulturella fördomar i algoritmerna. Och självklart kan du det. Låt oss bara säga att jag aldrig har sett en kulturellt känslig skönhets-AI.

Stark: Rhues forskning fann att kvinnor med ljusare hud och hår genomgående bedömdes som mer attraktiva än kvinnor med mörkare hud och hår. Och även filter, som använder ansiktsdetektion, har sannolikt en inbyggd rasfördom. Och konsekvenserna sträcker sig långt bortom den digitala världen.

Rhue: Jag tycker att vi ska vara väldigt försiktiga när vi tänker på valmöjligheter i det digitala rummet. Jag menar, det har gjorts omfattande studier som har visat i vilken ordning du rekommenderar något till någon ändrar deras faktiska preferenser. Så eftersom vi har alla dessa, eh, rekommendationsalgoritmer och dessa beslutsstödsverktyg som hjälper oss att ta reda på vad vi ska köpa eller hur vi ska positionera oss i sociala medier, förändrar det vad vi tror att vi vill ha.

Stark: Och hon tror att tillämpningarna av A-I i skönhet till stor del förbises av teknikgemenskapen.

Rhue: Det är bara inget vi egentligen pratar om. Och jag tror att det talar om vikten av mångfald i detta utrymme. Många säger: Åh, skönhet är helt enkelt inte viktigt eftersom vi är teknikmänniskor och vi är objektiva. Men självklart menar jag, skönhet är denna enorma industri... den har en sådan inverkan på människor. Och tanken att det inte finns mer forskning är verkligen intressant för mig.

Stark: Nästa avsnitt... vi ser på framtiden för digitala betalningar.

Omar Farooq: Vi tror att det finns en väg framåt där pengar kan bli smartare själva. Så du kan faktiskt programmera myntet och det kan styra vem det går till. Så det är inte riktigt möjligt i dagens centraliserade system. Det kan bara göras i ett decentraliserat, smart penningaktiverat system.

Stark: Det här avsnittet rapporterades av Tate Ryan-Mosley och producerades av mig, Emma Cillekens, Karen Hao och Anthony Green. Vi är redigerade av Michael Reilly och Bobbie Johnson.

Tack för att du lyssnade, jag heter Jennifer Strong.

[TR ID]

Dölj