211service.com
Emotion AI-forskare säger att överdrivna påståenden ger deras arbete ett dåligt rykte
En illustration. Till vänster, spridda utskärningar av ansiktsdelar som ögon och munnar i en låda. Mitten: ett helt ansikte, slutna ögon. Till höger: ett nätverk i form av ett huvud. Franziska Barczyk
Du kanske har hört talas om AI som genomför intervjuer. Eller så kanske du har blivit intervjuad av en själv. Företag som HireVue hävdar att deras programvara kan analysera videointervjuer för att ta reda på en kandidats anställningsbarhetspoäng . Algoritmerna utvärderar inte bara ansikts- och kroppshållning för utseende; de berättar också för arbetsgivarna om intervjupersonen är det envis eller bra på att arbeta i ett team . Dessa bedömningar kan ha stor effekt på en kandidats framtid. I den USA och Sydkorea , där AI-assisterad anställning har blivit allt mer populär, utbildar karriärkonsulter nu nya akademiker och arbetssökande i hur man intervjuar med en algoritm. Denna teknik används också på barn i klassrum och har använts i studier för att upptäcka bedrägeri i rättssalsvideor .
Men många av dessa löften stöds inte av vetenskaplig konsensus. Det finns inga starka, peer-reviewed studier som visar att analys av kroppshållning eller ansiktsuttryck kan hjälpa till att välja de bästa arbetarna eller studenterna (delvis för att företag är hemliga med sina metoder). Som ett resultat, hypen kring känsla igenkänning, som är sid beräknas vara en marknad på 25 miljarder dollar 2023 , har skapat en motreaktion från tekniketiker och aktivister som fruktar att tekniken kan ge upphov till samma typer av diskrimineringsproblem som prediktiv straffmätning eller bostadsalgoritmer för hyresvärdar som bestämmer vem de ska hyra ut till.
Hypen oroar också forskarna. Många är överens om att deras arbete – som använder olika metoder (som att analysera mikrouttryck eller röst) för att urskilja och tolka mänskliga uttryck – samordnas och används i kommersiella tillämpningar som har en skakig grund i vetenskapen. De säger att brist på statlig reglering inte bara är dåligt för konsumenterna. Det är dåligt för dem också.
Det goda och det onda
Känsloigenkänning, en delmängd av affektiv datoranvändning, är fortfarande en ny teknik. Eftersom AI-forskare har testat gränserna för vad vi kan och inte kan kvantifiera om mänskligt beteende, har den underliggande vetenskapen om känslor fortsatt att utvecklas. Det finns fortfarande flera teorier, till exempel om huruvida känslor kan särskiljas diskret eller falla på ett kontinuum. Samtidigt kan samma uttryck betyda olika saker i olika kulturer. I juli, a metastudie drog slutsatsen att det inte är möjligt att bedöma känslor genom att bara titta på en persons ansikte. Studien täcktes brett (inklusive i denna publikation), ofta med rubriker som tydde på det Känsloigenkänning kan inte litas på .
Forskare som känner igenkänning är redan medvetna om denna begränsning. De vi pratade med var försiktiga med att göra påståenden om vad deras arbete kan och inte kan göra. Många betonade att känsloigenkänning faktiskt inte kan bedöma en individs inre känslor och upplevelser. Den kan bara uppskatta hur den personens känslor kan uppfattas av andra, eller föreslå breda, befolkningsbaserade trender (som att en film i genomsnitt framkallar en mer positiv reaktion än en annan). Ingen seriös forskare skulle påstå att man kan analysera handlingsenheter i ansiktet och då vet man faktiskt vad folk tänker, säger Elisabeth André, affektiv dataexpert vid universitetet i Augsburg.
Forskare noterar också att känslomässig igenkänning innebär mycket mer än att bara titta på någons ansikte. Det kan också innebära att observera kroppshållning, gång och andra egenskaper, samt att använda biometriska sensorer och ljud för att samla in mer holistisk data.
Sådana distinktioner är bra men viktiga: de diskvalificerar applikationer som HireVue, som hävdar att de bedömer en individs inneboende kompetens, men stödjer andra, till exempel teknik som syftar till att göra maskiner till mer intelligenta medarbetare och följeslagare för människor. (HireVue svarade inte på en begäran om kommentar.) En humanoid robot kunde le när du log – en speglingsåtgärd som människor ofta använder för att få interaktioner att kännas mer naturliga. En bärbar enhet kan påminna dig om att vila om den upptäcker högre nivåer än baslinjenivåerna av kortisol, kroppens stresshormon. Ingen av dessa applikationer kräver en algoritm för att bedöma dina privata tankar och känslor; de kräver bara en uppskattning av ett lämpligt svar på kortisolnivåer eller kroppsspråk. De fattar inte heller höga beslut om en individs liv – till skillnad från oprövade anställningsalgoritmer. Om vi vill att datorer och datorsystem ska hjälpa oss skulle det vara positivt om de hade en känsla av hur vi mår, säger Nuria Oliver, chefsdataforskare på den ideella DataPop Alliance.
Men mycket av denna nyans försvinner när forskning om känsloregenkänning används för att göra lukrativa kommersiella tillämpningar. Samma stressövervakningsalgoritmer i en bärbar enhet kan användas av ett företag som försöker se till att du arbetar tillräckligt hårt. Även för företag som Affectiva, grundat av forskare som talar om vikten av integritet och etik, är gränserna svåra att definiera. Det har sålde sin teknik till HireVue . (Affectiva avböjde att kommentera specifika företag.)
En uppmaning till reglering
I december krävde forskningsinstitutet AI Now ett förbud mot tekniker för känslomässig igenkänning i viktiga beslut som påverkar människors liv . Det är ett av de första uppmaningarna att förbjuda en teknik som har fått mindre regulatorisk uppmärksamhet än andra former av artificiell intelligens, även om dess användning i jobbscreening och klassrum kan ha allvarliga effekter.
Däremot höll kongressen bara sitt tredje förhandlingen om ansiktsigenkänning på mindre än ett år , och det har den bli en fråga i valet 2020 . Aktivister arbetar för att bojkotta teknik för ansiktsigenkänning, och flera representanter erkänner behovet av reglering i både den privata och offentliga sektorn. För affective computing har det inte funnits så många dedikerade kampanjer och arbetsgrupper, och försöken till reglering har varit begränsade. En lag i Illinois reglerar AI-analys av jobbintervjuvideor trädde i kraft i januari, och Federal Trade Commission har ombetts att undersöka H ireVue (även om det inte finns några ord om huruvida den har för avsikt att göra det).
Även om många forskare anser att ett förbud är för brett, är de överens om att ett regelmässigt vakuum också är skadligt. Vi har tydligt definierade processer för att certifiera att vissa produkter som vi konsumerar – vare sig det är mat vi äter, oavsett om det är mediciner som vi tar – de är säkra för oss att ta dem, och de gör faktiskt vad de än påstår att de gör, säger Oliver . Vi har inte samma processer för teknik. Hon tycker att företag vars teknologier avsevärt kan påverka människors liv borde behöva bevisa att de uppfyller en viss säkerhetsstandard.
Rosalind Picard, en professor vid MIT Media Lab som var med och grundade Affectiva och en annan startup för affektiva datorer, Empatica, upprepar denna känsla. För en befintlig modell för reglering pekar hon på Skyddslagen för polygrafer för anställda begränsa användningen av lögndetektorer, som hon säger är i grunden en affektiv datorteknik. Till exempel förbjuder lagen de flesta privata arbetsgivare att använda polygrafer och låter inte arbetsgivare fråga om resultaten av lögndetektortester.
Hon föreslår att all användning av sådan teknik bör vara opt-in och att företag bör åläggas att avslöja hur deras teknik testades och vilka deras begränsningar är. Det vi har idag är att [företag] kan göra dessa upprörande påståenden som bara är falska, för just nu är köparen inte så välutbildad, säger hon. Och vi bör inte kräva att köparna är välutbildade. (Picard, som säger att hon lämnade Affectiva 2013, stöder inte påståendena som HireVue gör.)
Meredith Whittaker, forskare vid NYU och meddirektör för AI Now, betonar för sin del skillnaden mellan forskning och kommersialisering. Vi ifrågasätter inte hela området för affective computing, säger hon. Vi ropar särskilt ut den oreglerade, ovaliderade, vetenskapligt ogrundade användningen av teknologier för igenkänning av kommersiella effekter. Kommersialisering skadar människor just nu, potentiellt eftersom det gör påståenden som avgör människors tillgång till resurser.
Ett förbud mot att använda igenkänning av känslor i applikationer som jobbscreening skulle hjälpa till att stoppa kommersialiseringen från att överträffa vetenskapen. Stoppa utbyggnaden av teknikerna först, säger hon, och investera sedan i forskning. Om forskningen bekräftar att tekniken fungerar som företagen hävdar, överväg att lätta på förbudet.
Andra regleringar skulle dock fortfarande behövas för att hålla människor säkra: det finns i slutändan mer att tänka på, hävdar Whittaker, än bara vetenskaplig trovärdighet. Vi måste se till, när dessa system används i känsliga sammanhang, att de är bestridbara, att de används på ett rättvist sätt, säger hon, och att de inte leder till ökade maktasymmetrier mellan de personer som använder dem och de som de använder dem på. används.