211service.com
Utveckling till en mer rättvis AI
I samarbete med Salesforce
Pandemin som har rasat över hela världen under det senaste året har kastat ett kallt, hårt ljus över många saker – de olika nivåerna av beredskap att reagera; kollektiva attityder till hälsa, teknik och vetenskap; och stora ekonomiska och sociala orättvisor. När världen fortsätter att navigera i hälsokrisen covid-19, och på vissa platser till och med börjar en gradvis återgång till arbete, skola, resor och rekreation, är det avgörande att lösa de konkurrerande prioriteringarna för att skydda allmänhetens hälsa på ett rättvist sätt samtidigt som man säkerställer integritet.
Den utdragna krisen har lett till snabba förändringar i arbete och socialt beteende, samt ett ökat beroende av teknik. Det är nu viktigare än någonsin att företag, regeringar och samhälle är försiktiga med att tillämpa teknik och hantera personlig information. Det utökade och snabba införandet av artificiell intelligens (AI) visar hur adaptiv teknologi är benägen att interagera med människor och sociala institutioner på potentiellt riskfyllda eller orättvisa sätt.
Vårt förhållande till tekniken som helhet kommer att ha förändrats dramatiskt efter pandemin, säger Yoav Schlesinger, rektor för den etiska AI-praktiken på Salesforce. Det kommer att finnas en förhandlingsprocess mellan människor, företag, myndigheter och teknik; hur deras dataflöden mellan alla dessa parter kommer att omförhandlas i ett nytt socialt datakontrakt.
AI i aktion
När covid-19-krisen började utspela sig i början av 2020, tittade forskare på AI för att stödja en mängd olika medicinska användningar, som att identifiera potentiella läkemedelskandidater för vacciner eller behandling, hjälpa till att upptäcka potentiella covid-19-symtom och allokera knappa resurser som intensiv -sängar och ventilatorer. Specifikt lutade de sig mot den analytiska kraften hos AI-förstärkta system för att utveckla banbrytande vacciner och behandlingar.
Även om avancerade dataanalysverktyg kan hjälpa till att extrahera insikter från en enorm mängd data, har resultatet inte alltid varit mer rättvisa resultat. Faktum är att AI-drivna verktyg och datamängderna de arbetar med kan vidmakthålla inneboende partiskhet eller systemisk orättvisa. Under hela pandemin har byråer som Centers for Disease Control and Prevention och Världshälsoorganisationen samlat in enorma mängder data, men uppgifterna representerar inte nödvändigtvis korrekt befolkningar som har påverkats oproportionerligt och negativt – inklusive svarta, bruna och inhemska människor – inte heller några av de diagnostiska framstegen de har gjort, säger Schlesinger.
Till exempel visar biometriska bärbara enheter som Fitbit eller Apple Watch lovande i sin förmåga att upptäcka potentiella covid-19-symtom, såsom förändringar i temperatur eller syremättnad. Ändå förlitar sig dessa analyser på ofta felaktiga eller begränsade datamängder och kan introducera partiskhet eller orättvisa som oproportionerligt påverkar utsatta människor och samhällen.
Det finns en del forskning som visar grönt LED-ljus har svårare att avläsa puls och syremättnad på mörkare hudtoner, säger Schlesinger och syftar på halvledarljuskällan. Så det kanske inte gör ett lika bra jobb med att fånga covid-symtom för de med svart och brun hud.
AI har visat större effektivitet när det gäller att analysera enorma datamängder. Ett team vid Viterbi School of Engineering vid University of Southern California utvecklade ett AI-ramverk för att hjälpa till att analysera covid-19-vaccinkandidater. Efter att ha identifierat 26 potentiella kandidater, minskade det fältet till 11 som var mest sannolikt att lyckas. Datakällan för analysen var Immune Epitope Database, som inkluderar mer än 600 000 smittbestämningsfaktorer från mer än 3 600 arter.
Andra forskare från Viterbi använder AI för att dechiffrera kulturella koder mer exakt och bättre förstå de sociala normer som styr etniska och rasistiska gruppers beteende. Det kan ha en betydande inverkan på hur en viss befolkning klarar sig under en kris som pandemin, på grund av religiösa ceremonier, traditioner och andra sociala seder som kan underlätta viral spridning.
Ledande forskare Kristina Lerman och Fred Morstatter har baserat sin forskning på Moralisk grundteori , som beskriver den intuitiva etik som bildar en kulturs moraliska konstruktioner, såsom omtanke, rättvisa, lojalitet och auktoritet, som hjälper till att informera individens och gruppens beteende.
Vårt mål är att utveckla ett ramverk som gör att vi kan förstå dynamiken som driver beslutsprocessen i en kultur på en djupare nivå, säger Morstatter i en rapport släppt av USC . Och genom att göra det genererar vi mer kulturellt informerade prognoser.
Forskningen undersöker också hur man använder AI på ett etiskt och rättvist sätt. De flesta, men inte alla, är intresserade av att göra världen till en bättre plats, säger Schlesinger. Nu måste vi gå till nästa nivå – vilka mål vill vi uppnå och vilka resultat skulle vi vilja se? Hur ska vi mäta framgång och hur kommer det att se ut?
Att lindra etiska problem
Det är viktigt att undersöka antagandena om insamlad data och AI-processer, säger Schlesinger. Vi pratar om att uppnå rättvisa genom medvetenhet. I varje steg i processen gör du värdebedömningar eller antaganden som kommer att väga dina resultat i en viss riktning, säger han. Det är den grundläggande utmaningen med att bygga etisk AI, vilket är att titta på alla platser där människor är partiska.
En del av den utmaningen är att utföra en kritisk granskning av datamängderna som informerar AI-system. Det är viktigt att förstå datakällorna och sammansättningen av data, och att svara på frågor som: Hur är data uppbyggd? Omfattar det en mångfald av intressenter? Vilket är det bästa sättet att distribuera dessa data i en modell för att minimera partiskhet och maximera rättvisa?
När människor går tillbaka till jobbet kan arbetsgivare bli det nu använder avkänningsteknik med inbyggd AI , inklusive värmekameror för att upptäcka höga temperaturer; ljudsensorer för att upptäcka hosta eller upphöjda röster, vilket bidrar till spridningen av andningsdroppar; och videoströmmar för att övervaka procedurer för handtvätt, bestämmelser om fysiskt avstånd och maskkrav.
Sådana övervaknings- och analyssystem har inte bara tekniska precisionsutmaningar utan utgör kärnrisker för mänskliga rättigheter , integritet, säkerhet och förtroende . Drivkraften för ökad övervakning har varit en oroande bieffekt av pandemin. Statliga myndigheter har använt övervakningskameror, platsdata för smartphones, registreringar av kreditkortsköp och till och med passiva temperaturskanningar i trånga offentliga områden som flygplatser för att hjälpa till att spåra rörelser av personer som kan ha fått eller blivit utsatta för covid-19 och etablera virusöverföring kedjor.
Den första frågan som behöver besvaras är inte bara kan vi göra detta – utan borde vi? säger Schlesinger. Att skanna individer efter deras biometriska data utan deras samtycke väcker etiska problem, även om det är positionerat som en fördel för det större bästa. Vi bör ha ett robust samtal som samhälle om huruvida det finns goda skäl att implementera dessa teknologier i första hand.
Hur framtiden ser ut
När samhället återgår till något som närmar sig det normala är det dags att i grunden omvärdera förhållandet till data och etablera nya normer för insamling av data, såväl som lämplig användning – och potentiell missbruk – av data. När man bygger och distribuerar AI kommer teknologer att fortsätta att göra de nödvändiga antagandena om data och processer, men grunderna för dessa data bör ifrågasättas. Är uppgifterna legitima källor? Vem satte ihop den? Vilka antaganden bygger den på? Är det korrekt presenterat? Hur kan medborgarnas och konsumenternas integritet bevaras?
Eftersom AI är mer utbrett är det viktigt att överväga hur man också skapar förtroende. Att använda AI för att öka mänskligt beslutsfattande, och inte helt ersätta mänsklig input, är ett tillvägagångssätt.
Det kommer fler frågor om vilken roll AI ska spela i samhället, dess relation till människor och vad som är lämpliga uppgifter för människor och vad som är lämpliga uppgifter för en AI, säger Schlesinger. Det finns vissa områden där AI:s förmågor och dess förmåga att utöka mänskliga förmågor kommer att påskynda vårt förtroende och tillit. På platser där AI inte ersätter människor, utan ökar deras ansträngningar, är det nästa horisont.
Det kommer alltid att finnas situationer där en människa behöver vara delaktig i beslutsfattandet. I reglerade branscher, till exempel, som hälso- och sjukvård, bank och finans, måste det finnas en människa i kretsen för att upprätthålla efterlevnaden, säger Schlesinger. Du kan inte bara distribuera AI för att fatta vårdbeslut utan en läkares input. Så mycket som vi skulle älska att tro att AI är kapabel att göra det, har AI inte empati ännu, och kommer förmodligen aldrig att göra det.
Det är avgörande för data som samlas in och skapas av AI för att inte förvärra men minimera orättvisa. Det måste finnas en balans mellan att hitta sätt för AI att hjälpa till att påskynda mänskliga och sociala framsteg, främja rättvisa handlingar och svar och att helt enkelt inse att vissa problem kommer att kräva mänskliga lösningar.
Detta innehåll producerades av Insights, den anpassade innehållsdelen av MIT Technology Review. Den skrevs inte av MIT Technology Reviews redaktion.