211service.com
Bortom AI-hypecykeln: Förtroende och framtiden för AI
Tillhandahålls av Nyans
Det råder ingen brist på löften när det kommer till AI. Vissa säger att det kommer att lösa alla problem medan andra varnar att det kommer att medföra slutet på världen som vi känner den. Båda positionerna spelas regelbundet ut i Hollywoods handlingslinjer som Westworld, kolsvart, Minoritetsrapport, Henne, och Ex Machine . Dessa berättelser är övertygande eftersom de kräver att vi som skapare och konsumenter av AI-teknik avgör om vi litar på ett AI-system eller, mer exakt, litar på vad systemet gör med den information det har getts.
Detta innehåll har producerats av Nuance. Den skrevs inte av MIT Technology Reviews redaktion.
Joe Petro är CTO på Nuance.
Dessa berättelser ger också en viktig lärdom för de av oss som ägnar våra dagar åt att designa och bygga AI-applikationer: förtroende är en avgörande faktor för att avgöra framgången för en AI-applikation. Vem vill interagera med ett system de inte litar på?
Den svarta lådan och att förstå det okända
Även som en begynnande teknologi är AI otroligt komplex och kraftfull och ger fördelar genom att utföra beräkningar och upptäcka mönster i enorma datamängder med snabbhet och effektivitet. Men den kraften, i kombination med svarta lådans uppfattningar om AI och dess aptit på användardata, introducerar många variabler, okända och möjliga oavsiktliga konsekvenser. Dolt i praktiska tillämpningar av AI är det faktum att förtroende kan ha en djupgående effekt på användarens uppfattning om systemet, såväl som de associerade företag, leverantörer och varumärken som tar ut dessa applikationer på marknaden.
Framsteg som allestädes närvarande moln och kantberäkningskraft gör AI mer kapabel och effektiv samtidigt som det gör det enklare och snabbare att bygga och distribuera applikationer. Historiskt sett har fokus legat på mjukvaruutveckling och design av användarupplevelser. Men det handlar inte längre om att bara designa ett system som löser sig x . Det är vårt ansvar att skapa en engagerande, personlig, friktionsfri och pålitlig upplevelse för varje användare.
AI är datahungrig: Vet vad du matar med den
Möjligheten att göra detta framgångsrikt är till stor del beroende av användardata. Systemprestandan, tillförlitligheten och användarnas förtroende för AI-modellens utdata påverkas lika mycket av kvaliteten på modelldesignen som data som går in i den. Data är bränslet som driver AI-motorn som praktiskt taget omvandlar den potentiella energin från användardata till kinetisk energi i form av handlingsbara insikter och intelligent utdata. Precis som att fylla en Formel 1-racerbil med dåligt eller smutsigt bränsle skulle minska prestandan, och förarens förmåga att tävla, kan ett AI-system tränat med felaktiga eller otillräckliga data producera felaktiga eller oförutsägbara resultat som bryter användarnas förtroende. När förtroendet väl har brutits är det svårt att återvinna. Det är därför rigorösa metoder för dataförvaltning av AI-utvecklare och -leverantörer är avgörande för att bygga effektiva AI-modeller samt skapa kundacceptans, tillfredsställelse och behålla.
Ansvarsfullt dataförvaltning etablerar en kedja av förtroende som sträcker sig från konsumenter till företag som samlar in användardata och de av oss som bygger AI-drivna system. Det är vårt ansvar att känna till och förstå integritetslagar och policyer och överväga säkerhet och efterlevnad under den primära designfasen. Vi måste ha en djup förståelse för hur uppgifterna används och vem som har tillgång till den. Vi behöver också upptäcka och eliminera dolda fördomar i data genom omfattande tester.
Behandla användardata som proprietär 'källkod'
Behandla användardata som känslig immateriell egendom (IP). Det är den egenutvecklade källkoden som används för att bygga AI-modeller som löser specifika problem, skapar skräddarsydda upplevelser och uppnår riktade önskade resultat. Dessa data härrör från personliga användarinteraktioner, såsom samtal mellan konsumenter och samtalsombud, läkare och patienter samt banker och kunder. Det är känsligt eftersom det skapar intima, mycket detaljerade digitala användarprofiler baserade på privatekonomisk, hälso-, biometrisk och annan information.
Användardata måste skyddas och användas lika noggrant som alla andra IP, särskilt för AI-system i starkt reglerade branscher som hälso- och sjukvård och finansiella tjänster. Läkare använder AI-tal, förståelse för naturliga språk och virtuella samtalsagenter skapade med patienthälsodata för att dokumentera vård och åtkomst diagnostisk vägledning i realtid . Inom bank- och finansiella tjänster behandlar AI-system miljontals kundtransaktioner och använder biometriska röstavtryck, ögonrörelser och beteendedata (till exempel hur snabbt du skriver, orden du använder, vilken hand du sveper med) för att upptäcka eventuella bedrägerier eller autentisera användaridentiteter .
Både vårdgivare och företag skapar sin egen digitala ytterdörr som ger effektiva, personliga användarupplevelser via SMS, webb, telefon, video, appar och andra kanaler. Konsumenter väljer också tidsbesparande digitala interaktioner i realtid. Hälsovårds- och kommersiella organisationer vill med rätta kontrollera och skydda sina patient- och kundrelationer och data i varje metod för digitalt engagemang för att bygga varumärkesmedvetenhet, personliga interaktioner och lojalitet.
Varje AI-leverantör och utvecklare behöver inte bara vara medveten om användardatas inneboende känsliga natur utan också om behovet av att arbeta med höga etiska standarder för att bygga och upprätthålla den nödvändiga förtroendekedjan.
Här är nyckelfrågor att överväga:
Vem har tillgång till uppgifterna? Ha en tydlig och transparent policy som inkluderar strikta skydd som att begränsa åtkomsten till vissa typer av data och förbjuda återförsäljning eller delning från tredje part. Samma policyer bör gälla för molnleverantörer eller andra utvecklingspartners.
Var lagras uppgifterna och hur länge? Fråga var data finns (moln, kant, enhet) och hur länge den kommer att sparas. Genomförandet av EU:s allmänna dataskyddsförordning, California Consumer Privacy Act, och utsikterna till ytterligare statligt och federalt integritetsskydd bör göra datalagring och lagringsmetoder i fokus under AI-utveckling.
Hur definieras och delas förmåner? AI-applikationer måste också testas med olika datauppsättningar för att återspegla de avsedda verkliga applikationerna, eliminera oavsiktlig fördom och säkerställa tillförlitliga resultat.
Hur visar sig uppgifterna i systemet? Förstå hur data kommer att flöda genom systemet. Får man tillgång till känslig data och bearbetas i huvudsak av ett neuralt nät som en serie av nollor och ettor, eller lagras de i sin ursprungliga form med medicinsk eller personligt identifierande information? Upprätta och följ lämpliga policyer för datalagring och radering för varje typ av känslig data.
Vem kan realisera kommersiellt värde från användardata? Överväg de potentiella konsekvenserna av datadelning för ändamål utanför den ursprungliga omfattningen eller källan till datan. Redogör för möjliga sammanslagningar och förvärv, möjliga uppföljningsprodukter och andra faktorer.
Är systemet säkert och kompatibelt? Designa och bygg först för integritet och säkerhet. Tänk på hur transparens, användarsamtycke och systemprestanda kan påverkas under produktens eller tjänstens livscykel.
Verkligheten med AI i aktion
Biometriska applikationer hjälper till att förhindra bedrägerier och förenklar autentiseringen. HSBC:s VoiceID röstbiometrisystem har framgångsrikt förhindrat stöld av nästan 400 miljoner pund (cirka 493 miljoner dollar) av telefonbedragare i Storbritannien. Den jämför en persons röstavtryck med tusentals individuella talegenskaper i en etablerad röstpost för att bekräfta en användares identitet. Andra företag använder röstbiometri för att validera identiteten för fjärranställda i callcenter innan de kan komma åt proprietära system och data. Behovet av sådana åtgärder ökar i takt med att konsumenter genomför mer digitala och telefonbaserade interaktioner.
Intelligenta applikationer levererar säker, personlig kundservice som är den digitala först. Ett globalt telekommunikationsföretag använder konversations-AI för att skapa konsekventa, säkra och personliga kundupplevelser över sin stora och mångsidiga varumärkesportfölj. Med kunder som i allt högre grad engagerar sig över digitala kanaler, vände företaget till teknikpartners för att utöka sin egen interna expertis samtidigt som det säkerställde att det skulle behålla kontrollen över sin data när de distribuerade en virtuell assistent för kundtjänst.
En topp-tre-återförsäljare använder röststyrd virtuell assistent-teknik för att låta shoppare ladda upp foton av varor de har sett offline, och presenterar sedan varor som de kan överväga att köpa baserat på dessa bilder.
Ambient AI-drivna kliniska applikationer förbättrar hälsovårdsupplevelser samtidigt som de lindrar läkares utbrändhet. EmergeOrtho i North Carolina använder Nuance Dragon Ambient Experience (DAX)-applikation för att förändra hur dess ortopediska metoder över hela staten kan samverka med patienter och dokumentvård. Den omgivande kliniska intelligensen telehealth-applikationen fångar exakt varje läkare-patient-interaktion i undersökningsrummet eller på ett telehälsosamtal och uppdaterar sedan automatiskt patientens hälsojournal. Patienter har läkarens fulla uppmärksamhet samtidigt som de effektiviserar det elektroniska pappersarbete som orsakar utbrändhet som läkare måste slutföra för att få betalt för att ge vård.
AI-drivna diagnostiska bildsystem säkerställer att patienter får nödvändig uppföljningsvård. Radiologer på flera sjukhus använder AI och naturlig språkbehandling för att automatiskt identifiera och extrahera rekommendationer för uppföljningsundersökningar för misstänkt cancer och andra sjukdomar som ses på röntgen och andra bilder. Samma teknik kan hjälpa till att hantera en ökning av eftersläpning och uppföljningsbilder när covid-19-restriktionerna lättar, vilket gör det möjligt för leverantörer att schemalägga procedurer, påbörja intäktsåtervinning och upprätthålla patientvård.
När den digitala transformationen accelererar måste vi lösa de utmaningar vi står inför idag samtidigt som vi förbereder oss för ett överflöd av framtida möjligheter. Kärnan i detta arbete är engagemanget för att bygga förtroende och dataförvaltning i våra AI-utvecklingsprojekt och -organisationer.