'Trustworthy AI' är ett ramverk för att hantera unika risker

'Trustworthy AI' är ett ramverk för att hantera unika risker

Tillhandahålls av Deloitte AI Institute

Tekniken för artificiell intelligens (AI) fortsätter att utvecklas med stormsteg och håller snabbt på att bli en potentiell störare och viktig möjliggörare för nästan alla företag i varje bransch. I det här skedet är ett av hindren för utbredd AI-utbyggnad inte längre själva tekniken; snarare är det en uppsättning utmaningar som ironiskt nog är mycket mer mänskliga: etik, styrning och mänskliga värderingar.

Irfan Saif är rektor på Deloitte Risk and Financial Advisory. Beena Ammanath är verkställande direktör på Deloitte Consulting LLP.

När AI expanderar till nästan alla aspekter av det moderna livet ökar riskerna för att missköta AI exponentiellt – till en punkt där dessa risker bokstavligen kan bli en fråga om liv och död. Verkliga exempel på AI som har gått snett inkluderar system som diskriminerar människor baserat på deras ras, ålder eller kön och sociala mediesystem som oavsiktligt sprider rykten och desinformation med mera.

Ännu värre, dessa exempel är bara toppen av ett isberg. När AI används i större skala kommer de associerade riskerna sannolikt bara att öka – vilket kan få allvarliga konsekvenser för samhället i stort och ännu större konsekvenser för de ansvariga företagen. Ur ett affärsperspektiv inkluderar dessa potentiella konsekvenser allt från stämningar, regulatoriska böter och arga kunder till förlägenhet, skada på rykte och förstörelse av aktieägarvärde.

Men eftersom AI nu blir en nödvändig affärskapacitet – inte bara en trevlig att ha – har företag inte längre möjlighet att undvika AI:s unika risker helt enkelt genom att helt undvika AI. Istället måste de lära sig att identifiera och hantera AI-risker effektivt. För att uppnå potentialen för samarbete mellan människor och maskiner måste organisationer kommunicera en plan för AI som antas och talas från postrummet till styrelserummet. Genom att ha ett etiskt ramverk på plats skapar organisationer ett gemensamt språk för att formulera förtroende och hjälpa till att säkerställa dataintegritet bland alla deras interna och externa intressenter. Att ha ett gemensamt ramverk och lins för att tillämpa styrning och hantering av risker förknippade med AI konsekvent i hela företaget kan möjliggöra snabbare och mer konsekvent införande av AI.

Ramverket för pålitligt AI

För att bättre ta itu med utmaningarna relaterade till AI-etik och styrning – det hjälper till att utnyttja ett ramverk. Deloittes Trustworthy AI-ramverk introducerar sex nyckeldimensioner som, när de betraktas tillsammans i design-, utvecklings-, distributions- och driftsfaserna av AI-systemimplementering, kan hjälpa till att skydda etiken och bygga en pålitlig AI-strategi.

Pålitlig AI-ramverket är utformat för att hjälpa företag att identifiera och minska potentiella risker relaterade till AI-etik i varje skede av AI-livscykeln. Här är en närmare titt på var och en av ramverkets sex dimensioner.

Ramverket för pålitligt AI

1. Rättvis, inte partisk

Pålitlig AI måste utformas och tränas för att följa en rättvis, konsekvent process och fatta rättvisa beslut. Den måste också omfatta interna och externa kontroller för att minska diskriminerande partiskhet.

Bias är en pågående utmaning för människor och samhälle, inte bara AI. Utmaningen är dock ännu större för AI eftersom den saknar en nyanserad förståelse för sociala standarder – för att inte tala om den extraordinära allmänna intelligens som krävs för att uppnå sunt förnuft – som potentiellt leder till beslut som är tekniskt korrekta men socialt oacceptabla. AI lär sig av datamängderna som används för att träna den, och om dessa datamängder innehåller verkliga bias kan AI-system lära sig, förstärka och sprida denna bias i digital hastighet och skala.

Till exempel kan ett AI-system som direkt bestämmer var du ska placera jobbannonser på nätet orättvist rikta annonser för högre betalda jobb mot en webbplatss manliga besökare eftersom den verkliga informationen visar att män vanligtvis tjänar mer än kvinnor. På samma sätt kan ett finansiellt tjänsteföretag som använder AI för att granska bolåneansökningar upptäcka att dess algoritm diskriminerar människor på ett orättvist sätt baserat på faktorer som inte är socialt acceptabla, såsom ras, kön eller ålder. I båda fallen kan företaget som är ansvarigt för AI möta betydande konsekvenser, inklusive lagstadgade böter och skada på rykte.

För att undvika problem relaterade till rättvisa och partiskhet måste företag först avgöra vad som är rättvist. Detta kan vara mycket svårare än det låter eftersom det för en given fråga i allmänhet inte finns någon enskild definition av rättvis som alla människor är överens om. Företag måste också aktivt leta efter partiskhet inom sina algoritmer och data, göra de nödvändiga justeringarna och implementera kontroller för att säkerställa att ytterligare fördomar inte dyker upp oväntat. När bias upptäcks måste den förstås och sedan mildras genom etablerade processer för att lösa problemet och återuppbygga kundernas förtroende.

AI kan inte längre behandlas som en svart låda som tar emot input och genererar utdata utan en tydlig förståelse för vad som pågår inuti.

2. Transparent och förklarlig

För att AI ska vara pålitlig har alla deltagare rätt att förstå hur deras data används och hur AI:n fattar beslut. AI:s algoritmer, attribut och korrelationer måste vara öppna för inspektion och dess beslut måste kunna förklaras fullt ut.

Eftersom beslut och processer som förlitar sig på AI ökar både i antal och betydelse, kan AI inte längre behandlas som en svart låda som tar emot input och genererar utdata utan en tydlig förståelse för vad som pågår inuti.

Till exempel är onlineåterförsäljare som använder AI för att ge produktrekommendationer till kunder pressade att förklara sina algoritmer och hur rekommendationsbeslut fattas. På samma sätt står det amerikanska domstolssystemet inför pågående kontroverser angående användningen av ogenomskinliga AI-system för att informera om straffrättsliga beslut.

Viktiga frågor att överväga inom detta område inkluderar att identifiera de AI-användningsfall för vilka transparens och förklaring är särskilt viktiga, och sedan förstå vilken data som används och hur beslut fattas för dessa användningsfall. Även när det gäller transparens finns det ett växande tryck på att uttryckligen informera människor när de interagerar med AI, istället för att ha AI maskerad som en riktig person.

3. Ansvarsfull och ansvarsfull

Pålitliga AI-system måste inkludera policyer som tydligt fastställer vem som är ansvarig och ansvarig för deras produktion. Att skylla själva tekniken för dåliga beslut och missräkningar är helt enkelt inte tillräckligt bra – inte för de människor som skadas, och absolut inte för statliga tillsynsmyndigheter. Detta är en nyckelfråga som sannolikt bara kommer att bli viktigare eftersom AI används för ett växande utbud av allt mer kritiska applikationer som sjukdomsdiagnostik, förmögenhetsförvaltning och autonom körning.

Till exempel, om ett förarlöst fordon orsakar en kollision, vem är ansvarig och ansvarig för skadan? Föraren? Fordonsägaren? Tillverkaren? AI-programmerare? Vd?

Tänk på samma sätt exemplet med ett värdepappersföretag som använder en automatiserad plattform som drivs av AI för att handla på uppdrag av sina kunder. Om en klient investerar sina livsbesparingar genom företaget och sedan förlorar allt på grund av dåliga algoritmer, bör det finnas en mekanism på plats för att identifiera vem som är ansvarig för problemet och vem som är ansvarig för att göra saker rätt.

Nyckelfaktorer att överväga inkluderar vilka lagar och förordningar som kan avgöra juridiskt ansvar och om AI-system är granskningsbara och omfattas av befintliga whistleblower-lagar. Hur kommer problemen att kommuniceras till allmänheten och tillsynsmyndigheterna, och vilka konsekvenser kommer de ansvariga att möta?

4. Robust och pålitlig

För att AI ska uppnå en utbredd användning måste den vara minst lika robust och pålitlig som de traditionella systemen, processerna och människorna som den utökar eller ersätter.

För att AI ska anses trovärdigt måste det vara tillgängligt när det ska vara tillgängligt och måste generera konsekventa och tillförlitliga utdata – utföra uppgifter ordentligt under mindre än idealiska förhållanden och när man möter oväntade situationer och data. Pålitlig AI måste skala upp väl, förbli robust och pålitlig när dess inverkan expanderar och växer. Och om det misslyckas måste det misslyckas på ett förutsägbart, förväntat sätt.

Tänk på exemplet med ett hälsovårdsföretag som använder AI för att identifiera avvikelser i hjärnskanningar och ordinera lämplig behandling. För att vara pålitlig är det absolut nödvändigt att Al-algoritmerna ger konsekventa och tillförlitliga resultat eftersom liv kan vara på spel.

Företag måste överväga och hantera alla typer av risker – externa, fysiska, digitala – och sedan kommunicera dessa risker till användarna.

För att uppnå AI som är robust och pålitlig måste företag säkerställa att deras AI-algoritmer ger rätt resultat för varje ny datamängd. De behöver också etablerade processer för att hantera problem och inkonsekvenser om och när de uppstår. Den mänskliga faktorn är ett kritiskt element här: förstå hur mänsklig insats påverkar tillförlitlighet; bestämma vem de rätta personerna är att ge input; och se till att dessa människor är ordentligt utrustade och utbildade – särskilt när det gäller partiskhet och etik.

5. Respekt för privatlivet

Sekretess är en kritisk fråga för alla typer av datasystem, men den är särskilt kritisk för AI eftersom de sofistikerade insikterna som genereras av AI-system ofta härrör från data som är mer detaljerad och personlig. Pålitlig AI måste följa datareglerna och endast använda data för de angivna och överenskomna ändamålen.

Frågan om AI-integritet sträcker sig ofta utanför företagets egna väggar. Till exempel har integriteten för ljuddata som fångats av AI-assistenter skapat rubriker nyligen, med kontroverser som har uppstått om i vilken utsträckning ett företags leverantörer och partners ges tillgång till data, och om uppgifterna ska delas med brottsbekämpande myndigheter.

Företag måste veta vilken kunddata som samlas in och varför, och om informationen används på det sätt som kunderna har förstått och kommit överens om. Dessutom bör kunder ges den erforderliga nivån av kontroll över sina data, inklusive förmågan att välja in eller välja bort att få sina uppgifter delade. Och om kunder har farhågor om datasekretess behöver de en möjlighet att uttrycka dessa farhågor.

6. Tryggt och säkert

För att vara pålitlig måste AI skyddas från cybersäkerhetsrisker som kan leda till fysisk och/eller digital skada. Även om säkerhet och säkerhet är helt klart viktiga för alla datorsystem, är de särskilt avgörande för AI på grund av AI:s stora och ökande roll och inverkan på verkliga aktiviteter.

Till exempel, om ett AI-baserat ekonomisystem hackas kan resultatet bli skada på rykte och förlorade pengar eller data. Det är naturligtvis allvarliga konsekvenser. Men de är inte alls lika allvarliga som de potentiella konsekvenserna av att ett AI-drivet fordon hackas, vilket kan sätta människors liv på spel.

Ett annat exempel på AI-cybersäkerhetsrisk är ett nyligen genomfört dataintrång som involverar miljontals fingeravtryck och ansiktsigenkänning . Detta brott var särskilt allvarligt eftersom det gällde människors biometriska data, som är permanent och inte kan ändras (till skillnad från ett stulet lösenord eller annan standardtyp av data som snabbt och enkelt kan ändras för att begränsa skadan).

För att säkerställa säkerheten och säkerheten för sina AI-system måste företag noggrant överväga och ta itu med alla typer av risker – externa, fysiska och digitala bland många andra – och sedan kommunicera dessa risker till användarna. Även om externa risker tenderar att få mest uppmärksamhet, kan interna risker som bedrägerier vara lika allvarliga. För varje användningsfall av AI måste företagen bedöma om de potentiella fördelarna tillräckligt överväger de associerade riskerna.

AI du kan lita på

AI-etik framträder som den enskilt största utmaningen för fortsatta AI-framsteg och utbredd implementering – och det är en utmaning som företag inte längre kan ignorera nu när AI håller på att bli en viktig affärskapacitet. Trustworthy AI-ramverket erbjuder ett strukturerat och heltäckande sätt att tänka på AI-etik, och hjälper företag att designa, utveckla, distribuera och driva AI-system som de kan lita på.

För mer information besök www.deloitte.com/us/trustai .

Dölj