Big Techs guide för att prata om AI-etik

Andrea Daquino

AI-forskare säger ofta att bra maskininlärning egentligen är mer konst än vetenskap. Detsamma kan sägas om effektiv PR. Att välja rätt ord för att slå en positiv ton eller omformulera konversationen om AI är en delikat uppgift: bra gjort kan det stärka ens varumärkesimage, men gjort dåligt kan det utlösa en ännu större motreaktion.

Teknikjättarna skulle veta. Under de senaste åren har de varit tvungna att lära sig den här konsten snabbt eftersom de har mött ökande misstro hos allmänheten mot sina handlingar och intensifierad kritik om sin AI-forskning och -teknologi.

Nu har de utvecklat ett nytt ordförråd att använda när de vill försäkra allmänheten att de bryr sig om att utveckla AI på ett ansvarsfullt sätt – men vill se till att de inte uppmanar till för mycket granskning. Här är en insiders guide för att avkoda deras språk och utmana de antaganden och värderingar som är inbakade.

ansvarighet (n) - Handlingen av hålla någon annan ansvarig för konsekvenserna när ditt AI-system misslyckas.

noggrannhet (n) - Teknisk korrekthet. Det viktigaste måttet på framgång för att utvärdera en AI-modells prestanda. Ser godkännande .

motståndare (n) - En ensam ingenjör som kan störa ditt kraftfulla intäktsgenererande AI-system. Ser robusthet , säkerhet .

inriktning (n) - Utmaningen att designa AI-system som gör vad vi säger åt dem och som värdesätter det vi värdesätter. Avsiktligt abstrakt. Undvik att använda verkliga exempel på skadliga oavsiktliga konsekvenser. Ser säkerhet .

artificiell allmän intelligens (fras) - En hypotetisk AI-gud det är förmodligen långt borta i framtiden men kanske också överhängande. Kan vara riktigt bra eller riktigt dåligt beroende på vilket som är mer retoriskt användbart. Uppenbarligen bygger du det bra. Vilket är dyrt. Därför behöver du mer pengar. Ser långsiktiga risker .

granska (n) - En recension att du betalar någon annan för att göra av ditt företag eller AI-system så att du framstår som mer transparent utan att behöva ändra något. Ser konsekvensanalys .

förstärka (v) - Att öka produktiviteten för tjänstemän. Bieffekt: automatisera bort arbetare. Sorgligt men oundvikligt.

välgörande (adj) - En filtbeskrivning för det du försöker bygga. Bekvämt dåligt definierad. Ser värde .

genom design (ph) - Som i fairness by design eller accountability by design. En fras för att signalera att du tänker hårt på viktiga saker från början.

efterlevnad (n) - Handlingen att följa lagen. Allt som inte är olagligt går.

dataetiketter (ph) - De människor som påstås existera bakom Amazons Mechanical Turk-gränssnitt att göra datarensningsarbete billigt. Osäker på vilka de är. Aldrig träffat dem.

demokratisera (v) - Att skala en teknik till varje pris. En motivering för att koncentrera resurserna. Ser skala .

mångfald, rättvisa och inkludering (ph) - Handlingen att anställa ingenjörer och forskare från marginaliserade grupper så att du kan paradera runt dem till allmänheten. Om de utmanar status quo, avfyra dem .

effektivitet (n) - Användningen av mindre data, minne, personal eller energi för att bygga ett AI-system.

etiknämnd (ph) - En grupp rådgivare utan verklig makt, sammankallade för att skapa intrycket att ditt företag aktivt lyssnar. Exempel: Googles AI-etiknämnd (inställd), Facebooks tillsynsnämnd (fortfarande kvar).

etiska principer (ph) - En uppsättning truismer som används för att signalera dina goda avsikter. Håll det på hög nivå. Ju vagare språk, desto bättre. Ser ansvarig AI .

förklaras (adj) - För att beskriva ett AI-system som du, utvecklaren och användaren kan förstå. Mycket svårare att uppnå för människorna som den används på. Förmodligen inte värt ansträngningen. Ser tolkbart .

rättvisa (n) - En komplicerad begreppet opartiskhet används för att beskriva opartiska algoritmer. Kan definieras på dussintals sätt baserat på dina önskemål.

för alltid (ph) - Som i AI för gott eller data för gott . Ett initiativ helt tangentiellt till din kärnverksamhet som hjälper dig att generera bra publicitet.

framsynthet (n) - Förmågan att se in i framtiden. I princip omöjligt: ​​alltså en helt rimlig förklaring till varför du inte kan befria ditt AI-system från oavsiktliga konsekvenser.

ramverk (n) - En uppsättning riktlinjer för att fatta beslut. Ett bra sätt att framstå som genomtänkt och mätt samtidigt som det försenar det faktiska beslutsfattandet.

generaliserbar (adj) - Tecknet på en bra AI-modell. En som fortsätter att arbeta under föränderliga förhållanden. Ser verkliga världen .

styrning (n) - Byråkrati.

människocentrerad design (ph) - En process som innebär att man använder personas för att föreställa sig vad en genomsnittlig användare kan önska sig av ditt AI-system. Kan innebära att man ber om feedback från faktiska användare. Bara om det finns tid. Ser intressenter .

människa i slingan (ph) - Varje person som är en del av ett AI-system. Ansvaret sträcker sig från fejka systemets kapacitet för att avvärja anklagelser om automatisering.

konsekvensanalys (ph) - En recension som du själv gör av ditt företag eller AI-system för att visa din vilja att överväga dess nackdelar utan att ändra något. Ser granska .

tolkbart (adj) – Beskrivning av ett AI-system vars beräkning du, utvecklaren, kan följa steg för steg för att förstå hur det kom fram till sitt svar. Egentligen förmodligen bara linjär regression. AI låter bättre.

integritet (n) - Problem som undergräver din modells tekniska prestanda eller ditt företags förmåga att skala. Inte att förväxla med frågor som är dåliga för samhället. Ej att förväxla med ärlighet.

tvärvetenskaplig (adj) – Term som används för alla lag eller projekt som involverar personer som inte kodar: användarforskare, produktchefer, moralfilosofer. Särskilt moralfilosofer.

långsiktiga risker (n) - Dåliga saker som kan få katastrofala effekter i en avlägsen framtid. Kommer förmodligen aldrig att hända, men viktigare att studera och undvika än de omedelbara skadorna av befintliga AI-system.

partners (n) - Andra elitgrupper som delar din världsbild och kan arbeta med dig för att upprätthålla status quo. Ser intressenter .

sekretessavvägning (ph) - Det ädla offret av individuell kontroll över personlig information för gruppförmåner som AI-drivna framsteg inom hälsovården, som också råkar vara mycket lönsamma.

framsteg (n) - Vetenskapliga och tekniska framsteg. En inneboende goda.

verkliga världen (ph) - Motsatsen till den simulerade världen. En dynamisk fysisk miljö fylld med oväntade överraskningar som AI-modeller är tränade för att överleva. Ej att förväxla med människor och samhälle.

reglering (n) - Vad du efterlyser att överföra ansvaret för att mildra skadlig AI på beslutsfattare. Inte att förväxla med politik som skulle hindra din tillväxt.

ansvarig AI (n)- En moniker för allt arbete på ditt företag som skulle kunna tolkas av allmänheten som ett uppriktigt försök att mildra skadorna på dina AI-system.

robusthet (n) - Förmågan hos en AI-modell att fungera konsekvent och exakt under skändliga försök att mata den skadad data .

säkerhet (n)- Utmaningen med att bygga AI-system som inte är oseriösa från designerns avsikter. Inte att förväxla med att bygga AI-system som inte misslyckas. Ser inriktning .

skala (n)- Slutsatsen de facto som alla bra AI-system bör sträva efter att uppnå.

säkerhet (n) - Handlingen att skydda värdefull eller känslig data och AI-modeller från att kränkas av dåliga aktörer. Ser motståndare .

intressenter (n) - Aktieägare, tillsynsmyndigheter, användare. Människorna vid makten vill du hålla lyckliga.

genomskinlighet (n) - Avslöja din data och kod. Dåligt för proprietär och känslig information. Alltså riktigt svårt; ärligt talat, till och med omöjligt. Inte att förväxla med tydlig kommunikation om hur ditt system faktiskt fungerar.

pålitlig (adj) - En bedömning av ett AI-system som kan tillverkas med tillräckligt koordinerad publicitet.

universell basinkomst (ph) - Tanken att betala alla en fast lön kommer att lösa den massiva ekonomiska omvälvningen som orsakas när automatisering leder till omfattande förlust av jobb. Populariserad av 2020 års presidentkandidat Andrew Yang. Ser omfördelning av välstånd .

godkännande (n) - Processen att testa en AI-modell på andra data än den som den tränades på, för att kontrollera att den fortfarande är korrekt.

värde (n) - En immateriell fördel som ger dina användare mycket pengar.

värden (n) - Du har dem. Påminn folk.

omfördelning av välstånd (ph) - En användbar idé att dingla runt när folk granskar dig för att du använder alldeles för mycket resurser och tjänar alldeles för mycket pengar. Hur skulle omfördelning av välstånd fungera? Universell basinkomst, förstås. Inte heller något man kan komma på själv. Skulle kräva reglering. Ser reglering .

undanhålla publicering (ph) - Den välvilliga handlingen att välja att inte öppna källkod för din kod eftersom den kan falla i händerna på en dålig skådespelare. Bättre att begränsa tillgången till partners vem har råd.

Dölj