211service.com
Vad man ska göra när en robot är den skyldige
Ska regeringen reglera artificiell intelligens? Det var den centrala frågan första Vita husets workshop om de juridiska och styrande konsekvenserna av AI, som hölls i Seattle på tisdagen.
Vi observerar problem kring AI och maskininlärning som dyker upp över hela regeringen, säger Ed Felten, Vita husets biträdande tekniska chef. Vi är inte i närheten av punkten med att generellt reglera AI ... men utmaningen är hur vi ska säkerställa att AI förblir säker, kontrollerbar och förutsägbar när den blir smartare.
Ett av de viktigaste syftena med workshopen, sa en av dess arrangörer, juridikprofessor vid University of Washington Ryan Calo , var att hjälpa allmänheten att förstå var tekniken är nu och vart den är på väg. Tanken är inte att regeringen ska gå in och reglera AI utan snarare att använda dess många andra spakar, som samordning mellan byråerna och upphandlingskraft, sa han. Bland deltagarna fanns teknikentreprenörer, akademiker och allmänheten.
I ett huvudtal noterade Oren Etzioni, VD för Allen Institute for Artificial Intelligence, att vi fortfarande befinner oss i den mörka tidsåldern av maskininlärning, med AI-system som i allmänhet bara fungerar bra på välstrukturerade problem som brädspel och motorvägskörning. Han förespråkade ett samarbetssätt där AI kan hjälpa människor att bli säkrare och effektivare. Sjukhusfel är den tredje ledande dödsorsaken i USA, sade han. AI kan hjälpa till här. Varje år dör människor för att vi inte använder AI ordentligt på sjukhus.
Oren Etzioni, VD för Allen Institute for Artificial Intelligence, till vänster, talar med deltagare vid Vita husets workshop om artificiell intelligens.
Ändå anser Etzioni att det är alldeles för tidigt att prata om att reglera AI: Deep learning är fortfarande 99 procent mänskligt arbete och mänsklig uppfinningsrikedom. 'Min robot gjorde det' är ingen ursäkt. Vi måste ta ansvar för vad våra robotar, AI och algoritmer gör.
En panel om artificiell visdom fokuserade på när dessa interaktioner mellan människa och AI går fel, till exempel fallet med en algoritm utformad för att förutsäga framtida brottslingar som verkar vara rasistiskt partisk. Problemet handlar inte om AI-agenterna själva, det handlar om att människor använder tekniska verktyg för att förtrycka andra människor inom ekonomi, straffrätt och utbildning, säger Jack Balkin från Yale Law School.
Flera akademiker stödde idén om en informationsförtroendeman: att ge människor som samlar in big data och använder AI de lagliga skyldigheterna att vara god tro och trovärdighet. Till exempel kan teknologer hållas ansvariga om de använder data av dålig kvalitet för att träna AI-system, eller fossila fördomar baserade på ras, ålder eller kön i de algoritmer de designar.
Eftersom statliga institutioner i allt högre grad förlitar sig på AI-system för beslutsfattande kommer dessa institutioner att behöva personal som förstår de begränsningar och fördomar som är inneboende i data- och AI-teknik, noteras Kate Crawford , samhällsvetare vid Microsoft Research. Hon föreslog att eleverna skulle läras ut etik vid sidan av programmeringskunskaper.
Bryant Walker Smith från University of South Carolina föreslog regleringsflexibilitet för snabbt utvecklande teknologier, som förarlösa bilar. Enskilda företag bör offentliggöra sina autonoma fordons säkerhet, sa han. De bör fastställa åtgärder och sedan övervaka dem under deras systems livslängd. Vi behöver en mångfald av tillvägagångssätt för att informera den offentliga debatten.
Detta var den första av fyra workshops som planerades för de kommande månaderna. Två kommer att ta upp AI för socialt bästa och frågor kring säkerhet och kontroll, medan den sista kommer att gräva djupare i teknikens sociala och ekonomiska implikationer. Felten meddelade också att Vita huset inom kort skulle utfärda en begäran om information för att ge allmänheten en möjlighet att väga in framtiden för AI.
Elefanten i rummet var naturligtvis presidentvalet i november. I en blogginlägg tidigare denna månad avslöjade Felten en ny underkommitté för National Science and Technology Council för maskininlärning och artificiell intelligens, fokuserad på att använda AI för att förbättra statliga tjänster mellan nu och slutet av administrationen.