211service.com
Tech Giants brottas med de etiska farhågorna från AI-boomen
Med stor makt följer ett stort ansvar – och teknik med artificiell intelligens blir mycket kraftfullare. Företag i spetsen för att utveckla och distribuera maskininlärning och AI börjar nu prata öppet om etiska utmaningar som deras allt smartare skapelser väckt.
Vi är här vid en brytpunkt för AI, sa Eric Horvitz, vd för Microsoft Research, vid MIT Technology Review s EmTech-konferens denna vecka. Vi har ett etiskt krav att utnyttja AI för att skydda och bevara över tid.
Horvitz talade tillsammans med forskare från IBM och Google och funderade på liknande frågor. En gemensam oro var att de senaste framstegen leder till att företag placerar programvara i positioner med mycket direkt kontroll över människor – till exempel inom hälso- och sjukvården.
Francesca Rossi , en forskare vid IBM, gav exemplet med en maskin som ger hjälp eller sällskap till äldre människor. Den här roboten måste följa kulturella normer som är kulturspecifika och uppgiftsspecifika, sa hon. [Och] om du skulle distribuera i USA eller Japan, skulle det beteendet behöva vara väldigt annorlunda.
Sådana robotar kan fortfarande vara en väg bort, men etiska utmaningar som AI tar upp är redan här. Eftersom företag och regeringar förlitar sig mer på maskininlärningssystem för att fatta beslut, kan blinda fläckar eller fördomar i tekniken effektivt leda till diskriminering av vissa typer av människor.
En ProPublica-utredning förra året fann till exempel att ett riskbedömningssystem som används i vissa stater för att informera om straffrättsliga straff var partisk mot svarta . På liknande sätt beskrev Horvitz hur en tjänst för känsloigenkänning som utvecklats hos Microsoft för användning av företag från början var felaktig för små barn eftersom den tränades med hjälp av en påse med bilder som inte var korrekt sammanställd.
Maya Gupta, en forskare på Google, uppmanade industrin att arbeta hårdare med att utveckla processer för att säkerställa att data som används för att träna algoritmer inte är skev. Många gånger skapas dessa datamängder på ett något automatiserat sätt, sa Gupta. Vi måste tänka mer på, gör vi tillräckligt med urval från minoritetsgrupper för att vara säkra på att vi gjorde ett tillräckligt bra jobb?
Under det senaste året har många ansträngningar för att forska om de etiska utmaningarna med maskininlärning och AI vuxit fram i akademin och industrin. University of California, Berkeley; Harvard; och universiteten i Oxford och Cambridge har alla startat program eller institut för att arbeta med etik och säkerhet inom AI. 2016 grundade Amazon, Microsoft, Google, IBM och Facebook tillsammans en ideell organisation som heter Partnerskap om AI att arbeta med problemet (Apple gick med i januari).
Företag vidtar också individuella åtgärder för att bygga skydd kring sin teknik. Gupta lyfte fram forskning på Google som testar sätt att korrigera partiska maskininlärningsmodeller, eller förhindra att de blir snedställda i första hand. Horvitz beskrev Microsofts interna etikstyrelse för AI, kallad AETHER, som överväger saker som nya beslutsalgoritmer utvecklade för företagets tjänster i molnet. Även om det för närvarande är befolkat med Microsoft-anställda, hoppas företaget i framtiden kunna lägga till externa röster också. Google har startat sin egen etikstyrelse för AI.
Det kanske inte är överraskande att företagen som skapar sådana program i allmänhet hävdar att de undanröjer behovet av nya former av statlig reglering av artificiell intelligens. Men på EmTech uppmuntrade Horvitz också diskussioner om extrema resultat som kan få vissa människor att dra slutsatsen motsatsen.
I februari sammankallade han en workshop där experter i detalj beskrev hur AI kan skada samhället genom att göra saker som att bråka med aktiemarknaden eller valresultat. Om du är proaktiv kan du komma med resultat som är genomförbara och sätta mekanismer på plats för att störa dem nu, sa Horvitz.
Den typen av prat verkade göra några av dem han delade scen med i San Francisco nervös. Gupta från Google uppmuntrade människor att också överväga hur att ta vissa beslut ur händerna på människor kan göra världen mer moralisk än den är nu.
Maskininlärning är kontrollerbar och exakt och mätbar med statistik, sa hon. Det finns så många möjligheter till mer rättvisa och mer etiska resultat.