Microsofts vd kräver ansvarsfull AI, ignorerar algoritmerna som redan styr våra liv

Microsofts vd Satya Nadella är oroad över den makt som artificiell intelligens kommer att ha över våra liv. I ett inlägg på Skiffer igår rådde han dataindustrin att börja fundera nu på hur man designar intelligent programvara för att respektera vår mänsklighet .

Teknikindustrin borde inte diktera värderingarna och dygderna för denna framtid, skrev han.

Nadella efterlyste algoritmisk ansvarighet så att människor kan ångra oavsiktlig skada. Han sa att smart programvara måste utformas på ett sätt som låter oss inspektera hur det fungerar och förhindrar att det diskriminerar vissa personer eller använder privata data på otrevliga sätt.

Microsofts vd Satya Nadella.

Dessa är ädla och rationella angelägenheter - men sådana som tekniska ledare borde ha pratat om för en tid sedan. Det finns gott om bevis för att de algoritmer och mjukvara som formar det dagliga livet redan kan präglas av besvärande fördomar.

Studier från Federal Trade Commission har hittat tecken på det rasistiska och ekonomiska fördomar som fördömdes i tider före Internet dyker nu upp igen i systemen som driver riktade annonser och andra onlinetjänster. I Wisconsin pågår en strid om varför en system som försöker förutsäga om en brottsling kommer att begå brott igen— och används för att fastställa fängelsestraff – måste hållas hemligt.

Just idag lämnade ACLU in stämningsansökan mot den amerikanska regeringen på uppdrag av forskare med en plan att leta efter rasdiskriminering i jobb- och bostadsannonser online . De kan inte utföra det på grund av restriktioner i federala hackinglagar och hur teknikföretag skriver sina villkor.

Det är uppenbart att några av problemen som Nadella säger kan skapas av framtida artificiell intelligens faktiskt redan är här. Microsofts forskare Kate Crawford sammanfattade på ett snyggt sätt roten till algoritmisk bias i en ny New York Tider op-ed, skriver den programvaran kan redan förvärra ojämlikheten på arbetsplatsen , hemma och i våra rättssystem och rättssystem.

Nadella avslutar sitt framåtblickande inlägg om artificiell intelligens med att säga: Det mest kritiska nästa steget i vår jakt på A.I. är att komma överens om ett etiskt och empatisk ramverk för dess utformning. Finns det något bättre sätt att vara redo för den AI-dominerade framtiden än att börja arbeta nu med att tillämpa ett etiskt och empatisk ramverk på den dumma mjukvaran som redan omger oss?

(Läs mer: Skiffer , Vice , Ars Technica , New York Times )

Dölj