Tech Titans går samman för att stoppa AI från att bete sig illa

När det gäller att bevaka artificiell intelligens tror teknikledare att det finns säkerhet i siffror.

En ny organisation som heter Partnerskap om artificiell intelligens till gagn för människor och samhälle kommer att försöka främja offentlig dialog och skapa riktlinjer för utveckling av AI så att systemen inte missköter sig. De inblandade företagen inkluderar Google och dess dotterbolag DeepMind, Facebook, Amazon, Microsoft och IBM. Partnerskapet bygger på åtta grundsatser eller principer, inklusive idén att AI ska gynna så många människor som möjligt; att allmänheten bör involveras i dess utveckling; att forskning bör bedrivas på ett öppet sätt; och att AI-system ska kunna förklara sina resonemang.

Att så hårda rivaler skulle mötas på det här sättet visar hur viktigt företagen anser att det är att avvärja allmänhetens oro och spekulationer om de potentiella effekterna av AI. Dessa företag skördar alla enorma belöningar från framstegen inom AI, och de vill inte se sin industri underkastad strikt statlig reglering, vilket kan bromsa eller förändra teknikens framsteg i ett kritiskt ögonblick i dess utveckling. Men samtidigt har snabba framsteg på senare tid väckt oro över potentialen för AI-system att diskriminera, missgynna och förflytta människor.

Vi delar alla vår plikt att ta fältet framåt på ett genomtänkt och positivt och, viktigare, etiskt sätt, säger Mustafa Suleyman, medgrundare av Google DeepMind och interimistisk medordförande för organisationen. De positiva effekterna av AI kommer att bero inte bara på kvaliteten på våra algoritmer, utan på nivån på allmänhetens engagemang, transparens och etiska diskussioner som äger rum runt den.

AI går framåt i en sådan rasande hastighet att det finns berättigade farhågor om att den ska användas på sätt som har oavsiktliga eller oönskade effekter. Till exempel kan ett maskininlärningssystem utformat för att identifiera sjukdomar som matas med partisk data diskriminera vissa människor. Företagen som är involverade i partnerskapet inser att en motreaktion kan uppstå som svar på sådana effekter.

AI är en otroligt viktig teknik för Amazon, säger Rolf Herbrich, chef för maskininlärning för e-handelsjätten. [Och] den största tillgången i kundupplevelsen är kundförtroende.

Det är oklart exakt hur organisationen kommer att engagera sig med allmänheten eller de som utvecklar AI. Det kommer inte att försöka genomdriva sina riktlinjer så mycket som att leda en öppen diskussion, enligt Suleyman.

Det finns också berättigade farhågor över potentialen för AI och relaterade tekniker som robotteknik för att tränga undan människor och öka ojämlikheten (se How Technology Is Destroying Jobs). Men de senaste framstegen har lett till några mer besynnerliga och futuristiska varningar om potentialen för AI att utgöra ett existentiellt hot mot mänskligheten (se Vår rädsla för artificiell intelligens ). En oro bland teknologer är att dessa varningar kan väcka obefogat offentligt uppror och inspirera till onödiga statliga regleringar.

Med all överdrift om AI under de senaste två till fyra åren, har det funnits oro för att regeringen själv i den där ekokammaren av ångest kommer att bli felinformerad, säger Eric Horvitz, vd för Microsoft Research och organisationens andra medordförande.

Regeringen har signalerat ett intresse av att säkerställa att artificiell intelligens inte får ovälkomna konsekvenser, samordna en serie workshops i år syftade till att utforska dess potentiella effekter.

Vissa etiska gåtor som involverar AI kommer att vara mer komplexa att lösa än andra. Det kan till exempel visa sig vara utmanande att utforma system som tar hänsyn till olika etiska perspektiv. Denna fråga har tagits upp, på ett till stor del teoretiskt sätt, angående beteende hos självkörande bilar . Hur man gör AI-system mer transparenta och ansvarsfulla är också en öppen fråga, och en som i sig kan kräva framsteg inom tekniken (se AI:s språkproblem).

Idén till partnerskapet dök upp vid ett evenemang som koordinerades i New York i januari av Facebook för att diskutera etiska frågor kring AI. Andra företag och organisationer som är involverade i att utveckla AI, som Apple och Allen Institute for Artificial Intelligence, har diskuterat att bli involverade i ansträngningen i någon egenskap, säger grundarna.

Oren Etzioni, VD för Allen Institute for Artificiell Intelligens, säger att det kommer att vara viktigt för organisationen att ta upp frågan om hur AI kan ta bort jobb. Och han tillägger att den största utmaningen kan vara att hitta ett sätt för konkurrenter att arbeta tillsammans effektivt. Det här är några av de ledande högteknologiska företagen i världen, säger han. De kommer att behöva arbeta tillsammans här.

Dölj