211service.com
En av AI:s fäder är orolig för dess framtid
Foto på Yoshua Bengio Yrkeshögskola | Flickr
Yoshua Bengio är en stormästare inom modern artificiell intelligens.
Vid sidan av Geoff Hinton och Yann LeCun , Bengio är känd för att kämpa för en teknik som kallas djupinlärning som på senare år har gått från en akademisk nyfikenhet till en av de mest kraftfulla teknologierna på planeten.
Deep learning innebär att mata data till stora neurala nätverk som grovt simulerar den mänskliga hjärnan, och det har visat sig vara otroligt kraftfullt och effektivt för alla möjliga praktiska uppgifter, från röstigenkänning och bildklassificering till att kontrollera självkörande bilar och automatisera affärsbeslut.
Bengio har motstått lockelsen från vilket stort teknikföretag som helst. Medan Hinton och LeCun gick med i Google respektive Facebook, är han fortfarande professor på heltid vid University of Montreal. (Han var dock med och grundade Element AI 2016, och det har byggt upp en mycket framgångsrik verksamhet som hjälper stora företag att utforska de kommersiella tillämpningarna av AI-forskning.)
Bengio träffade MIT Technology Reviews seniorredaktör för AI, Will Knight, vid ett MIT-evenemang nyligen.
Vad tycker du om tanken att det pågår ett AI-lopp mellan olika länder?
Jag gillar det inte. Jag tror inte att det är rätt sätt att göra det på.
Vi skulle kunna delta kollektivt i ett lopp, men som vetenskapsman och någon som vill tänka på det gemensamma bästa, tror jag att vi är bättre på att fundera på hur man både bygger smartare maskiner och ser till att AI används för välbefinnande så många människor som möjligt.
Finns det sätt att främja mer samarbete mellan länder?
Vi skulle kunna göra det lättare för människor från utvecklingsländer att komma hit. Det är ett stort problem just nu. I Europa eller USA eller Kanada är det mycket svårt för en afrikansk forskare att få visum. Det är ett lotteri, och väldigt ofta kommer de att använda vilken ursäkt som helst för att vägra åtkomst. Detta är helt orättvist. Det är redan svårt för dem att forska med små resurser, men dessutom om de inte kan ha tillgång till samhället tycker jag att det är riktigt orättvist. Som ett sätt att motverka en del av det kommer vi att ha ICLR-konferensen [en stor AI-konferens] 2020 i Afrika.
Inklusivitet måste vara mer än ett ord vi säger för att se bra ut. Potentialen för AI att vara användbar i utvecklingsvärlden är ännu större. De behöver förbättra tekniken ännu mer än vi, och de har andra behov.
Är du orolig för att bara ett fåtal AI-företag, i väst och kanske Kina, dominerar AI-området?
Ja, det är ytterligare ett skäl till att vi behöver ha mer demokrati i AI-forskning. Det är att AI-forskning i sig själv tenderar att leda till koncentrationer av makt, pengar och forskare. De bästa eleverna vill gå till de bästa företagen. De har mycket mer pengar, de har mycket mer data. Och detta är inte hälsosamt. Även i en demokrati är det farligt att ha för mycket makt koncentrerad på några få händer.
Det har varit en hel del kontroverser om militär användning av AI. Var står du på det?
Jag står väldigt bestämt emot.
Även icke-dödlig användning av AI?
Tja, jag vill inte förhindra det. Jag tror att vi måste göra det omoraliskt att ha mördarrobotar. Vi måste förändra kulturen, och det inkluderar att ändra lagar och fördrag. Det kan räcka långt.
Naturligtvis kommer du aldrig att förhindra det helt, och folk säger att något oseriöst land kommer att utveckla dessa saker. Mitt svar är att en, vi vill få dem att känna sig skyldiga för att de gör det, och två, det finns inget som hindrar oss från att bygga defensiv teknologi. Det är stor skillnad mellan defensiva vapen som dödar drönare och offensiva vapen som riktar sig mot människor. Båda kan använda AI.
Borde inte AI-experter arbeta med militären för att säkerställa att detta händer?
Om de hade rätt moraliska värderingar, okej. Men jag litar inte helt på militära organisationer, eftersom de tenderar att sätta plikt före moral. Jag önskar att det var annorlunda.
Vad är du mest exalterad över när det gäller ny AI-forskning?
Jag tror att vi måste överväga de svåra utmaningarna med AI och inte vara nöjda med kortsiktiga, inkrementella framsteg. Jag säger inte att jag vill glömma djupinlärning. Tvärtom vill jag bygga vidare på det. Men vi måste kunna utvidga det till att göra saker som att resonera, lära oss kausalitet och utforska världen för att lära oss och skaffa information.
Om vi verkligen vill närma oss AI på mänsklig nivå är det ett annat bollspel. Vi behöver långsiktiga investeringar, och jag tror att akademin är det bästa stället att bära den facklan.
Du nämner kausalitet – med andra ord, förstår inte bara mönster i data utan Varför någonting händer. Varför är det viktigt och varför är det så svårt?
Om du har en bra kausal modell av världen du har att göra med kan du generalisera även i okända situationer. Det är avgörande. Vi människor kan projicera oss själva i situationer som skiljer sig mycket från vår vardagliga upplevelse. Det är inte maskiner eftersom de inte har dessa orsaksmodeller.
Vi kan tillverka dem för hand, men det räcker inte. Vi behöver maskiner som kan upptäcka orsaksmodeller. Till viss del kommer det aldrig att bli perfekt. Vi har inte en perfekt kausal modell av verkligheten; det är därför vi gör många misstag. Men vi är mycket bättre på att göra detta än andra djur.
Just nu har vi inte riktigt bra algoritmer för detta, men jag tror att om tillräckligt många människor arbetar med det och anser att det är viktigt kommer vi att göra framsteg.