211service.com
Kommer maskiner att eliminera oss?
Människor som oroar sig för att vi är på väg att uppfinna farligt intelligenta maskiner missförstår datavetenskapens tillstånd. 29 januari 2016
Yoshua Bengio leder en av världens framstående forskargrupper som utvecklar en kraftfull AI-teknik känd som djupinlärning. De häpnadsväckande förmågor som djupinlärning har gett datorer de senaste åren, från röstigenkänning och bildklassificering på mänsklig nivå till grundläggande konversationsförmåga, har lett till varningar om de framsteg som AI gör mot att matcha, eller kanske överträffa, mänsklig intelligens. Framstående personer som Stephen Hawking och Elon Musk har till och med varnat för att artificiell intelligens kan utgöra ett existentiellt hot mot mänskligheten. Musk och andra investerar miljontals dollar i att undersöka de potentiella farorna med AI, såväl som möjliga lösningar. Men de värsta uttalandena låter överdrivna för många av de människor som faktiskt utvecklar tekniken. Bengio, professor i datavetenskap vid University of Montreal, satte saker i perspektiv i en intervju med MIT Technology Review Seniorredaktör för AI och robotik, Will Knight.
Ska vi oroa oss för hur snabbt den artificiella intelligensen går framåt?
Den här berättelsen var en del av vårt marsnummer 2016
- Se resten av frågan
- Prenumerera
Det finns människor som grovt överskattar de framsteg som har gjorts. Det ligger många, många år av små framsteg bakom många av dessa saker, inklusive vardagliga saker som mer data och datorkraft. Hypen handlar inte om huruvida det vi gör är användbart eller inte – det är det. Men folk underskattar hur mycket mer vetenskap som behöver göras. Och det är svårt att skilja hypen från verkligheten eftersom vi ser dessa fantastiska saker och även, för blotta ögat, ser de magiska ut.
Finns det en risk att AI-forskare av misstag kan släppa lös demonen, som Musk har uttryckt det?
Det är inte som att någon hittade något magiskt recept plötsligt. Saker och ting är mycket mer komplicerade än den enkla historia som vissa människor skulle vilja berätta. Journalister skulle ibland vilja berätta historien om att någon i deras garage kommer att få den här fantastiska idén, och då har vi ett genombrott och har AI. På samma sätt vill företag berätta en trevlig liten historia att Åh, vi har den här revolutionerande tekniken som kommer att förändra världen – AI är nästan här, och vi är företaget som kommer att leverera det. Det är inte alls så det fungerar.
Vi saknar något stort. Vi har gjort ganska snabba framsteg, men det är fortfarande inte på den nivå som vi skulle säga att maskinen förstår. Det är vi fortfarande långt ifrån.
Hur är det med tanken, som är central för dessa problem, att AI på något sätt kan börja förbättra sig själv och sedan bli svår att kontrollera?
Det är inte så AI är byggt nuförtiden. Maskininlärning innebär att du har en noggrann, långsam process att skaffa information genom miljontals exempel. En maskin förbättrar sig själv, ja, men väldigt, väldigt långsamt och på väldigt specialiserade sätt. Och den sortens algoritmer vi leker med är inte alls som små virussaker som är självprogrammerande. Det är inte vad vi gör.
Vilka är några av de stora olösta problemen med AI?
Oövervakat lärande är verkligen, verkligen viktigt. Just nu är det sätt som vi lär maskiner att vara intelligenta att vi måste tala om för datorn vad som är en bild, även på pixelnivå. För autonom körning märker människor ett stort antal bilder av bilar för att visa vilka delar som är fotgängare eller vägar. Det är inte alls hur människor lär sig, och det är inte hur djur lär sig. Vi saknar något stort. Det här är en av de viktigaste sakerna vi gör i mitt labb, men det finns inga kortsiktiga tillämpningar – det kommer förmodligen inte att vara användbart att bygga en produkt i morgon.
En annan stor utmaning är naturlig språkförståelse. Vi har gjort ganska snabba framsteg de senaste åren, så det är väldigt uppmuntrande. Men det är fortfarande inte på den nivå där vi skulle säga att maskinen förstår. Det skulle vara när vi kunde läsa ett stycke och sedan ställa vilken fråga som helst om det, och maskinen skulle i princip svara på ett rimligt sätt, som en människa skulle göra. Det är vi fortfarande långt ifrån.
Vilka tillvägagångssätt utöver djupinlärning kommer att behövas för att skapa en verklig maskinintelligens?
Traditionella strävanden, inklusive resonemang och logik – vi måste kombinera dessa saker med djup inlärning för att gå mot AI. Jag är en av få personer som tycker att maskininlärningsmänniskor, och särskilt människor som lär sig djupt, borde ägna mer uppmärksamhet åt neurovetenskap. Hjärnor fungerar, och vi vet fortfarande inte varför på många sätt. Att förbättra denna förståelse har en stor potential att hjälpa AI-forskning.
Och jag tror att neurovetenskapsmänniskor skulle vinna mycket på att hålla reda på vad vi gör och försöka anpassa det de observerar av hjärnan med de typer av koncept vi utvecklar inom maskininlärning.
Trodde du någonsin att du skulle behöva förklara för människor att AI inte är på väg att ta över världen? Det måste vara konstigt.
Det är definitivt ett nytt bekymmer. Under så många år har AI varit en besvikelse. Som forskare kämpar vi för att göra maskinen lite mer intelligent, men de är fortfarande så dumma. Jag brukade tänka att vi inte skulle kalla fältet artificiell intelligens utan konstgjord dumhet. Verkligen, våra maskiner är dumma, och vi försöker bara göra dem mindre dumma.
Nu, på grund av dessa framsteg som folk kan se med demos, nu kan vi säga, Åh, herregud, det kan faktiskt säga saker på engelska, det kan förstå innehållet i en bild. Nåväl, nu kopplar vi ihop dessa saker med all science fiction vi har sett och det är som: Åh, jag är rädd!
Okej, men det är säkert fortfarande viktigt att nu tänka på de eventuella konsekvenserna av AI.
Absolut. Vi borde prata om dessa saker. Det jag är mer orolig för, inom en överskådlig framtid, är inte datorer som tar över världen. Jag är mer orolig för missbruk av AI. Saker som dålig militär användning, att manipulera människor genom riktigt smart reklam; också den sociala påverkan, som många människor förlorar sina jobb. Samhället måste gå samman och komma med ett kollektivt svar, och inte överlåta till djungelns lag att reda ut saker.