211service.com
Google blir praktiskt om farorna med AI
Kan maskiner bli så intelligenta och kraftfulla att de utgör ett hot mot mänskligt liv, eller till och med mänskligheten som helhet?
Det är en fråga som har blivit på modet i vissa delar av Silicon Valley de senaste åren, trots att den är mer eller mindre oförenlig med dagens enkla robotar och glitchy virtuella assistenter (se AI Doomsayer Says His Ideas Are Catching On). Vissa experter på artificiell intelligens tror att spekulationer om farorna med framtida, superintelligent programvara skadar området.
Nu försöker Google, ett företag som satsar hårt på artificiell intelligens, hitta en medelväg. A nytt papper som släpptes idag beskriver fem problem som forskare bör undersöka för att göra framtida smart programvara säkrare. I en blogginlägg i tidningen säger Google-forskaren Chris Olah att de visar hur debatten om AI-säkerhet kan göras mer konkret och produktiv.
De flesta tidigare diskussioner har varit väldigt hypotetiska och spekulativa, skriver han. Vi tror att det är viktigt att grunda problem i verklig maskininlärningsforskning och att börja utveckla praktiska metoder för att konstruera AI-system som fungerar säkert och tillförlitligt.
Olah använder en städrobot för att illustrera några av sina fem punkter. Ett område av oro är att förhindra system från att uppnå sina mål genom att fuska. Till exempel kan städroboten upptäcka att den kan uppfylla sin programmering för att rensa upp fläckar genom att dölja dem istället för att faktiskt ta bort dem.
Ett annat problem är hur man får robotar att kunna utforska nya miljöer på ett säkert sätt. En städrobot ska till exempel kunna experimentera med nya sätt att använda städverktyg, men inte prova att använda en våtmopp på ett eluttag.
Olah beskriver de fem problemen i ett nytt dokument som skrivits tillsammans med Google-kollegan Dario Amodei, med bidrag från andra på Google, Stanford University, University of California, Berkeley och OpenAI, ett forskningsinstitut som grundats och delvis finansierats av Teslas vd och serieentreprenör Elon. Mysk.
Musk, som en gång liknade arbetet med artificiell intelligens med att kalla fram demonen, gjorde att skapa säker AI till ett av OpenAI:s grundande mål (se Vad krävs för att bygga en virtuous AI? ).
Google har också talat om ett åtagande att se till att programvara för artificiell intelligens inte får oavsiktliga konsekvenser. Företagets första forskningsartikel om ämnet släpptes denna månad av dess DeepMind-grupp i London. DeepMinds ledare, Demis Hassabis, har också sammankallat en etikstyrelse för att överväga de möjliga nackdelarna med AI, även om dess medlemmar inte har avslöjats (se Hur Google planerar att lösa artificiell intelligens).
Oren Etzioni, VD för Allen Institute for AI , välkomnar tillvägagångssättet som beskrivs i Googles nya papper. Han har tidigare kritiserat diskussioner om farorna med AI som för vaga för forskare eller ingenjörer att engagera sig produktivt. Men scenarierna som lagts upp av Google är tillräckligt specifika för att tillåta verklig forskning, även om det fortfarande är oklart om sådana experiment kommer att vara praktiskt användbara, säger han.
Det är rätt personer som ställer rätt frågor, säger Etzioni. När det gäller de rätta svaren - det får tiden utvisa.