Stora namn inom AI lovar att inte bygga autonoma vapen

Kategori: Teknisk policy Postad 19 juli

Elon Musk, grundarna av DeepMind, och andra AI-armaturer har undertecknat ett brev som garanterar att de inte kommer att utveckla dödliga autonoma vapen. Det är det senaste försöket att uppmärksamma de moraliska risker som AI-vapen medför, men att förbjuda tekniken kan i slutändan visa sig vara en utmaning.

Stora skott: Brevet undertecknades av Musk; DeepMinds Demis Hassabis, Shane Legg och Mustafa Suleyman; Skype-grundaren Jaan Tallinn; och de välkända AI-forskarna Stuart Russell, Yoshua Bengio och Jürgen Schmidhuber.

Fredsrörelse: Teknikföretag tvingas undersöka militär användning av sin teknik. Anställdas upprördhet fick nyligen Google att lova att de inte skulle låta sin AI användas för att tillverka vapen. Andra företag möter liknande ramaskri.

Kapprustning: I praktiken kan det visa sig vara knepigt att förbjuda autonoma vapen. Ett fåtal helt autonoma vapensystem finns redan tillgängliga, och många andra har en viss grad av partiell autonomi. Den underliggande tekniken är också redan allmänt tillgänglig, och många företag är ivriga att uppfylla lukrativa militära kontrakt.