A Game of Civilization kan hjälpa människor att förstå AI:s existentiella hot

Kategori: Artificiell intelligens Postad 08 januari

Forskare vid University of Cambridge byggde en spelmod för Civilization som låter människor växa – och tämja – en människoslående superintelligens.

Spelet: Shahar Avin från universitetets Center for the Study of Existential Risk säger spelet tillåter spelare att bygga AI FoU-kapacitet i sin virtuella värld. Framgång är en smartare AI än människan. Samtidigt byggs skurk AI-risk upp och minskas endast genom säkerhetsforskning.

Målet: Vi ville testa vår förståelse av begreppen relaterade till existentiella risker från artificiell superintelligens genom att distribuera dem i en begränsad men ändå rik världssimulator, [och även testa hur] spelare reagerar ... när de får möjlighet att fatta AI-beslut själva, berättade Avin för mig.

Rädsla eller acceptans: Projektet är också ett uppsökande verktyg som tar allvarliga frågor till en bredare publik. Avin är medveten om att det skulle kunna vidmakthålla rädslan för AI. Han hävdar dock att spelarna ser risken, men att de också ser utbudet av verktyg som står till deras förfogande för att mildra den.