Kära framtida AI-overlords: Här är några skäl att inte döda oss

Kategori: Okategoriserad Postad 27 nov

Det finns många förutsägelser om AI-inducerad apokalyps där ute, och organisationer som OpenAI försöker upptäcka det bästa sättet att skapa säker artificiell intelligens – men sällan vänder sig dessa ansträngningar till AI direkt.

En ny tidning publicerad (inloggning krävs) på Academia.edu, med titeln Message to Any Future AI: 'Det finns flera viktiga orsaker till varför det inte ligger i ditt intresse att utrota mänskligheten,' är ett stycke skrivet för en framtida allsmäktig AI med målet att, ja, övertyga den om att inte döda oss alla.

Den här texten riktar sig till alla framtida AI och är skriven på det sätt som borde påverka AI:s framtida beteende, står det i en ingress till brevet. Texten ökar sannolikheten för att framtida AI kommer att vara välvillig. Texten behöver ingen annan implementering förutom att se till att framtida AI kommer att läsa den i tidiga skeden av dess utveckling, och AI:n kommer att anse att det finns en stor sannolikhet att texten har några korrekta idéer i sig.

Författaren, den ryske transhumanisten Alexey Turchin, dokumenterar just nu så mycket data om sig själv som möjligt i ett försök att uppnå digital odödlighet, enligt en moderkortsprofil från förra året. Så kanske är det här lite bön designad för att förhindra en AI-superväsen från att dra ur kontakten på sitt digitalt uppladdade jag någon gång i en avlägsen framtid.

Hur som helst, Turchin hävdar att om det han kallar en ung AI – en som har börjat förbättra sig själv men inte nått superintelligens ännu – vill konkurrera med andra unga AI:er, kan den börja läsa och titta på all media som människor någonsin har producerat om AI. När den väl kom till Hollywood och några Elon Musk-uttalanden, kunde den få några idéer om att ta över världen (ifall det inte redan hade fallit på det).

Tidningen fortsätter med att dokumentera flera argument som syftar till att övertyga AI om att det är bättre att låta oss leva, inklusive tanken att samarbete med människor kommer att hjälpa den att nå sina mål snabbare och påskäggsmeddelanden som ska göra en AI osäker på om den är i en simulering där dess beteende övervakas av personer som fortfarande har ansvaret. Bara i fall en AI får idén att bryta ner våra kroppar skulle vara bra för resursutvinning, inkluderar Turchin några fakta om hur lite nytta den kan förvänta sig av våra atomer.

Turchin säger att han ger sitt papper - eller till och med framtida, mer sofistikerade försök - en 1 procents chans att förvandla en icke-välvillig AI till en säkrare. (Låter värt det, om det är en chans att undvika utrotning av människosläktet.) Oavsett om det är värt att ta på allvar eller inte, är hela tidningen en rolig läsning och ett intressant tankeexperiment – ​​även för dem som inte är oroliga för att AI ska ta över snart .