Hur man skapar en illvillig artificiell intelligens

Möjligheten att en illvillig artificiell intelligens kan utgöra ett allvarligt hot mot mänskligheten har blivit en hett debatterad fråga. Olika högprofilerade individer från fysikern Stephen Hawking till teknikentreprenören Elon Musk har varnat för faran.

Det är därför området artificiell intelligenssäkerhet framstår som en viktig disciplin. Datavetare har börjat analysera de oavsiktliga konsekvenserna av dåligt designade AI-system, av AI-system skapade med felaktiga etiska ramverk eller sådana som inte delar mänskliga värderingar.

Men det finns en viktig brist på detta område, säger de oberoende forskarna Federico Pistono och Roman Yampolskiy från University of Louisville i Kentucky. Inget, såvitt vi vet, har publicerats om hur man designar en illvillig maskin, säger de.

Det är ett betydande problem eftersom datorsäkerhetsspecialister måste förstå besten de möter innan de kan hoppas på att besegra den.

Idag försöker Pistono och Yampolskiy att rätta till det, åtminstone delvis, och nyckelpunkten de gör är att en illvillig AI med största sannolikhet kommer att dyka upp endast i vissa miljöer. Så de har beskrivit villkoren under vilka ett illvilligt AI-system skulle kunna uppstå. Och deras slutsatser kommer att göra det obekvämt att läsa för ett eller två företag.

Så vilka varningssignaler indikerar att arbete med ett illvilligt AI-system kan vara möjligt? Pistono och Yampolskiy säger att det sannolikt finns några tydliga tecken.

En av de mest uppenbara skulle vara frånvaron av tillsynsnämnder i utvecklingen av AI-system. Om en grupp bestämde sig för att skapa en illvillig artificiell intelligens, följer det att förhindrande av en global tillsynskommitté från att komma till existens skulle öka dess sannolikhet att lyckas, säger de.

En sådan grupp gör detta genom att tona ned betydelsen av sitt arbete och de faror det utgör och till och med genom att cirkulera förvirrande information. Strategin är att sprida motstridig information som skulle skapa tvivel i allmänhetens fantasi om farorna och möjligheterna med forskning om artificiell allmän intelligens, säger de.

Ett annat viktigt tecken skulle vara förekomsten av stängd källkod bakom systemet med artificiell intelligens. Det är välkänt bland kryptografi- och datorsäkerhetsexperter att mjukvara och algoritmer med sluten källkod är mindre säkra än deras gratis och öppen källkod, säger Pistono och Yampolskiy. Själva existensen av icke-fri mjukvara och hårdvara utsätter mänskligheten för en större risk.

Istället säger de att artificiell intelligens kan utvecklas med öppen källkod, även om det är oklart om detta skulle vara säkrare. Processen med öppen källkod låter fler människor leta efter och åtgärda brister. Men det ger också tillgång till brottslingar, terrorister och liknande, som kan använda programvaran för skändliga syften.

Artificiell intelligens utvecklas för närvarande på båda dessa sätt.

Systemen med sluten källkod har haft väl omtalade framgångar. Googles AI-system triumferade nyligen över mänskligheten i det antika spelet Go, till exempel. Facebook har också en högprofilerad AI-forskningsgrupp, om än en som har varit mindre offentligt framgångsrik.

Inget av företagen har varit tydliga om hur dess forskning styrs. Googles DeepMind-dotterbolag säger till exempel att det har en AI-etikstyrelse men har konsekvent vägrat att avslöja vem som sitter i den. Facebook säger bara att rädslan för AI har blivit överdriven.

Utvecklingen av artificiell intelligens med öppen källkod är mindre långt framskriden. Men den har nyligen börjat ta fart, åtminstone delvis driven av rädslan för kommersiella rivaler.

Den högsta profilen för dessa ansträngningar är OpenAI, en ideell organisation för artificiell intelligens som startade 2015 med målet att främja digital intelligens på det sätt som sannolikt kommer att gynna mänskligheten som helhet, utan begränsningar av ett behov av att generera ekonomisk avkastning.

Det backas upp av löften om upp till 1 miljard dollar i finansiering från bland annat teknikentreprenören Elon Musk, som upprepade gånger varnat för farorna med AI. (Musk delfinansierade också arbetet av en av författarna till denna studie, Roman Yampolskiy.)

Om OpenAI kommer att öka eller minska chanserna för att ett illvilligt AI-system ska dyka upp är inte klart. Men målet är åtminstone att se till att vad som än händer sker i full offentlighet.

En brist i allt detta är att tillämpningen av cybersäkerhet för AI-system är mycket mindre väl utvecklad än för vanlig mjukvara.

Datasäkerhetsexperter har länge insett att skadlig programvara utgör ett betydande hot mot det moderna samhället. Många säkerhetskritiska tillämpningar – kärnkraftverk, flygledning, livräddningssystem och så vidare – är inte mycket mer än ett allvarligt konstruktionsfel borta från katastrof. Situationen förvärras av designers av avsiktligt skadlig programvara – virus, trojaner och liknande – som jagar och utnyttjar dessa brister.

För att bekämpa detta har säkerhetsexperter utvecklat ett kraftfullt ekosystem som identifierar brister och åtgärdar dem innan de kan utnyttjas. De studerar skadlig programvara och letar efter sätt att neutralisera den.

De har också ett kommunikationssystem för att sprida denna information inom sitt samhälle men inte utanför. Detta gör att eventuella brister kan korrigeras snabbt innan kunskapen om dem sprids.

Men ett liknande system fungerar ännu inte effektivt i AI-forskningens värld.

Det kanske inte spelar någon roll medan AI-system är relativt godartade. De flesta av dagens AI är fokuserade på ämnen som naturlig språkbehandling, objektigenkänning och uppgifter som körning.

Men med tanke på utvecklingstakten de senaste åren kommer detta sannolikt att förändras snabbt. En viktig fråga är hur människor kan bekämpa en illvillig artificiell intelligens som kan få fruktansvärda konsekvenser för mänskligheten. Det är en fråga värd att överväga i detalj nu.

Ref: arxiv.org/abs/1605.02817 : Oetisk forskning: Hur man skapar en illvillig artificiell intelligens

Dölj