Militära robotar: beväpnade, men hur farliga?

En öppet brev ett förbud mot dödliga vapen som kontrolleras av artificiellt intelligenta maskiner undertecknades förra veckan av tusentals forskare och teknologer, vilket återspeglar växande oro för att snabba framsteg inom artificiell intelligens skulle kunna utnyttjas för att göra mördarmaskiner mer effektiva och mindre ansvarsfulla, både på slagfältet och av. Men experter är mer splittrade i frågan om robotdödningsmaskiner än man kan förvänta sig.

Brevet, presenterat på Internationell gemensamma konferens om artificiell intelligens i Buenos Aires, Argentina, signerades av många ledande AI-forskare såväl som framstående vetenskapsmän och entreprenörer inklusive Elon Musk, Stephen Hawking och Steve Wozniak. I brevet står det:

Tekniken med artificiell intelligens (AI) har nått en punkt där utbyggnaden av sådana system är – praktiskt taget om inte lagligt – genomförbart inom år inte decennier, och insatserna är höga: autonoma vapen har beskrivits som den tredje revolutionen inom krigföring, efter krut och kärnvapen.

Snabba framsteg har verkligen gjorts inom artificiell intelligens de senaste åren, särskilt inom området maskininlärning, vilket innebär att lära datorer att känna igen ofta komplexa eller subtila mönster i stora mängder data. Och detta leder till etiska frågor om verkliga tillämpningar av tekniken (se Hur man får självkörande bilar att fatta etiska beslut).

Samtidigt har militär teknik avancerat för att tillåta åtgärder på distans, till exempel med hjälp av drönarflygplan eller bombröjningsrobotar, vilket ökar möjligheten att dessa åtgärder kan automatiseras.

Frågan om att automatisera dödliga vapen har varit ett bekymmer för forskare såväl som militära och politiska experter under en tid. 2012 utfärdade det amerikanska försvarsdepartementet ett direktiv förbud mot utveckling och användning av autonoma och halvautonoma vapen i 10 år. Tidigare i år höll FN ett möte för att diskutera frågan om dödliga automatvapen och möjligheten till ett sådant förbud.

Men medan militära drönare eller robotar mycket väl skulle kunna bli mer automatiserade, säger vissa att idén om helt oberoende maskiner som kan utföra dödliga uppdrag utan mänsklig hjälp är mer fantasifull. Med många grundläggande utmaningar kvar inom artificiell intelligens är det dock långt ifrån klart när den teknologi som behövs för helt autonoma vapen faktiskt kan komma fram.

Vi tänjer på nya gränser inom artificiell intelligens, säger Patrick Lin , professor i filosofi vid California Polytechnic State University. Och många människor är med rätta skeptiska till att det någonsin skulle utvecklas till en punkt där det har något som kallas full autonomi. Ingen är egentligen expert på att förutsäga framtiden.

Lin, som vittnade vid FN-mötet nyligen, tillägger att brevet inte berör den komplexa etiska debatten bakom användningen av automation i vapensystem. Brevet är användbart för att öka medvetenheten, säger han, men det kräver inte så mycket debatt; den försöker avsluta debatten genom att säga 'Vi har kommit på det och ni måste alla följa med.'

Stuart Russell , en ledande AI-forskare och professor vid University of California, Berkeley, avfärdar denna idé. Det är helt enkelt inte sant att det inte har varit någon debatt, säger han. Men det är sant att AI- och robotsamhällena mestadels har varit lyckligt okunniga om denna fråga, kanske för att deras professionella samhällen har ignorerat det.

En debattfråga, som brevet erkänner, är att automatiserade vapen kan tänkas bidra till att minska oönskade offer i vissa situationer, eftersom de skulle vara mindre benägna att misstag, trötthet eller känslor än mänskliga kombattanter.

De bakom brevet har dock lite tid för detta argument.

Max Tegmark , en MIT fysiker och grundare medlem av Future of Life Institute , som koordinerade brevundertecknandet, säger att idén med etiska automatiserade vapen är en röd sill. Jag tycker att det är ganska irrelevant, ärligt talat, säger han. Det saknas den stora poängen med vad detta kommer att leda till om man startar denna AI-kapprustning. Om du gör antagandet att endast USA kommer att bygga dessa vapen, och antalet konflikter kommer att förbli exakt detsamma, så skulle det vara relevant.

Future of Life Institute har utfärdat en mer allmän varning om de långsiktiga riskerna med ohämmad AI och varnar för att det kan utgöra allvarliga faror i framtiden.

Det här är en helt annan fråga, säger Russell. Även om det finns ett samband, i det att om man är orolig för att tappa kontrollen över AI-system när de blir smartare, kanske det inte är en bra idé att överlämna våra försvarssystem till dem.

Medan många AI-experter verkar dela denna breda oro, ser vissa det som lite malplacerat. Till exempel, Gary Marcus , en kognitiv forskare och artificiell intelligensforskare vid New York University, har hävdade att datorer inte behöver bli artificiellt intelligenta för att utgöra många andra allvarliga risker, till exempel för finansmarknader eller flygtrafiksystem.

Lin säger att även om konceptet med okontrollerade mördarrobotar uppenbarligen är oroande, så förtjänar frågan om automatiserade vapen en mer nyanserad diskussion. Känslomässigt är det ett ganska okomplicerat fall, säger Lin. Intellektuellt tror jag att de behöver göra mer arbete.

Dölj