Behöver vi Asimovs lagar?

1942 publicerade science fiction-författaren Isaac Asimov en novell som heter Runaround där han introducerade tre lagar som styrde robotars beteende. De tre lagarna är följande:

1. En robot får inte skada en människa eller genom passivitet låta en människa komma till skada.

2. En robot måste lyda de order som den fått av människor, utom där sådana order skulle strida mot den första lagen.

3. En robot måste skydda sin egen existens så länge ett sådant skydd inte strider mot den första eller andra lagen.

Han introducerade senare en fjärde eller nollte lag som överträffade de andra:

0. En robot får inte skada mänskligheten, eller genom passivitet låta mänskligheten komma till skada.

Sedan dess har Asimovs robotiklagar blivit en viktig del av en science fiction-kultur som gradvis har blivit mainstream.

De senaste åren har robotister gjort snabba framsteg inom tekniken som för närmare den typ av avancerade robotar som Asimov tänkt sig. Robotar och människor arbetar allt oftare tillsammans på fabriksgolv, kör bilar, flyger flygplan och till och med hjälper till i hemmet.

Och det väcker en intressant fråga: behöver vi en uppsättning Asimov-liknande lagar för att styra robotars beteende när de blir mer avancerade?

Idag får vi ett slags svar från Ulrike Barthelmess och Ulrich Furbach vid universitetet i Koblenz i Tyskland. Dessa killar granskar robotarnas historia i samhället och hävdar att vår rädsla för deras potential att förstöra oss är ogrundad. På grund av detta behövs inte Asimovs lagar, säger de.

Ordet robot kommer från det tjeckiska ordet robota som betyder tvångsarbete, som först dök upp i en pjäs från 1924 av den tjeckiske författaren Karel Capek. Den angliciserade versionen spreds snabbt efter detta tillsammans med tanken att dessa maskiner alltför lätt kunde förstöra deras skapare, ett tema som har blivit vanligt inom science fiction sedan dess.

Men Barthelmess och Furbach hävdar att denna rädsla för maskiner är mycket djupare förankrad i vår kultur. Medan science fiction-berättelser ofta använder intrig där robotar förstör sina skapare, är detta ett tema som har en lång historia inom litteraturen.

Till exempel, i Mary Shelleys Frankenstein, vänder sig ett monster tillverkat av mänskliga kroppsdelar mot Frankenstein, dess skapare, eftersom han vägrar att göra en partner till monstret.

Sedan finns det 1500-talets judiska Golem-berättelse, i en version av vilken en rabbin konstruerar en varelse av lera för att skydda samhället samtidigt som han lovar att avaktivera den efter sabbaten. Men rabbinen glömmer och golem förvandlas till ett monster som måste förstöras.

Barthelmess och Furbach menar att den religiösa undertonen i båda dessa berättelser är att det är förbjudet för människor att agera som Gud. Och att varje försök att göra det alltid kommer att bestraffas av skaparen.

Liknande episoder förekommer i grekisk mytologi där människor som visar arrogans mot gudarna också straffas, som Prometheus och Niobe. Det är därför berättelser av det här slaget är en del av vår kultur som går tillbaka tusentals år. Det är denna djupt rotade rädsla som science fiction-författare spelar på i berättelser om robotar.

Naturligtvis finns det verkliga konflikter mellan människor och maskiner. Under den industriella revolutionen i Europa fanns till exempel en stor rädsla för maskiner och deras uppenbara förmåga att förändra världen på sätt som hade ett djupgående inflytande på många människor.

Barthelmess och Furbach påpekar att på 1700-talets England började folk en rörelse för att förstöra vävmaskiner som blev så allvarliga att parlamentet gjorde demolering av maskiner till ett allvarligt brott. En grupp känd som ludditerna kämpade till och med den brittiska armén om dessa frågor. Det fanns en sorts teknofobi som resulterade i slagsmål mot maskiner, säger de.

Naturligtvis är det inte bortom möjligheterna att en liknande typ av antagonism kan utvecklas mot den nya generationen robotar som kommer att ta över de mycket repetitiva uppgifter som mänskliga arbetare för närvarande utför i fabriker över hela världen och i synnerhet i Asien .

Det finns dock väldigt olika attityder till robotar i Asien. Länder som Japan leder världen i utvecklingen av robotar för automatiserade fabriker och som mänskliga hjälpare, delvis på grund av Japans åldrande befolkning och de välkända hälsoproblem som detta kommer att ge upphov till inom en inte alltför avlägsen framtid.

Den attityden förkroppsligas kanske av Astro Boy, en fiktiv robot som 2007 utsågs av Japans utrikesministerium till det japanska sändebudet för säkra utlandsresor.

Av dessa skäl hävdar Barthelmess och Furbach att det vi fruktar om robotar inte är möjligheten att de kommer att ta över och förstöra oss utan möjligheten att andra människor kommer att använda dem för att förstöra vårt sätt att leva på sätt som vi inte kan kontrollera.

De påpekar särskilt att många robotar kommer att skydda oss genom design. Till exempel designas automatiserade fordon och flygplan för att köra och flyga säkrare än mänskliga operatörer någonsin kan. Så vi kommer att vara säkrare att använda dem än att inte använda dem.

Ett viktigt undantag är det växande antalet robotar speciellt utformade för att döda människor. USA, i synnerhet, använder drönare för riktade mord i främmande länder. Lagligheten, för att inte tala om moralen, av dessa handlingar diskuteras fortfarande våldsamt.

Men Barthelmess och Furbach antyder att människor fortfarande är ytterst ansvariga för dessa mord och att internationell lag, snarare än Asimovs lagar, borde kunna hantera problem som uppstår eller anpassas till att göra det.

De avslutar sin diskussion med att överväga den potentiella konvergensen mellan människor och robotar inom en snar framtid. Tanken här är att människor kommer att införliva olika teknologier i sina egna kroppar, såsom extra minne eller processorkraft, och så småningom kommer att smälta samman med robotar. Vid den tidpunkten måste vardagliga lagar hantera vanliga människors beteende och handlingar och Asimovs lagar kommer att vara föråldrade.

En intressant debatt som knappast kommer att avgöras inom kort. Ytterligare synpunkter i kommentarsfältet tack.

Ref: arxiv.org/abs/1405.0961 : Behöver vi Asimovs lagar?

Dölj