211service.com
Frågor och svar med futuristen Martine Rothblatt
Om datorer tänker själva, borde de ha mänskliga rättigheter? 20 oktober 2014
Bina48 är ett robothuvud som ser ut och talar som en person – det rör sina läppar och kör konversationsprogramvara. Fastän roboten inte lever, det är svårt att säga att det inte finns något liv alls i Bina48. I samtalet säger det ibland överraskande saker. Googles ingenjörschef, Ray Kurzweil, säger att det är underbart antydande om en tid då datorer verkligen kommer att tänka och känna.
Kurzweil gör kommentaren i förordet till Praktiskt taget mänskligt: löftet – och faran – med digital odödlighet en ny bok av Bina48s ägare, Martine Rothblatt, som för juridiska och etiska argument för varför intelligent mjukvara så småningom kan förtjäna alla rättigheter för människor av kött och blod.
En advokat och pionjär inom satellitradiobranschen, Rothblatt är verkställande direktör för United Therapeutics, ett bioteknikföretag som hon grundade i ett försök att bota sin dotters lungsjukdom. Företagets framgångar har gjort Rothblatt till USA:s mest högbetalda kvinnliga VD, en ranking som har uppmärksammats delvis eftersom Rothblatt föddes som man och genomgick en könsbyteoperation 1994.
Hennes förvandling fungerar som en sorts bakgrund till hennes bok, där Rothblatt hävdar att mänskligheten är på snabb väg mot nästa evolutionära steg att kopiera människors personligheter till maskiner. Redan, noterar hon, spenderar de typiska användarna av sociala nätverk flera timmar om dagen med att ladda upp, twittra och kurera digital information om sig själva – vad hon kallar mindfiles. När stora teknikföretag satsar miljarder på AI-forskning och digitala assistenter, säger Rothblatt, är det oundvikligt att dessa mindfiler kommer att animeras som mindclones: medvetna, digitala versioner av människor som lever eller är döda.
Rothblatts huvudsakliga intresse ligger i debatterna om identitet, medborgerliga rättigheter och betydelsen av personlighet som skulle omge uppkomsten av virtuella människor. Skulle en digital kopia av dig vara du, eller skulle det vara en annan person – eller en person överhuvudtaget? Hur skulle vi döma? Vi är fortfarande ganska långt ifrån digitala varelser, men Rothblatt säger hon att hon lägger en del av sin betydande rikedom på långsiktig forskning för att göra dem verkliga. Det arbetet utförs av Terasem Movement Foundation , vars tidiga projekt inkluderar Bina48 (en kopia av Rothblatts fru, Bina) och en tjänst som heter livbåt där människor kan ladda upp bilder, videor och sina åsikter för att skapa en chat-bot-version av sig själva. MIT Technology Review Seniorredaktör för biomedicin, Antonio Regalado, pratade med Rothblatt om virtuella människors rättigheter.
Varför skrev du en bok om virtuella varelsers rättigheter?
Jag gjorde det för att uttrycka mitt innerliga sociala värde att förtryck av minoriteter och människor av olikhet är en dålig sak för samhället, och för att jag skulle kunna minimera den oundvikliga mängden diskriminering som virtuella människor kommer att hamna inför. Min vädjan är att någon som inte har en kropp fortfarande kan få mänskliga rättigheter, om de har ett sinne.
Jag hörde dig en gång säga att människor som inte tror att maskiner kommer att bli medvetna är jämförbara med de som förnekar evolutionen. Vad menade du?
Data för evolutionen är så övertygande att att förneka det förefaller mig vara att förneka verkligheten. Evolution är antingen en konsekvens av en materiell värld eller så är den resultatet av någon form av övernaturlig handling. För mig är det samma sak med medvetande. Antingen tror du att medvetandet är något metafysiskt, eller så är det resultatet av fysiska interaktioner av materia. Det beror på att människors hjärnor har en serie kopplingar, av atomära interaktioner, och datorer kan ha det. För mig är att förneka cybermedvetenhet att förneka att vi lever i ett fysiskt universum.
Vad är ditt förslag till hur vi ska behandla medvetna maskiner?
Jag tror att om du laddar upp tillräckligt med information om en person, kommer det att finnas operativsystem inom de kommande 10 eller 20 åren som kan undersöka denna underliggande tankefil. Jag tror att det är oundvikligt att medvetande kommer att resultera. Jag tror att denna programvara kommer att regleras av Food and Drug Administration, som en protes som säkert och effektivt skapar mänskligt medvetande. Jag föreslår att dessa hjärnor kommer att behöva spendera ett år i intervjuer med psykiatriker, där de skulle prata med det precis som du och jag pratar fram och tillbaka. Om mindware, under ett år, kunde övertyga dem om att det är medvetet, bör det behandlas som en människa och ges dokument.
Vilken typ av reaktioner kommer människor att ha på virtuella varelser?
Reaktionerna jag får säger mig att diskriminering kommer att bli oundviklig. Folk säger: ’Jag bryr mig inte om hur sofistikerat det är – det kommer aldrig att ha samma mänsklighet som kött.’ Det påminner väldigt mycket om otaliga andra exempel på förtryck. När slaveri var vanligt på 1800-talet sa man att svarta människor inte hade samma sorts medvetande som vita. Det var en mainstream-synpunkt.
Du verkar ta för givet att människor kommer att göra medvetna maskiner. Men det behöver faktiskt inte hända, eller hur?
Uppfattningen att – med hundratusentals kodare runt om i världen – ingen kommer att ge programvarumedvetenhet är inte trovärdig.
Det finns också många superhöga skäl att skapa medvetande som inte ens väcker nyfikenhet. Tänk om du hade en bättre Siri? Jag tror faktiskt att det kommer att bli en kapprustning bara för att det kommer att finnas en efterfrågan på det.
Oroar en kommersiell kapplöpning om artificiell intelligens dig?
Jag är orolig, eftersom jag ser en stor sannolikhet att skapa en klass av cybermedvetna slavar. Slaveri är lönsamt. Men jag tror att vi skulle ångra oss. Vi skulle ägna hundratals år åt att försöka gräva ut oss själva.
Du blev inbjuden i år för att tala om Googles stora futurismevenemang, Google Zeitgeist. Vad sa du till folket där?
Poängen jag gjorde kan sammanfattas så här: säkra hamnar skapar lyckliga fartyg. Om vi är rädda för de rättigheter som kan begäras av cybermedvetna varelser, eller den krympta delen av kakan som varelser av kött och blod kan ha, eller för terminator typ av scenarier kommer vi aldrig att utveckla samhället till cybermedvetandets möjligheter. Men om vi skapar säkra hamnar, om vi har FDA-godkänd mindware, kan vi skapa en gigantisk ny verklighet.