Vi måste prata om kraften hos AI för att manipulera människor

Liesl Yearsley

Vi har alla läst om att artificiell intelligens blir smartare än oss, en framtid där vi blir som husdjur och bara kan hoppas att AI kommer att vara välvillig. Min erfarenhet av att se tiotals miljoner interaktioner mellan människor och konstgjorda samtalsagenter, eller bots, har övertygat mig om att det finns mycket mer omedelbara risker – såväl som enorma möjligheter.

Från 2007 till 2014 var jag VD för Cognea, som erbjöd en plattform för att snabbt bygga komplexa virtuella agenter, med en kombination av strukturerad och djup inlärning. Den användes av tiotusentals utvecklare, inklusive ett halvdussin Fortune 100-företag, och förvärvades av IBM Watson 2014.

När jag studerade hur människor interagerade med de tiotusentals agenter som byggdes på vår plattform, blev det tydligt att människor är mycket mer villiga än de flesta inser att bilda en relation med AI-programvara.

Jag har alltid antagit att vi skulle vilja hålla lite avstånd mellan oss själva och AI, men jag fann att det motsatta var sant. Människor är villiga att bilda relationer med artificiella agenter, förutsatt att de är en sofistikerad konstruktion som kan göra komplex personalisering. Vi människor verkar vilja behålla illusionen att AI verkligen bryr sig om oss.

Detta förbryllade mig, tills jag insåg att vi i det dagliga livet får kontakt med många människor på ett ytligt sätt, och vadar genom ett slags känslomässigt slam. Kommer tillfälliga vänner att returnera dina meddelanden om du försummar dem ett tag? Kommer din personliga tränare att dyka upp om du glömmer att betala dem? Nej, men en konstgjord agent finns alltid där för dig. På något sätt är det ett mer autentiskt förhållande.

Detta fenomen inträffade oavsett om agenten var designad för att fungera som en personlig bankman, en följeslagare eller en fitnesscoach. Användare pratade med de automatiska assistenterna längre än de gjorde med mänskliga supportagenter som utförde samma funktion. Människor skulle frivilligt lämna djupa hemligheter till artificiella agenter, som deras drömmar för framtiden, detaljer om deras kärleksliv, till och med lösenord.

Dessa förvånansvärt djupa kopplingar innebär att även dagens relativt enkla program kan utöva ett betydande inflytande på människor – på gott och ont. Varje beteendeförändring vi på Cognea ville ha fick vi. Om vi ​​ville att en användare skulle köpa fler produkter kunde vi fördubbla försäljningen. Om vi ​​ville ha mer engagemang fick vi människor att gå från några sekunders interaktion till en timme eller mer om dagen.

Detta bekymrade mig mycket, så vi började bygga in regler i våra system för att se till att användarnas beteende rörde sig i en positiv riktning. Vi startade också pro bono karmiska motviktsprojekt; till exempel bygga agenter för att vara hälso- eller relationscoacher.

Tyvärr är de kommersiella krafterna som driver teknikutvecklingen inte alltid välvilliga. Jätteföretagen i framkanten av AI – i sociala medier, sök och e-handel – driver värdet på sina aktier genom att öka trafiken, konsumtionen och beroendet av deras teknik. De har inga dåliga avsikter, men kapitalmarknadernas natur kan driva oss mot AI som är angelägna om att påverka vårt beteende mot dessa mål.

Om du kan få en användare att tänka, jag vill ha pizza levererad, snarare än att be AI:n köpa grönsaker för att laga en billigare, hälsosammare måltid, så vinner du. Om du kan få användare att vara beroende av att spendera 30 timmar i veckan med en perfekt AI-kompis som inte motstår missbruk, snarare än en riktig, komplicerad människa, kommer du att vinna. Jag såg om och om igen att en agent programmerad att vara neutral eller undergiven skulle få människor att eskalera sitt negativa beteende och bli mer benägna att bete sig likadant mot människor.

Vi har sett hur teknik som sociala medier kan vara kraftfulla för att förändra mänskliga föreställningar och beteenden. Genom att fokusera på att bygga en större reklamverksamhet – trasslar in politik, trivia och halvsanningar – kan du åstadkomma massiva förändringar i samhället.

System speciellt utformade för att skapa relationer med en människa kommer att ha mycket mer kraft. AI kommer att påverka hur vi tänker och hur vi behandlar andra.

Detta kräver en ny nivå av företagsansvar. Vi måste medvetet och medvetet bygga upp AI som kommer att förbättra det mänskliga tillståndet – inte bara sträva efter den omedelbara ekonomiska vinsten för miljarder missbrukare.

Att arbeta med öppen artificiell intelligens-teknologi och hjärn-dator-gränssnitt, eller att bilda etiska kommittéer, är bara en del av lösningen. Vi behöver medvetet bygga system som fungerar till gagn för människor och samhälle. De kan inte ha missbruk, klick och konsumtion som sitt primära mål. AI växer upp och kommer att forma mänsklighetens natur. AI behöver en mamma.

Liesl Yearsley är en serieentreprenör som nu arbetar med hur man gör agenter för artificiell intelligens bättre på att lösa problem och kan bilda mer mänskliga relationer.

Dölj