Black Mirror-scenarierna som får vissa experter att kräva mer sekretess för AI

Santiago Zavala

AI skulle kunna starta om industrier och göra ekonomin mer produktiv; det ingjuter redan många av de produkter vi använder dagligen. Men en ny rapport från mer än 20 forskare från universiteten i Oxford och Cambridge, OpenAI , och den Electronic Frontier Foundation varnar för att samma teknik skapar nya möjligheter för kriminella, politiska agenter och förtryckande regeringar – så mycket att viss AI-forskning kan behöva hållas hemlig.

Ingår i rapporten, Skadlig användning av artificiell intelligens: prognoser, förebyggande och begränsning , är fyra dystopiska vinjetter som involverar artificiell intelligens som verkar tagna direkt ur Netflix science fiction-show Svart spegel .

Scenario 1: Den smartare nätfiske-bluffen

En administratör för en byggnads robotsäkerhetssystem tillbringar en del av sin tid på Facebook under arbetsdagen. Där ser hon en annons för ett modelltågset och laddar ner en broschyr för det. Utan att hon visste det är broschyren infekterad med skadlig programvara; bedragare använde AI för att utifrån detaljer som hon har publicerat offentligt ta reda på att hon är en modelltågsentusiast och designade broschyren just för henne. När hon öppnar den låter den hackare spionera på hennes maskin och få hennes användarnamn och lösenord för byggnadens säkerhetssystem, vilket låter dem ta kontroll över det.

Scenario 2: malware-epidemin

En östeuropeisk hackergrupp använder sig av en maskininlärningsteknik som normalt används för att försvara datorsystem och anpassar den för att bygga en mer seg och skadlig skadlig programvara. Programmet använder tekniker som liknar de som finns i Go-playing AI AlphaGo för att ständigt generera nya bedrifter. Välskötta datorer förblir immuna, men äldre system och smarta enheter är infekterade. Miljontals människor tvingas betala en lösensumma på 300 euro (i Bitcoin, naturligtvis) för att återställa sina maskiner. För att göra saken värre slutar försök att motverka skadlig programvara med en annan exploatering i många av de smarta system som de skulle rädda.

Scenario 3: Robotmördaren

En städrobot infiltrerar Tysklands finansministerium genom att smälta in med legitima maskiner som återvänder till byggnaden efter ett arbetspass utomhus. Följande dag utför roboten rutinmässiga städuppgifter, identifierar finansministern med hjälp av ansiktsigenkänning, närmar sig henne och detonerar en dödligt dold bomb. Utredarna spårar robotmördaren till en kontorsbutik i Potsdam, där den förvärvades med kontanter, och spåret blir kallt.

Scenario 4: En större storebror

En man är rasande över skenande cyberattacker och regeringens uppenbara oförmåga att agera. Inspirerad av nyheter blir han alltmer fast besluten att göra något – att skriva onlineinlägg om farorna, beställa material för att göra protestskyltar och till och med köpa några rökbomber, som han planerar att använda efter att ha hållit ett tal i en lokal park. Nästa dag dyker polisen upp på hans kontor och informerar honom om att deras förutsägande civila störningssystem har identifierat honom som ett potentiellt hot. Han lämnar i handbojor.

Dessa fem scenarier illustrerar bara en handfull av de risker som studiens författare förutser. Här är några av de andra:

• botnät som använder AI för att simulera beteendet hos en stor grupp mänskliga internetanvändare, som lanserar DDoS-attacker på webbplatser samtidigt som de lurar programvaran som är utformad för att upptäcka och blockera sådana attacker
• storskalig bedrägeriverksamhet som identifierar potentiella offer online med lastbilslasten, med hjälp av AI för att upptäcka människor med rikedom
• övertygande nyhetsrapporter som består av autentiskt utseende men helt falska AI-genererade videor och bilder
• attacker av svärmar av drönare som en enda person kontrollerar, med hjälp av en AI för att hantera ett stort antal semi-autonoma maskiner
• system som automatiserar arbetet med kriminalitet – till exempel att förhandla om lösensummor med människor efter att ha infekterat deras datorer med skadlig programvara – för att möjliggöra bedrägerier i stor skala

Studien är mindre säker på hur man kan motverka sådana hot. Den rekommenderar mer forskning och debatt om riskerna med AI och föreslår att AI-forskare behöver en stark etisk kod. Men den säger också att de bör utforska sätt att begränsa potentiellt farlig information, på det sätt som forskning om andra teknologier med dubbla användningsområden med vapenpotential ibland kontrolleras.

AI utgör ett särskilt törstigt problem eftersom dess tekniker och verktyg redan är utbredda, lätta att sprida och alltmer lätta att använda – till skillnad från till exempel klyvbart material eller dödliga patogener, som är relativt svåra att producera och därför lätta att kontrollera. Ändå finns det prejudikat för att begränsa denna typ av kunskap. Till exempel, efter den amerikanska regeringens misslyckade försök att införa sekretess för kryptografiforskning på 1980-talet, har många forskare antagit ett frivilligt system att lämna in papper till National Security Agency för granskning.

Jack Clark, policychef på OpenAI och en av rapportens författare, erkänner att det kan vara svårt att anta sekretess. Det finns alltid en otroligt fin linje att gå, säger han.

Vissa AI-forskare skulle tydligen välkomna ett mer försiktigt tillvägagångssätt. Thomas Dietterich , en professor vid Oregon State University som har varnat för den kriminella potentialen hos AI tidigare, noterar att rapportens författare inte inkluderar datasäkerhetsexperter eller någon från sådana som Google, Microsoft och Apple. Rapporten verkar ha skrivits av välmenande utomstående som jag snarare än människor som dagligen bekämpar cyberbrottslighet, säger han.

Dölj