211service.com
Var inte AI-vil: Google säger att dess algoritmer inte kommer att skada
IYIKON/anbileru adaleru/yaroslav samoylov/SBTS/Hea Pon Lin (The Noun Project)
Google har skapat en etisk kod för artificiell intelligens som förbjuder utveckling av autonoma vapen. Men principerna lämnar tillräckligt med rörelseutrymme för Google att dra nytta av lukrativa försvarsaffärer längre fram.
Tillkännagivandet kommer i kölvattnet av betydande interna protester över användningen av Googles AI-teknik av ett initiativ från försvarsdepartementet som kallas Algorithmic Warfare Cross-Functional Team. Målet med denna satsning, känd internt som Projekt Maven , är att förbättra noggrannheten vid drönarangrepp, bland annat.
Förra månaden slutade ett dussin Google-arbetare på grund av skandalen, och många fler skrev under ett öppet protestbrev.
Uppståndelsen fångar de farhågor som många har om hur teknik kan hjälpa till att automatisera krigföring i framtiden. Situationen är dock inte enkel.
Artificiell intelligens kan hjälpa till att göra vissa vapensystem säkrare och mindre felbenägna. Det finns också många vardagliga tillämpningar av AI inom försvarsindustrin. Google vill inte förneka denna enorma potentiella marknad för sin moln-AI-teknik.
Googles vd, Sundar Pichai, tillkännagav den nya koden i ett blogginlägg idag. Den föreslår sju principer för att vägleda Googles användning av AI, som säger att det bör gynna samhället; undvik algoritmisk förspänning; respektera integriteten; testas för säkerhet; vara ansvarig inför allmänheten; upprätthålla vetenskaplig rigor; och göras tillgängliga för andra i enlighet med samma principer.
Men Pichai ansträngde sig också för att konstatera att Google inte skulle tillåta att dess AI-teknik används för att utveckla något som kan orsaka skada, inklusive vapen eller annan teknik vars huvudsakliga syfte eller implementering är att orsaka eller direkt underlätta skada på människor.
Pichai sa att Google också skulle undvika att utveckla övervakningsteknik som bryter mot internationellt accepterade normer för mänskliga rättigheter, eller någon teknik som strider mot internationella lagar.
Artificiell intelligens utvecklas snabbt och Google har stött på andra problem som involverar AI-projekt. Ett av dess datorseendesystem har till exempel upprepade gånger felidentifierat människor av afrikanskt arv som gorillor. Företaget övergav sitt Don’t be evil-motto i april, men det behåller en idealistisk kultur.
Militär användning av artificiell intelligens kan bli allt mer kontroversiell eftersom tekniken antas på nya sätt och företag försöker sälja sin moln-AI-teknik så brett som möjligt.
Maskininlärning och artificiell intelligens kommer oundvikligen att bli viktigare för intelligens- och försvarsarbete. Andra amerikanska teknikföretag, inklusive Amazon och Microsoft, har lagt bud på ett multimiljarddollar molnprojekt med Pentagon.