211service.com
Varför AI-forskare borde ompröva protesterande inblandning i militära projekt
Jeremy port
Teknikindustriarbetare som protesterade mot kontrakt med militären borde ompröva sin position, enligt en rådgivare från försvarsdepartementet.
Brendan McCord – en AI-expert som var involverad i Project Maven, DoD:s program för att påskynda artificiell intelligens och maskininlärning för militär användning – sa att konstruktivt engagemang med de väpnade styrkorna var nödvändigt för att undvika dåliga beslut.
I juni, Google sa det skulle inte längre fungera med Project Maven efter mer än 4 000 anställda undertecknat ett brev som anklagade företaget för att vara i krigsbranschen.
Men när han talade vid EmTech Digital, MIT Technology Reviews AI-konferens, sa McCord att det skulle vara bättre för samhället som helhet att se sådana samarbeten fortsätta, och för de avvikande anställda som är involverade i AI-projekt att ompröva sin hållning.
De flesta här i dag skulle hålla med om att militärer och deras roll i avskräckning, anfall och försvar är en del av världen, och de kommer att vara det under överskådlig framtid, sa han. En strategi med konstruktivt engagemang kontra en att välja bort är en mycket mer optimal strategi.
Att arbeta med AI för försvar gör dig inte mindre principiell, tillade han.
Den hemlighetsfulla karaktären hos Project Maven, som sades vara fokuserad på att förbättra analysen av bilder som fångats av militära drönare, hade orsakat oro hos en bred grupp av AI-forskare. Men USA:s väpnade styrkor förblir en mäktig kraft för att främja fred och stabilitet i världen, sa McCord, som återspeglar argumenten att AI-forskare som avvisar militären i princip faktiskt ger fördelen till de med mindre rigorösa etiska standarder, inklusive andra nationer.
Medan McCord sa att han inte skulle förvänta sig att antikrigspacifister skulle ändra sig, bad han forskare att överväga vad som skulle hända om andra länder gjorde sina egna framsteg inom framväxande områden. En mer positiv inställning till militären var särskilt viktig, tillade han, eftersom regeringar nu spelar en mindre roll i utvecklingen av nya tekniska upptäckter än de en gång gjorde.
I slutet av det kalla kriget flyttade innovationsplatsen till den privata sektorn, sade han. Världen har förändrats. Förmågan för regeringen, och regeringens roll, har minskat till en punkt där den aldrig har varit så låg enligt min uppfattning. Nettoeffekten är att stora teknikföretag har antagit manteln – vare sig de ville eller inte – att vara skiljedomarna. De är ofta självreglerande.
Många stora tekniska utvecklingar, inklusive internet, GPS och virtuella assistenter, har kommit som ett resultat av investeringar från försvarsdepartementet. Men sedan slutet av det kalla kriget har DoD:s forsknings- och utvecklingsutgifter minskat. I mitten av 1980-talet var statliga och privata FoU-budgetar ungefär lika stora – runt 55 miljarder dollar årligen. Sedan dess har regeringen fördubblat sina investeringar, medan privata företag, inklusive Google, Microsoft, Facebook och Amazon, dramatiskt har ökat privata budgetar till mer än 350 miljarder dollar varje år.
NSF, National Center for Science and Engineering Statistics, National Patterns of R&D Resources (årsserie)
Men även om stora teknikföretag kanske inte är transparenta om sitt arbete, har regeringen fått kritik av sin egen. Det rapporterades tidigare i veckan av Intercept att Pentagon har avvisat begäranden om informationsfrihet om data om Project Maven , och hävdar att dess handlingar är undantagna från offentlig granskning.
McCord har kvar en rådgivande roll vid försvarsdepartementet, men han lämnade nyligen sitt heltidsjobb där för att ansluta sig till den privata sektorn. Han har nu en ledande befattning på Tulco Labs, ett nytt företag fokuserat på innovation på jobbet grundat av underhållningsmiljardären Thomas Tull.
Han avslutade med att säga att det är absolut nödvändigt för industrianställda att hjälpa till att hålla sina arbetsgivare i schack, och citerade biologen och teoretikern E.O. Wilson.
Det verkliga problemet med mänskligheten, sa han, är att vi har paleolitiska känslor, medeltida institutioner och gudaliknande teknologi.