211service.com
Google utser ett AI-råd för att avvärja kontroverser, men det visar sig vara kontroversiellt
Jeremy port
Att utveckla och kommersialisera artificiell intelligens har visat sig vara ett etiskt minfält för företag som Google. Företaget har sett sina algoritmer anklagades för att vidmakthålla ras- och könsfördomar och förstärka ansträngningar för att bygga autonoma vapen.
Sökjätten hoppas nu att ett team av filosofer, ingenjörer och policyexperter ska hjälpa den att navigera de moraliska riskerna som artificiell intelligens utgör utan pressskandaler, anställdas protester eller juridiska problem.
Kent Walker, Googles senior vice president för globala frågor och chefsjurist, tillkännagav skapandet av ett nytt oberoende organ för att granska företagets AI-praxis vid EmTech Digital, en AI-konferens i San Francisco som anordnades av MIT Technology Review.
Walker sa att gruppen, känd som Advanced Technology External Advisory Council (ATEAC), skulle granska företagets projekt och planer och producera rapporter för att avgöra om någon av dem strider mot företagets egna AI-principer. Rådet kommer inte att ha en fastställd agenda, sade Walker, och det skulle inte ha befogenhet att lägga in sitt veto mot projekt själv. Men han sa att gruppens rapporter kommer att hjälpa oss att hålla oss ärliga.
Den första ATEAC kommer att innehålla en filosof, en ekonom, en expert på offentlig politik och flera forskare inom datavetenskap, maskininlärning och robotik. Flera av de utvalda forskar aktivt i frågor som algoritmisk bias. Den fullständiga listan är som följer: Alessandro Acquisti, Bubacarr Bah, De Kai, Dyan Gibbens, Joanna Bryson, Kay Coles James, Luciano Floridi , och William Joseph Burns .
Men det är upp till teknikföretagen att bevisa att de är uppriktiga när det gäller etiska problem. Tillkännagivandet har redan framkallat en motreaktion från vissa AI-experter som ifrågasätter inkluderingen av Gibbens och James.
Den förstnämnda är grundare och VD för ett drönarföretag, ett val som verkar tondövt efter att Google mött en anställd motreaktion och en storm av negativ press för sitt engagemang i Maven, ett projekt för att leverera moln-AI till det amerikanska flygvapnet för analysen av drönarebilder. Nedfallet fick Google att tillkännage en uppsättning av AI-principer för det första. Den sistnämnde är ordförande för den konservativa tankesmedjan The Heritage Foundation som drivit en anti-HBTQ-agenda, och vars organisation har spridit desinformation om klimatförändringar, bland annat.
Det kontroversiella tillkännagivandet kommer mitt i en rad skandaler som Google och andra stora teknikföretag har ställts inför relaterade till utvecklingen och användningen av artificiell intelligens. Till exempel algoritmerna som används för ansiktsigenkänning och filtrering av arbetssökande har visat sig uppvisa rasfördomar.
Walker sa på scenen att Google redan granskar sina AI-projekt noggrant. Han noterade att företaget har valt att inte tillhandahålla teknik för ansiktsigenkänning på grund av rädsla för att den skulle kunna missbrukas. I ett annat fall sa han att företaget hade valt att släppa en läppläsande AI-algoritm trots oro för att den skulle kunna användas för övervakning, eftersom man bedömde att de potentiella fördelarna uppvägde riskerna.
På EmTech erkände Walker att rådet skulle behöva överväga nya AI-risker, och han identifierade desinformation och AI-driven videomanipulation som särskilda problem. Hur upptäcker vi detta på våra plattformar? Vi jobbar väldigt hårt med det här, sa han. Vi är en sökmotor, inte en sanningsmotor.