211service.com
Vem kommer att reglera AI? Det kan vara du.
Från Facebooks roll i att sprida felaktig information till nya europeiska upphovsrättslagar, det är det hetaste ämnet inom teknik just nu. Hur ska teknikföretag regleras? Hur hänger den förordningen med ny teknik som AI? Och vem ska se till att nya lagar inte kväver innovation?
Det är sant att lagstiftare ofta kämpar för att förstå grundläggande tekniska koncept, medan företag utvecklar teknologier mycket snabbare än vad regeringar och rättssystemet kan hantera. På EmTech Digital, MIT Technology Reviews AI-konferens, föreslog en grupp ledande experter på AI och policy att nya standarder och samarbete behövdes.
Medan Googles policychef Kent Walker meddelade bildandet av ett nytt externt rådgivande råd för AI-utveckling , Rashida Richardson, chef för policyforskning vid AI Now Institute , sa att tyngdpunkten borde ligga på teknologer och ledande företag som agerar för att förhindra missbruk av de system de bygger.
Vem bär bördan för att se till att ny teknik inte är diskriminerande? hon frågade.
Oavsiktliga konsekvenser - till exempel när ansiktsigenkänningssystem ger falska positiva resultat - är för farliga för många grupper av människor, sa hon, och system som tränas på dålig data slutar bara med att förstärka redan existerande fördomar. Men att förebygga övergrepp och samtidigt uppmuntra utveckling är helt klart något som lagen brottas med.
De företag och individer som ansvarar för att skapa framväxande teknologier har en skyldighet. De måste göra sin due diligence - djupt förhöra sammanhanget där en datamängd skapades, till exempel, sa Richardson. I andra fall finns det tillfällen då företag kan upptäcka att deras teknik inte kan göras diskrimineringssäker, och de kommer att behöva fatta ett tufft beslut om huruvida de ska ta ut den produkten på marknaden.
Brendan McCord, en rådgivare till det amerikanska försvarsdepartementet, sa att de största och mest inflytelserika företagen borde använda sin enorma makt och ta en mer aktiv roll i att hjälpa till att forma reglerande ansträngningar.
Det civila samhällets grupper gör ett bra jobb i att försöka öka medvetenheten om dessa frågor, sa han. Men företagen har enorm kapacitet att driva detta samtal.
McCord, som tidigare arbetat på Pentagons kontroversiella Project Maven, föreslog att ett konsortium av ledande företag kunde hjälpa till att etablera industrinormer eller till och med arbeta med lagstiftare för att designa framtidssäkra metoder för att reglera AI, maskininlärning och andra snabbväxande teknologier.
Jag tror att en bra strategi är att företag [som Google] slår sig samman med andra företag och skapar fart, skapar en push för rätt sorts reglering och har det kodifierat, vilket driver en positiv cykel där andra företag måste följa den förordningen , han sa.
Detta skulle dock kräva att företag arbetar mycket hårdare för att sätta allmänhetens intresse före sina egna vinster, tillade han.
Googles Walker sa att det fanns många exempel på företag som fattade bra beslut – och att Google själv övervägde vilka delar av Europas nya datasekretesslagar man skulle kunna importera till USA.
Men bevisen tyder på att nuvarande tillvägagångssätt för självreglering har visat på många svagheter – och ofta bara manifesteras inför hot från regeringar eller domstolar. Facebook meddelade för mindre än en vecka sedan att de skulle sluta tillåta annonsörer att rikta in sig på ras, kön och ålder, till exempel. Det beslutet kom dock först efter en rad stämningar som anklagade att företaget bröt mot medborgerliga rättigheter som upprättades på 1960-talet.
AI Nows Richardson sa att det är svårt att reglera framväxande teknologier eftersom de rör sig så snabbt och ofta utelämnar viktiga intressenter.
Det finns en väldigt tvetydig retorik kring jämställdhet, sa hon. Det är verkligen svårt att säga 'Vi kommer inte att skada människor med den här tekniken.' Vem fattar det beslutet?
Det är svårare att reglera, för antingen har du ett fullt moratorium tills vi förstår det, eller så lever du i den värld vi lever i just nu, där du försöker komma ikapp.