Det här har precis blivit en stor vecka för AI-reglering

FTC dörrkoncept

Ms Tech | Unsplash





Det är en häftig vecka för regeringens tillbakadragande av missbruk av artificiell intelligens.

Idag släppte EU sin efterlängtade uppsättning av AI-föreskrifter , varav ett tidigt utkast läckte förra veckan . Reglerna är omfattande, med restriktioner för massövervakning och användningen av AI för att manipulera människor.

Men en avsiktsförklaring från US Federal Trade Commission, som beskrivs i en kort blogginlägg av personaljuristen Elisa Jillson den 19 april, kan ha fler tänder inom den närmaste framtiden. Enligt inlägget planerar FTC att gå efter företag som använder och säljer partiska algoritmer .



Ett antal företag kommer att springa rädda just nu, säger Ryan Calo, professor vid University of Washington, som arbetar med teknik och juridik. Det är egentligen inte bara det här blogginlägget, säger han. Det här blogginlägget är ett väldigt skarpt exempel på vad som ser ut att vara en förändring i havet.

EU är känt för sin hårda linje mot Big Tech, men FTC har tagit ett mjukare grepp, åtminstone de senaste åren. Byrån är avsedd att bevaka orättvisa och oärliga handelsmetoder. Dess uppdrag är snävt – det har inte jurisdiktion över statliga myndigheter, banker eller ideella organisationer. Men det kan träda in när företag felaktigt framställer kapaciteten hos en produkt de säljer, vilket innebär att företag som hävdar sina ansiktsigenkänningssystem, prediktiva polisiära algoritmer eller vårdverktyg inte är partiska kan nu vara i skottlinjen. Där de har makt har de enorm makt, säger Calo.



Vidta åtgärder

FTC har inte alltid varit villiga att utöva den makten. Efter kritik på 1980- och 90-talen om att den var för aggressiv, backade den och valde färre slagsmål, särskilt mot teknikföretag. Detta ser ut att förändras.

I blogginlägget varnar FTC leverantörer att påståenden om AI måste vara sanningsenliga, icke-bedrägliga och backas upp av bevis.

Låt oss till exempel säga att en AI-utvecklare berättar för kunderna att dess produkt kommer att ge '100 % opartiska anställningsbeslut', men algoritmen byggdes med data som saknade ras- eller könsmångfald. Resultatet kan bli bedrägeri, diskriminering – och en brottsbekämpande åtgärd från FTC.



FTC-åtgärden har tvåpartistöd i senaten, där kommissionärerna tillfrågades i går vad mer de kunde göra och vad de behövde för att göra det. Det är vind bakom seglen, säger Calo.

Samtidigt, även om de drar en tydlig linje i sanden, är EU:s AI-förordningar endast riktlinjer. Precis som med GDPR-reglerna som infördes 2018 kommer det att vara upp till enskilda EU-medlemsstater att bestämma hur de ska implementeras. En del av språket är också vagt och öppet för tolkning. Ta en åtgärd mot subliminala tekniker bortom en persons medvetande för att materiellt förvränga en persons beteende på ett sätt som kan orsaka psykisk skada. Gäller det nyhetsflöden i sociala medier och riktad reklam? Vi kan förvänta oss att många lobbyister försöker uttryckligen utesluta reklam eller rekommendationssystem, säger Michael Veale, en fakultetsmedlem vid University College London som studerar juridik och teknik.



Relaterad berättelse

Europa antar strängare regler för övervakningsteknik Målet är att göra försäljningen av teknologier som spionprogram och ansiktsigenkänning mer transparent i Europa först och sedan över hela världen.

Det kommer att ta år av rättsliga utmaningar i domstolarna för att få fram detaljerna och definitionerna. Det kommer bara att ske efter en extremt lång process av utredning, klagomål, böter, överklagande, motöverklagande och hänskjutande till EG-domstolen, säger Veale. Då startar cykeln igen. Men FTC har, trots sitt snäva uppdrag, autonomi att agera nu.

En stor begränsning som är gemensam för både FTC och Europeiska kommissionen är oförmågan att tygla regeringarnas användning av skadlig AI-teknik. EU:s regelverk inkluderar undantag för statlig användning av till exempel övervakning. Och FTC har bara tillstånd att gå efter företag. Det skulle kunna ingripa genom att stoppa privata leverantörer från att sälja partisk programvara till brottsbekämpande myndigheter. Men att genomföra detta kommer att bli svårt, med tanke på sekretessen kring sådan försäljning och bristen på regler om vad myndigheter måste deklarera när upphandla teknik .

Ändå återspeglar veckans tillkännagivanden en enorm världsomspännande förändring mot seriös reglering av AI, en teknik som har utvecklats och implementerats med liten tillsyn hittills. Etikvakthundar har krävt begränsningar av orättvisa och skadliga AI-metoder i flera år.

EU ser att dess regler för AI under befintligt skydd för mänskliga friheter. Artificiell intelligens måste tjäna människor, och därför måste artificiell intelligens alltid följa människors rättigheter, sa Ursula von der Leyen , ordförande för Europeiska kommissionen, i ett tal inför releasen.

Reglering kommer också att hjälpa AI med dess bildproblem . Som von der Leyen också sa: Vi vill uppmuntra våra medborgare att känna sig trygga att använda den.

Dölj