Så här ser Facebooks AI ut efter dåliga grejer

Kategori: Artificiell intelligens Postad 29 nov

Sammanhanget: Den stora majoriteten av Facebooks moderering görs nu automatiskt av företagets maskininlärningssystem, vilket minskar mängden upprörande innehåll som moderatorerna måste granska. I sin senaste rapport om gemenskapsstandarder , som publicerades tidigare denna månad, hävdade företaget att 98 % av terroristvideor och bilder tas bort innan någon har chansen att se dem, än mindre rapportera dem.

Så vad är det vi ser här? Företaget har tränat sina maskininlärningssystem för att identifiera och märka föremål i videor – från det vardagliga, som vaser eller människor – till det farliga, som pistoler eller knivar. Facebooks AI använder två huvudsakliga metoder för att leta efter farligt innehåll. Det ena är att använda neurala nätverk som letar efter egenskaper och beteenden hos kända objekt och märka dem med olika procentandelar av förtroende (som vi kan se i videon ovan).

Utbildning pågår: Dessa neurala nätverk tränas på en kombination av förmärkta videor från dess mänskliga granskare, rapporter från användare och snart från videor tagna av Londons Metropolitan Police. De neurala näten kan använda denna information för att gissa vad hela scenen kan visa, och om den innehåller något beteende eller bilder som bör flaggas. Det gav mer information om hur dess system fungerar på en pressträff denna vecka.

Sen då? Om systemet beslutar att en videofil innehåller problematiska bilder eller beteenden kan det ta bort den automatiskt eller skicka den till en mänsklig innehållsgranskare. Om det bryter mot reglerna kan Facebook sedan skapa en hash – en unik sträng med siffror – för att beteckna den och sprida den i hela systemet så att annat matchande innehåll raderas automatiskt om någon försöker ladda upp det igen. Dessa hash kan delas med andra sociala medieföretag så att de också kan ta ner kopior av den kränkande filen.

Dessa [Metropolitan Police] videor är otroligt användbara för oss. Terroristhändelser är sällsynta, tack och lov, men det betyder att mängden träningsdata är så liten, sa ingenjörschef Nicola Bortignon på ett samtal.

En svag punkt: Facebook kämpar fortfarande för att automatisera sin förståelse av språkets betydelse, nyans och sammanhang. Det är därför företaget förlitar sig på att människor rapporterar den överväldigande majoriteten av inlägg om mobbning och trakasserier som bryter mot dess regler: bara 16 % av dessa inlägg identifieras av dess automatiserade system. När tekniken går framåt kan vi förvänta oss att se den siffran öka. Men att få AI att verkligen förstå språk är fortfarande en av fältets största utmaningar.

Den större bilden: I mars dödade en terrorist 49 personer i två moskéer i Christchurch, Nya Zeeland. Han livestreamade massakern på Facebook och videor av den cirkulerade runt på sajten i månader efteråt. Det var en väckarklocka för branschen. Om det hände igen nu är det större chans att det skulle fångas upp och avlägsnas snabbare.