Facebook använder bots för att simulera vad dess användare kan göra

Kategori: Artificiell intelligens Postad 15 apr

Facebook har utvecklat en ny metod för att spela ut konsekvenserna av sin kod.

Sammanhanget: Liksom alla mjukvaruföretag måste teknikjätten testa sin produkt varje gång den skickar uppdateringar. Men de typer av felsökningsmetoder som normalstora företag använder räcker inte riktigt när du har 2,5 miljarder användare. Sådana metoder fokuserar vanligtvis på att kontrollera hur en enskild användare kan uppleva plattformen och om programvaran svarar på de enskilda användarnas handlingar som förväntat. Däremot uppstår så många som 25 % av Facebooks stora problem först när användare börjar interagera med varandra. Det kan vara svårt att se hur introduktionen av en funktion eller uppdateringar av en integritetsinställning kan utspela sig över miljarder användarinteraktioner.

SimCity: Som svar, Facebook byggde en förminskad version av sin plattform för att simulera användarbeteende. Den kallas WW och hjälper ingenjörer att identifiera och fixa de oönskade konsekvenserna av nya uppdateringar innan de distribueras. Den rekommenderar också automatiskt ändringar som kan göras på plattformen för att förbättra communityupplevelsen.

Bot dubbelgångare: Facebook simulerar hundratals till tusentals av sina användare åt gången med en blandning av hårdkodade och maskininlärningsbaserade bots. De senare tränas med hjälp av en förstärkningsinlärningsalgoritm, som lär sig genom försök och misstag att optimera sitt beteende i ljuset av något mål. Botarna görs sedan för att spela ut olika scenarier, som att en bedragare försöker utnyttja andra användare eller en hackare som försöker komma åt någons privata bilder. I ett scamming-scenario, till exempel, ges scammer-robotarna målet att hitta de bästa målen att lura. Målrobotarna är däremot hårdkodade med de vanligaste sårbara beteendena som uppvisas av användare. Varje scenario kan ha bara ett fåtal bots som utspelar dem, men systemet är designat för att ha tusentals olika scenarier som körs parallellt.

Automatisk design: Medan scenarierna utspelar sig justerar systemet automatiskt olika parametrar i simuleringen, såsom botarnas integritetsinställningar eller begränsningarna för deras handlingar. Med varje justering utvärderar den vilken kombination av parametrar som uppnår det mest önskade communitybeteendet och rekommenderar sedan den bästa versionen till Facebooks plattformsutvecklare.

Dold från synen: För att skapa en så realistisk simulering som möjligt byggs WW faktiskt direkt på liveplattformen snarare än en separat testversion – en annan viktig skillnad från de flesta testscheman. Botarna stannar dock bakom kulisserna. Medan en typisk användare interagerar med Facebook via ett front-end-användargränssnitt, såsom en profil och andra webbplatsfunktioner, kan falska botanvändare interagera direkt med back-end-koden. Detta gör att de kan samexistera med riktiga användare och mer exakt simulera olika scenarier på plattformen utan att dessa användare också av misstag interagerar med dem.

Framtid perfekt: Just nu använder företaget det för att testa och förbättra funktioner som skulle göra det mycket svårare för dåliga aktörer att bryta mot plattformens riktlinjer för communityn. Men den ser också andra potentiella applikationer för systemet, som att testa hur plattformsuppdateringar kan påverka engagemang och andra mätvärden.