211service.com
Vårt konstiga beteende under pandemin krånglar till AI-modeller
Getty
Veckan 12-18 april var de 10 bästa söktermerna på Amazon.com: toalettpapper, ansiktsmask, handdesinfektionsmedel, pappershanddukar, Lysol-spray, Clorox-servetter, mask, Lysol, masker för bakterieskydd och N95-mask . Människor letade inte bara, de köpte också – och i bulk. Majoriteten av människor som letade efter masker slutade med att köpa ny Amazon #1 bästsäljare, ansiktsmask, pack om 50 .
När covid-19 slog till började vi köpa saker som vi aldrig hade köpt förut. Skiftet var plötsligt: stöttepelarna i Amazons topp tio – telefonfodral, telefonladdare, Lego – slogs av listorna på bara några dagar. Nozzle, ett London-baserat konsultföretag som specialiserat sig på algoritmisk reklam för Amazon-säljare, fångade den snabba förändringen i denna enkla graf.
Det tog mindre än en vecka i slutet av februari för de 10 bästa Amazon-söktermerna i flera länder att fyllas med produkter relaterade till covid-19. Du kan spåra spridningen av pandemin genom vad vi handlat efter: varorna nådde sin topp i Italien, följt av Spanien, Frankrike, Kanada och USA. Storbritannien och Tyskland ligger något efter. Det är en otrolig övergång inom loppet av fem dagar, säger Rael Cline, Nozzles VD. Ringeffekterna har setts i detaljhandelskedjorna.
Men de har också påverkat artificiell intelligens, vilket har orsakat hicka för algoritmerna som körs bakom kulisserna inom lagerhantering, bedrägeriupptäckt, marknadsföring och mer. Maskininlärningsmodeller som tränats på normalt mänskligt beteende upptäcker nu att det normala har förändrats, och vissa fungerar inte längre som de borde.
Hur illa det är beror på vem du pratar med. Enligt Pactera Edge, ett globalt AI-konsultföretag, är automatiseringen i slutskedet. Andra säger att de håller ett försiktigt öga på automatiserade system som bara handlar om att hålla i sig, och kliver in med en manuell korrigering när det behövs.
Vad som är tydligt är att pandemin har avslöjat hur sammanflätade våra liv är med AI, och exponerar ett känsligt medberoende där förändringar i vårt beteende förändrar hur AI fungerar och förändringar i hur AI fungerar förändrar vårt beteende. Detta är också en påminnelse om att mänskligt engagemang i automatiserade system fortfarande är nyckeln. Du kan aldrig sitta och glömma när du är i sådana extraordinära omständigheter, säger Cline.
Mer om coronaviruset
Vår viktigaste täckning av covid-19 är gratis, inklusive:
Vad är flockimmunitet?
Hur fungerar coronaviruset?
Vilka är de potentiella behandlingarna?
Vilka läkemedel fungerar bäst?
Vad är rätt sätt att göra social distansering?
Andra vanliga frågor om coronaviruset
---
Nyhetsbrev: Coronavirus Tech Report
Zoomshow: Radio Corona
Se även:
All vår covid-19 täckning
Covid-19 specialnummer
Klicka här för att prenumerera och stödja vår ideella journalistik.
Maskininlärningsmodeller är designade för att reagera på förändringar. Men de flesta är också ömtåliga; de presterar dåligt när indata skiljer sig för mycket från den data de tränats på. Det är ett misstag att anta att du kan ställa in ett AI-system och gå därifrån, säger Rajeev Sharma, global vice president på Pactera Edge: AI är en levande motor som andas.
Sharma har pratat med flera företag som kämpar med egensinnig AI. Ett företag som levererar såser och smaktillsatser till återförsäljare i Indien behövde hjälp med att fixa sitt automatiska lagerhanteringssystem när bulkbeställningar bröt sina prediktiva algoritmer. Systemets försäljningsprognoser som företaget förlitade sig på för att beställa om lager stämde inte längre med vad som faktiskt såldes. Det har aldrig tränats på en sådan här spik, så systemet var ur spel, säger Sharma.
Ett annat företag använder en AI för att bedöma känslan av nyhetsartiklar och ger dagliga investeringsrekommendationer baserat på resultaten. Men eftersom nyheterna för tillfället är dystrare än vanligt kommer råden att bli väldigt skeva, säger Sharma. Och ett stort streamingföretag som har fått en plötslig tillströmning av innehållssugna prenumeranter har också problem med sina rekommendationsalgoritmer, säger han. Företaget använder maskininlärning för att föreslå relevant och personligt anpassat innehåll för tittarna så att de fortsätter att komma tillbaka. Men den plötsliga förändringen i abonnentdata gjorde att systemets rekommendationer blev mindre exakta.
Många av dessa problem med modeller uppstår på grund av att fler företag köper system för maskininlärning men saknar det interna kunnandet som behövs för att underhålla dem. Att omskola en modell kan kräva mänskligt ingripande av experter.
Den nuvarande krisen har också visat att saker och ting kan bli värre än de ganska vaniljiga värsta scenarierna som ingår i träningsuppsättningarna. Sharma tycker att fler AI:er borde tränas inte bara på upp- och nedgångar under de senaste åren, utan också på galna händelser som den stora depressionen på 1930-talet, Black Monday-börskraschen 1987 och finanskrisen 2007-2008. En pandemi som denna är en perfekt trigger för att bygga bättre maskininlärningsmodeller, säger han.
Ändå kan du inte förbereda dig på allt. I allmänhet, om ett maskininlärningssystem inte ser vad det förväntar sig att se, kommer du att få problem, säger David Excell, grundare av Featurespace, ett beteendeanalysföretag som använder AI för att upptäcka kreditkortsbedrägerier. Kanske överraskande nog har Featurespace inte sett sin AI träffa alltför hårt. Människor köper fortfarande saker på Amazon och prenumererar på Netflix som de var tidigare, men de köper inte stora biljetter eller spenderar på nya platser, vilket är de beteenden som kan väcka misstankar. Människors utgiftsbeteende är en sammandragning av deras gamla vanor, säger Excell.
Företagets ingenjörer behövde bara gå in för att anpassa sig efter en ökning av människor som köpte trädgårdsutrustning och elverktyg, säger Excell. Det här är de typer av onormala inköp till mellanpris som algoritmer för att upptäcka bedrägerier kan plocka upp. Jag tror att det säkerligen finns mer tillsyn, säger Excell. Världen har förändrats och data har förändrats.
Att få rätt ton
Londonbaserade Phrasee är ett annat AI-företag som är praktiskt. Den använder naturligt språkbehandling och maskininlärning för att generera e-postmarknadsföring eller Facebook-annonser för sina kunders räkning. Att se till att den får den rätta tonen är en del av dess uppgift. Dess AI fungerar genom att generera massor av möjliga fraser och sedan köra dem genom ett neuralt nätverk som väljer de bästa. Men eftersom generering av naturliga språk kan gå väldigt fel, låter Phrasee alltid människor kontrollera vad som går in i och kommer ut ur dess AI.
När covid-19 slog till insåg Phrasee att mer känslighet än vanligt kan krävas och började filtrera bort ytterligare språk. Företaget har förbjudit specifika fraser, som att bli viral, och tillåter inte språk som hänvisar till avskräckta aktiviteter, som festkläder. Den har till och med utrangerade emojis som kan läsas som för glada eller för alarmerande. Och det har också släppt termer som kan väcka ångest, såsom OMG, var beredd, fyll på och stärk dig. Människor vill inte att marknadsföring ska få dem att känna sig oroliga och rädda – du vet, som att den här affären är på väg att ta slut, pressar press, säger Parry Malm, företagets VD.
Som ett mikrokosmos för detaljhandeln som helhet kan du dock inte slå Amazon. Det är också där några av de mest subtila justeringarna bakom kulisserna görs. Eftersom Amazon och de 2,5 miljoner tredjepartssäljare som det stöder kämpar för att möta efterfrågan, gör de små justeringar av sina algoritmer för att hjälpa till att sprida belastningen.
De flesta Amazon-säljare förlitar sig på Amazon för att utföra sina beställningar. Säljare lagrar sina varor i ett Amazon-lager och Amazon tar hand om all logistik, levererar till folks hem och hanterar returer. Den marknadsför sedan säljare vars beställningar den utför själv. Om du till exempel söker efter en specifik vara, till exempel en Nintendo Switch, är det mer sannolikt att resultatet som visas högst upp, bredvid den framträdande knappen Lägg till i varukorg, kommer från en leverantör som använder Amazons logistik än en som gör det. 't.
Men under de senaste veckorna har Amazon vänt på det, säger Cline. För att underlätta efterfrågan på sina egna lager verkar dess algoritmer nu mer benägna att marknadsföra säljare som hanterar sina egna leveranser.
Volatila marknader
Denna typ av justering skulle vara svår att göra utan manuellt ingripande. Situationen är så flyktig, säger Cline. Du försöker optimera för toalettpapper förra veckan, och den här veckan vill alla köpa pussel eller gymutrustning.
De justeringar som Amazon gör av sina algoritmer har sedan en genomslagseffekt på de algoritmer som säljare använder för att bestämma vad de ska spendera på onlineannonsering. Varje gång en webbsida med annonser laddas sker en supersnabb auktion där automatiserade budgivare själva bestämmer vem som får fylla varje annonsruta. Det belopp som dessa algoritmer bestämmer sig för att spendera för en annons beror på en myriad av variabler, men i slutändan baseras beslutet på en uppskattning av hur mycket du, ögongloberna på sidan, är värda för dem. Det finns många sätt att förutsäga kundbeteende, inklusive inte bara data om dina tidigare köp utan också den dolda som annonsföretag har placerat dig i baserat på din onlineaktivitet.
Men nu är en av de bästa prediktorerna för om någon som klickar på en annons kommer att köpa din produkt hur lång tid du säger att det kommer att ta att leverera den, säger Cline. Så Nozzle pratar med kunder om att justera sina algoritmer för att ta hänsyn till detta. Om du till exempel tror att du inte kan leverera snabbare än en konkurrent kanske det inte är värt att försöka bjuda över dem i en annonsauktion. Å andra sidan, om du vet att din konkurrent har slut på lager, då kan du gå in på ett billigt spel som de inte kommer att bjuda på.
Allt detta är endast möjligt med ett dedikerat team som håller koll på saker och ting, säger Cline. Han tror att den nuvarande situationen är en ögonöppnare för många människor som antog att alla automatiserade system kunde köra sig själva. Du behöver ett datavetenskapsteam som kan koppla vad som händer i världen med vad som händer i algoritmerna, säger han. En algoritm skulle aldrig plocka upp en del av det här.
Med allt sammankopplat har effekten av en pandemi känts vida omkring, berörande mekanismer som i mer typiska tider förblir dolda. Om vi letar efter ett silverfoder, så är det nu dags att inventera de nyligen exponerade systemen och fråga hur de kan utformas bättre, göras mer motståndskraftiga. Om maskiner ska kunna lita på måste vi vaka över dem.