211service.com
Podcast: Hur prissättningsalgoritmer lär sig att samverka
Ms Tech | Envato
Algoritmer avgör nu hur mycket saker kostar. Det kallas dynamisk prissättning och det anpassar sig efter rådande marknadsförhållanden för att öka vinsten. Framväxten av e-handel har drivit prissättningsalgoritmer till en vardaglig händelse – oavsett om du handlar på Amazon, bokar ett flyg, hotell eller beställer en Uber. I denna fortsättning på vår serie om automation och din plånbok utforskar vi vad som händer när en maskin bestämmer priset du betalar.
I detta avsnitt möter vi:
- Lisa Wilkins, UX-designer
- Gabe Smith, chefsevangelist, Pricefx
- Aylin Caliskan, biträdande professor, University of Washington
- Joseph Harrington, professor i företagsekonomi, ekonomi och offentlig politik, University of Pennsylvania
- Maxime Cohen, professor i Scale AI-ordförande, McGill University
Krediter:
Det här avsnittet rapporterades av Anthony Green och producerades av Jennifer Strong och Emma Cillekens. Vi är redigerade av Mat Honan och vår mixtekniker är Garret Lang, med ljuddesign och musik av Jacob Gorski.
Fullständig utskrift:
[TR ID]
Jennifer: Okej, så jag är på en flygplats strax utanför New York City och tittar bara på avgångstavlan här och ser alla dessa flyg som går olika platser... Det får mig att tänka på hur vi bestämmer hur mycket något ska kosta... som en biljett till en av dessa flyg. För vart planet är på väg är bara en del av pusslet. Priset på flygbiljetter är mycket personligt. Det inkluderar enorma mängder konsumentdata. Priserna ändras också i realtid baserat på saker som våra bokningsmönster, konkurrentpriser, till och med vädret...
Jennifer: Men det var inte alltid så. Det fanns en tid... vi kunde lita på föreställningen att det du ser är vad du får.
Dessa dagar bestäms priserna av algoritmer. Det kallas dynamisk prissättning ... som prissätter saker enligt nuvarande marknadsförhållanden för att öka vinsten.
Och det är inte bara flygbolag som använder denna teknik.
[SOT: Återförsäljare antar 'Dynamisk prissättning' - via YouTube]
TV-reporter: En praxis startade av flygbolagen, dynamisk prissättning har nu antagits av återförsäljare, tack vare lite ny teknik.
[SOT: Amazon anklagas för högprissättning WCPO ABC 9, via YouTube]
TV-reporter: ...och det blir allt vanligare tack vare datoralgoritmer. Du hittar det med Disney World-biljetter, hotellrum, Major League Baseball-säten...och nu. AMAZON.
Jennifer: E-handel drev dessa algoritmer till en vardaglig händelse...
Men vad betyder det för konsumenterna?
[SOT: ANTITTRUST OCH TÄVLINGSKONFERENS Del 12 Dag två Panel tre 'Amazon Phenomenon' - via YouTube]
Lina Khan, direktör, juridisk policy, Open Markets Institute: Amazon ändrar priser två miljoner gånger om dagen, du vet, så vad är ett stabilt pris för någon av oss och hur kommer vi att veta att vi betalar olika priser? Jag tror att det kommer att bli en nyckelfråga framöver.
Jennifer: Jag heter Jennifer Strong och det här avsnittet, vad händer när en maskin bestämmer priset du betalar.
[VISA ID]
OC:...du har nått din destination.
[MUSIK]
[SOT: KIRO7 Seattle - Via webben]
Nyhetsankare 2: När skottlossning utbröt i går kväll letade folk efter någon utväg. I kväll säger vissa att säkerheten gick till högstbjudande.
Jennifer: Det var mitt på kvällspendlingen. Förra januari. När det var en skottlossning i centrala Seattle.
Nyhetsankare 1 : Rideshare-företag är under beskjutning ikväll för att ha höjt priserna medan människor försökte fly från skottlossningen. Vissa ryttare säger att de blev skurna.
Lisa Wilkins: Bussen som jag normalt skulle ta skulle gå nerför gatan som skottlossningen skedde på. Så alla bussar som gick nerför den gatan stannade alla. De blev inte omdirigerade eller så, de bara slutade.
Jennifer: Lisa Wilkins arbetar inom teknik och hennes kontor ligger mindre än ett kvarter från där skottlossningen ägde rum.
Lisa Wilkins: Jag bestämde mig precis för att jag ska ta en Uber eller Lyft och, du vet, ta den hem eller ta den tillbaka till min bil, som är på en Park and Ride, som låg cirka 17 mil bort. Och sedan när jag öppnade appen såg jag att det var som hundra dollar eller något för att komma dit när det normalt skulle ha varit kanske 30 dollar.
Jennifer: När efterfrågan är hög blir priset för en resa med Lyft eller Uber automatiskt dyrare. I nödsituationer sätter företag ett tak för dessa priser när det är klart vad som händer, och erbjöd sig i det här fallet att ersätta förare som betalat högre priser.
Men även om Lisa Wilkins jobb är att designa appar med ett öga på användarupplevelsen säger hon att det ändå tog en stund att inse vad som hände med henne - berodde på en prissättningsalgoritm.
Lisa Wilkins: Först var jag riktigt arg för att du vill ta det personligt, som att de medvetet gör det här. Det här är en skjutning och de utnyttjar den. Och sedan när jag liksom pratade med en annan kollega om det. Du vet, vi var fortfarande upprörda över att det skulle kosta så mycket att komma någonstans, men vi insåg att det här är prishöjningar. Det här är en bot som i princip säger vad priserna kommer att bli. Och eftersom jag är en UX-designer förstår jag att det finns många kantfall som du kanske inte planerar för att det ska hända i din produkt.
Jennifer: Och det här kan få oavsiktliga resultat.
Gabe Smith: Det fanns en bok om fluggenetik på Amazon. Det var... det fanns två konkurrerande algoritmer som bara fortsatte att titta på varandra och ökade priset lite. Den andra skulle dessutom höja priset lite. Och de fortsatte bara okontrollerat fram och tillbaka i, du vet, många dagar. Och det slutade med att priset på den här boken var ungefär 1,2 miljoner dollar.
Gabe Smith: Jag heter Gabe Smith och jag är chefsevangelisten för PriceFX. Och jag har cirka 14 års erfarenhet av prisoptimering och förvaltning.
Jennifer: Han använder AI och andra verktyg för att hjälpa företag att bestämma vad något ska kosta. Han funderar också på hur man undviker dessa extremvärden... som den där miljoner dollarboken om buggar.
Gabe Smith: Så på åttiotalet var det verkligen när datorkraften och datatillgängligheten kom till den punkt där dessa tekniker kunde börja utnyttjas. Och egentligen dök det först upp inom flygbranschen och sedan följde det upp i andra rese- och fritidsbranscher som hyrbilar och hotell.
Jennifer: Dynamisk prissättning kan hjälpa företag att veta vad de ska ta betalt för produkter som går ut eller är begränsade i utbudet. Som när ett plan lyfter... det finns ingen ändring på hur många av dessa platser som är fyllda. Så för att få störst intäkter måste flygbolagen sälja så många platser som möjligt till högsta möjliga pris. Och för att lära dig vad det priset är? De måste förstå nyanserna av passagerarnas beteende och marknadens efterfrågan.
Gabe Smith: Så det var verkligen den första användningen av prisoptimering och artificiell intelligens för att driva in prissättningen på en marknad. Och sedan dess har det verkligen utökats i användning inom många olika branscher. Vi har till exempel ett företag som gör en dynamisk prissättning av sina skidbiljetter baserat på kommande evenemang, väderförhållanden, snöförhållanden, men vi har även andra kunder som säljer elektronik, kemikalier. Vi har industriella tillverkningsföretag, distributionsföretag, verkligen dessa tekniker börjar ta till sig i en mängd olika branscher.
Jennifer: Nyckeln till att få allt att fungera är en rik datauppsättning om kunder och vad som driver deras betalningsvilja. Ju mer data... Ju mer riktade priser kan vara för privatpersoner.
Gabe Smith: Hur de beter sig. Vilken produkt du erbjuder. Saker som, vad är typen av transaktion eller offerten som du gör? Alla dessa kan inkluderas i dina prisoptimeringsalgoritmer och påverka vad du kommer att erbjuda. Så om du har sådana data kan det faktiskt vara ganska enkelt att kunna implementera prisoptimering. Så vi har kunder där vi har implementerat saker på så lite som ett par månader.
Jennifer: Och han säger att dessa system blir bättre på att hantera komplexitet och balansera konkurrerande mål.
Gabe Smith: Så jag kanske vill se till att jag alltid är placerad på ett visst sätt kontra mina konkurrenter, eller hur? Eller jag kanske vill säga: 'Hej, jag vill aldrig höja priserna med mer än 5% på någon.' Försöker jag maximera intäkterna, försöker jag maximera vinsten? Försöker jag maximera volymen? Jag kunde balansera mellan dem. Så vad som händer i organisationer, du vet, det finns konkurrerande mål många gånger. Och så kan du vägleda inte bara, okej, vad är mitt listpris, utan vad är, du vet, det förhandlade priset eller kampanjen baserat på en kundproduktkombination.
Jennifer: Dessa begränsningar är viktiga eftersom prissättningsalgoritmer helt enkelt kan prioritera högre priser.
Ett annat problem? Att se till att dessa priser inte förstärker systemisk fördom.
Men det här är inte så enkelt.
Gabe Smith: Det kan vara så att du inte ser en av dessa saker explicit, men de kan vara precis under ytan i ett annat attribut som du använder. Så om du använder ett postnummer eller om du använder demografin när det gäller inkomstnivåer, du vet, det kan finnas systemisk fördom som finns i den informationen. Så du måste verkligen tänka efter hur du bygger upp dessa saker och se till att du gör rätt saker ur ett etiskt perspektiv. Och jag tror att en del av acceptansen är: Känner jag att jag som konsument får en bra affär eller en bättre affär i vissa fall till följd av detta, eller är det alltid till leverantörens fördel?
[MUSIKÖVERGÅNG]
Aylin Caliskan: Vi vet att big tech använder dessa individualiserade prisalgoritmer i stor utsträckning och vi förstår inte nödvändigtvis vad som händer bakom dessa system eller algoritmer eftersom de är svarta lådor. Vi ser bara resultaten på individuell basis, i princip priset vi får. Och vi har inte riktigt metoder eller datamängder för att systematiskt studera prisdiskrimineringsalgoritmer.
Aylin Caliskan: Jag är Aylin Caliskan. Jag är för närvarande biträdande professor vid University of Washington och min forskning fokuserar på maskininlärning och artificiell intelligens.
Jennifer: För ett par år sedan beordrade staden Chicago att företag som Uber och Lyft släppte prisdata till allmänheten. Detta gav forskare tillgång till miljontals anonymiserade resor i hela staden. Hon jämförde priser med demografin i grannskapet och vad hon hittade? Förvånade henne.
Aylin Caliskan: Våra resultat visar att stadsdelar som har yngre invånare eller högutbildade invånare betalade betydligt högre biljettpriser. Och stadsdelar som har högre icke-vita invånare, såväl som fattiga stadsdelar, vi betalar också högre biljettpriser som bestämdes av dessa prisdiskrimineringsalgoritmer.
Jennifer: Hennes team vill veta varför detta händer, men det är svårt utan detaljer om utbud och efterfrågan - som inte offentliggörs.
Forskare kan bara få en delmängd av denna data.
Aylin Caliskan: Betalar invånare i missgynnade stadsdelar högre rättvisa priser på grund av deras stadsdelars egenskaper. Eller har utbudet av förare en inverkan på rättvis prissättning i dessa stadsdelar där efterfrågan verkar relativt låg. Men om utbudet är ännu lägre, skulle den relativa efterfrågan följaktligen se högre ut, vilket kan vara att prissättningen ökar och ju mer transparens, desto bättre metoder kan vi utveckla för att studera den olika inverkan av dessa algoritmer eller deras dynamik, hur de lär sig av grannskapet transportmönster och trafikmönster.
Jennifer: Vilket tar upp en annan svår fråga? Det finns egentligen inga regler om detta.
Aylin Caliskan: Vi behöver mer policy och regelverk så att vi kan få tillgång till denna datauppsättning och fortsätta studera detta och förstå hur detta kan påverka smart stadsplanering såväl som resursallokering, för om sådana datauppsättningar används till exempel i förarlösa bilar eller resursallokering i smarta städer kan dessa fördomar i slutändan vidmakthållas eller potentiellt förstärkas i framtiden, vilket kan orsaka alla typer av oväntade bieffekter som vi skulle behöva hantera i framtiden.
Jennifer: Efter pausen tar vi reda på hur reglering kan se ut... och vi lär oss hur dessa algoritmer kan fungera i en livsmedelsbutik.
Men först vill jag berätta om en händelse som heter CyberSecure. Det är Tech Reviews cybersäkerhetskonferens och jag kommer att vara där med mina kollegor och prata om ransomware och andra viktiga frågor. Du kan lära dig mer på Cyber Secure M-I-T dot com.
Vi kommer genast tillbaka... efter detta.
[MIDROLL]
[MUSIK]
Jennifer: Prissättningsalgoritmer kan också hjälpa konsumenter... genom att anpassa produkter och rekommendationer... eller ge insikter till företag som hjälper dem att designa bättre produkter och tjänster.
Men dessa system innebär också nya utmaningar för dem som reglerar konkurrensen.
Kongressen antog den första antitrustlagen för över ett sekel sedan, men det var inte förrän 2015 som regeringen åtalade sitt första antitrustfall specifikt inriktat på e-handel. I det fallet erkände en man sig skyldig i att ha konspirerat för att olagligt fastställa priserna på affischer som han sålde på Amazon med andra säljare... med hjälp av en algoritm utformad för att samordna prisförändringar.
Joseph Harrington: Prissättningsalgoritmen skulle se sig om efter det bästa eller lägsta priset för konkurrerande säljare, det vill säga konkurrenter till dessa två onlinesäljare. Och då skulle de två nätsäljarna sätta ett något lägre gemensamt pris. Så de två säljarna konkurrerade fortfarande mot andra företag på marknaden, men konkurrerade helt enkelt inte mot varandra. Så istället för att samordna på ett gemensamt pris, samordnade de på en gemensam prissättningsalgoritm och det hade samma effekt att minska konkurrensen.
Joseph Harrington: Så jag är Joe Harrington. Jag är professor i företagsekonomi, ekonomi och offentlig politik vid Wharton School, University of Pennsylvania. Min forskning är inom området maskopi och karteller.
Jennifer: Fallet med Amazons affischsäljare är något som ligger ganska nära traditionella maskopi... där annars konkurrerande företag samordnar priserna via direkt kommunikation mellan människor.
Men det finns en växande forskning om att prissättningsalgoritmer själva skulle kunna lära sig att bilda en egen digital kartell... och samverka för att höja priserna utan mänsklig inblandning.
Joseph Harrington: Låt oss nu tänka på en chef som bestämmer att de ska delegera prissättningsbeslutet till en självlärande algoritm. Den självlärande algoritmen kommer att experimentera med olika prissättningsalgoritmer eller prissättningsregler i hopp om att hitta de som är mer lönsamma. Så de slutar med mer lönsamma prissättningsregler. Och anledningen till att de är mer lönsamma är på grund av att de självlärande algoritmerna har lärt sig att inte tävla mot varandra.
Jennifer: Och forskare i Italien har redan hittat bevis på att det händer i en simulerad miljö.
Joseph Harrington: Så de ansåg en mycket standard ekonomisk modell av en marknad. En som har använts av många ekonomer, både för teoretiskt och empiriskt arbete. Och frågan var om de skulle kunna lära sig att samarbeta i en ganska sofistikerad och komplex simulerad miljö. Och svaret är mycket tydligt, ja, det har visat sig att det finns priser som bara, rutinmässigt var långt över konkurrenskraftiga priser, ibland ganska nära monopolpriserna.
Jennifer: Han säger att dessa självlärande algoritmer beter sig på ett sätt som speglar mänskliga karteller.
Joseph Harrington: Algoritmer sätter ett högt pris över konkurrenskraftiga priser, vilket skapar ett incitament, åtminstone på kort sikt, att sätta ett lägre pris för att ta fler marknadsandelar och högre vinster. Vad de självlärande algoritmerna har lärt sig om konsekvenserna av att avvika från det genom att sätta ett lägre pris är att den andra självlärande algoritmen har antagit en prissättningsalgoritm som kommer att straffa det beteendet. Så specifikt om en av dem plötsligt skulle sänka priset, tränades den andra självlärande algoritmens prissättningsalgoritm att svara med ett mycket lågt pris som svar. Priserna skulle förbli låga under en tid men de skulle tendera att arbeta sig tillbaka till de höga samverkanspriserna. Så vad vi egentligen har här är att dessa självlärande algoritmer lär sig att, okej, vi kommer att sätta ett högt pris och anledningen till att de inte avviker från det, är att de har lärt sig att det kommer att bli vedergällning. bestraffning av den andra, självlärande algoritmen. Och det är precis vad vi tänker på som maskopi.
Jennifer: Det är fortfarande en öppen fråga om den här typen av saker skulle kunna hända på en verklig marknad, med all dess ytterligare komplexitet.
Men begreppet automatiserad samverkan väcker alla möjliga juridiska frågor.
Joseph Harrington: Om vi går tillbaka till exemplet på Amazons marknadsplats och onlineaffischförsäljare, ja, det är den typen av maskopi som den rättsliga ramen är väl utformad för. Den är designad för konspiration där konkurrenter kommunicerar. Och samordna deras beteende. Lagen definieras i termer av ett möte mellan sinnen, ett medvetet engagemang för ett gemensamt system. Tanken att det har funnits den här kommunikationen, vilket har lett till viss ömsesidig förståelse bland konkurrenterna att inte längre tävla. Allt som saknas med konkurrenter som har antagit självlärande algoritmer så länge de gjorde det självständigt. Dessa självlärande algoritmer har ingen förståelse, än mindre ömsesidig förståelse, vilket egentligen är vad som krävs inom ramen för lagen.
Jennifer: Och för tillfället... finns det ingen som är ansvarig för att övervaka om dessa system följer regler som vi anser vara rättvisa.
Joseph Harrington: Jag menar, jag tror att det som verkligen är det potentiella juridiska svaret i framtiden skulle vara att förbjuda vissa egenskaper hos prissättningsalgoritmer. Om de var förbjudna skulle det finnas ett incitament för företagen själva att övervaka sina prisalgoritmer, att inte exponera sig själva olagligt. Men just nu finns det verkligen ingen som övervakar dem. Och företagen har verkligen inga incitament, skulle jag säga, att övervaka dem.
Jennifer: Han säger att konkurrensbegränsande prissättningsalgoritmer också kan vara inbäddade i programvara... som kan användas av företag som konkurrerar mot varandra... utan att dessa företag ens inser det.
Joseph Harrington: Och då är frågan, ja, vad kan man göra åt det? Och nu är vi här, återigen, i ett lite grumligt juridiskt territorium, eftersom konspiration kräver två eller flera aktörer, vilket traditionellt är två eller flera konkurrenter som har bestämt sig för att inte längre tävla. Men nu föreställer vi oss att det är en sorts en aktör, som är tredjepartsutvecklaren som kan designa en prissättningsalgoritm som inte är särskilt konkurrenskraftig. Och om det kan övertyga många företag på en marknad att använda det, kommer det att prestera bra för dessa företag, eftersom det kommer att resultera i högre priser och mindre priskonkurrens. Nu, återigen, det är dåligt, men det finns ingen konspiration eftersom det egentligen bara finns den där ena skådespelaren, tredjepartsutvecklaren som marknadsför detta.
Jennifer: Och där är ett exempel på det i den verkliga världen..i en studie gjord av tyska bensinstationer som började anta en prissättningsalgoritm.
Joseph Harrington: Och bevisen är att de genomsnittliga priskostnadsmarginalerna gick upp som svar på detta, i storleksordningen cirka 12%. Men det som verkligen var väldigt slående var att om du tittade på marknader där det bara fanns två stationer, så föreställ dig bara en geografisk marknad där det bara finns typ två stationer som konkurrerar. Och vad studien fann var att om en av dem anammade prissättningsalgoritmen fanns det egentligen ingen märkbar effekt på priserna. Men om båda antogs, blev det en betydande ökning av priskostnadsmarginalerna. I storleksordningen cirka 29%. Så nu informerar detta om vad dessa prissättningsalgoritmer gör. Om de bara leder till effektivare dynamisk prissättning, skulle du ha förväntat dig att se en viss effekt, även när bara en stationsoperatör antog det. Men det är inte vad som finns i studien. Det är först när båda konkurrenterna adopterats som du ser en effekt. Och det är en effekt, som är en betydande prishöjning. Så jag tror att det är något som håller på att hända. Och det är något som är lite mer, tror jag, konkret och där det potentiellt finns fler politiska alternativ att hantera. Till skillnad från fallet med självlärande algoritmer, som jag tror är ett potentiellt problem som vi vill komma före.
Maxime Cohen: Tidigare kunde vi ändra priser varje dag eller varje månad, men nu kan priserna ändras varje timme eller i vissa applikationer, till och med varje minut.
Maxime Cohen: Jag heter Maxime Cohen. Jag är professor i Scale AI Chair vid McGill University i Montreal, Kanada och jag är också meddirektör för Retail Innovation Lab.
Jennifer: De senaste åren har sett en explosion av dynamisk prissättning... Och personlig prissättning är också allt vanligare.
I framtiden kan dynamiska prissättningssystem vara helt autonoma... och tillämpas i en ännu större skala.
Vilket väcker frågan: Hur skyddar vi vår integritet när vår data används för att avgöra hur mycket vi betalar för saker?
Maxime Cohen: Så prissättningsalgoritmen i slutet av dagen bör baseras på icke-personliga attribut. Du kan till exempel samla in köphistorik, du kan eventuellt samla in användarnas plats, de åtgärder de vidtog tidigare, men du vill inte använda någon typ av personliga attribut som namn eller kön eller något som är mer personligt.
Jennifer: En annan fråga... var drar vi gränsen mellan rättvis och orättvis prissättning?
Maxime Cohen: Man måste ställa sig frågan. Är det rättvist att erbjuda olika priser till olika kunder för samma produkter eller samma tjänst? Och svaret på den frågan är faktiskt inte enkelt. Dessa två ämnen om integritet och rättvisa är mycket känsliga och enligt min åsikt behöver noggranna regleringar framåt.
Jennifer: Han säger att tillsynsmyndigheter bör gå samman och klargöra vilken data som kan samlas in, lagras och användas för att fatta prisbeslut.
Maxime Cohen: Till exempel om Uber börjar skrika olika priser, baserat på procentandelen batteri du har i din telefon när du beställer en resa. Skulle det vara okej? Skulle det inte vara okej? Så tillsynsmyndigheter bör gå samman till bordet och göra en lista över attribut som är rimliga att använda för prissättningsbeslut och några andra attribut i en svartlista där de inte ska användas för prissättningsbeslut.
Jennifer: Och det är inte bara våra shoppingvagnar på nätet som står på spel. Dynamiska prissättningsalgoritmer kan snart hitta ett hem även i fysisk detaljhandel... i form av elektroniska hylletiketter.
Maxime Cohen: Du kan faktiskt ändra priset på specifika produkter vid specifika tidpunkter, genom att helt enkelt ändra en enda kodrad och trycka på en knapp. Du ändrar en rad kod. Då kan du implementera en prisändring till praktiskt taget noll kostnader. Nu är den enda återstående frågan inom fysisk detaljhandel hur kunderna kommer att reagera på kraftiga, dynamiska prissättningsmetoder. Om du tänker efter kommer priserna att börja stiga i stormarknader under hektiska timmar. Om det finns en tid på dygnet där de har mycket folk i snabbköpet kommer priserna att gå upp. På samma sätt kommer priserna att börja stiga när du har mycket lågt lager för specifika produkter. Om du har mindre aktiekurser kommer att gå upp för att gilla, se till att du optimerar din vinst. Nu är det inte klart om kunderna kommer att vara nöjda och det kommer att acceptera de typer av metoder som redan finns på plats i onlinevärlden. Det kan vara definitivt lönsamt på kort sikt, men det kan generera långsiktiga förluster, särskilt när det gäller kundlojalitet. Så vi behöver göra mycket forskning för att försöka förstå kraften och de potentiella fördelarna med dynamisk prissättning för fysisk detaljhandel.
[KREDIT]
Jennifer: Det här avsnittet rapporterades av Anthony Green och producerades av oss två med Emma Cillekens. Vi är redigerade av Mat Honan och vår mixtekniker är Garret Lang, med ljuddesign och musik av Jacob Gorski.
Tack för att du lyssnade, jag heter Jennifer Strong.
[TR ID]