Prissättningsalgoritmer kan lära sig att samverka med varandra för att höja priserna

Kategori: Artificiell intelligens Postad 12 feb

Om du handlar på Amazon är det förmodligen en algoritm snarare än en människa som bestämmer priset på tjänsten eller varan du köpte. Prissättningsalgoritmer har blivit allestädes närvarande i onlinehandeln eftersom automatiserade system har blivit alltmer överkomliga och enkla att implementera. Men medan företag som flygbolag och hotell länge har använt maskiner för att sätta sina priser, har prissättningssystem utvecklats. De har gått från regelbaserade program till förstärkningslärande, där logiken i att bestämma en produkts pris inte längre är inom människans kontroll.

Om du kommer ihåg är förstärkningsinlärning en delmängd av maskininlärning som använder straff och belöningar för att motivera en AI-agent mot ett specifikt mål. AlphaGo använde det känt för att slå de bästa mänskliga spelarna i det antika brädspelet Go. Inom ett prissättningssammanhang ges dessa system ett mål som att maximera den totala vinsten; sedan experimenterar de med olika strategier i en simulerad miljö för att hitta den optimala. En ny papper föreslår nu att dessa system kan utgöra ett enormt problem: de lär sig snabbt att samarbeta.

Forskare vid universitetet i Bologna i Italien skapade två enkla prissättningsalgoritmer baserade på förstärkningsinlärning och släppte loss dem i en kontrollerad miljö. De upptäckte att de två helt autonoma algoritmerna lärde sig att reagera på varandras beteende och snabbt drog priset på varor över där de skulle ha varit om de antingen hade fungerat ensamma.

Det som är mest oroande är att algoritmerna inte lämnar några spår av samordnade åtgärder, skrev forskarna. De lär sig att samarbeta rent genom försök och misstag, utan förkunskaper om miljön där de verkar, utan att kommunicera med varandra och utan att vara specifikt utformade eller instruerade att samverka. Detta riskerar att driva upp priset på varor och i slutändan skada konsumenterna.

Detta dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få det direkt levererat till din inkorg, registrera dig här gratis.