Om chatbots ska bli bättre kan de behöva förolämpa dig

Kategori: Artificiell intelligens Postad 22 feb

AI:er har blivit bättre på att föra en konversation, men teknikföretag är försiktiga med att rulla ut dem av rädsla för PR-mardrömmar.

Bättre bots: De New York Times säger de senaste framstegen inom AI hjälpte Microsoft och Facebook att bygga en ny sort av chatbotar som noggrant väljer hur de ska konversera. Microsoft, till exempel, byggde en som plockar den mest mänskligt klingande meningen från ett gäng utmanare för att skapa exakta och välbekanta svar.

Men: Liksom Microsofts katastrofalt rasistiska Tay-bot går de fortfarande fel. Facebook säger att 1 av 1 000 av deras chatbots uttalanden kan vara rasistiska, aggressiva eller allmänt ovälkomna. Det är nästan oundvikligt när de utbildas på begränsad data, eftersom det kommer att finnas obehaglig text i onlinekonversationer som används som träningsuppsättningar.

Varför det är viktigt: Om botarna ska fortsätta att förbättras måste de gå framför riktiga användare. Men teknikföretag fruktar PR-katastrofer om programvaran säger fel sak. Vi kan behöva vara mer accepterande av misstag om vi vill att botarna ska bli bättre.