211service.com
Hur man fixar Microsofts stötande chatbot med hjälp av tips från Marvin Minsky och Improv Comedy
Microsofts chatbot Tay togs ner snabbt förra veckan efter att den började twittra kränkande uttalanden som förkunnade homofobi, rasism och antisemitism samtidigt som den gjorde attacker mot specifika individer.
Ändå cirkulerar fortfarande tre lite olämpliga termer i förhållande till Tay: AI, lärande och smartare.
Vi kan argumentera hela dagen om arten av AI och hur nära eller långt borta olika system är mänskliga resonemang, men det är en konversation som helt enkelt inte är relevant här. Systemet har utformats för att integrera text från interaktioner med användare i både personliga svar och tweets. Det är svårt att tillämpa ordet inlärning på den där statistiskt drivna processen att spela in, skära och återsätta ordsträngar, än mindre att kalla hela systemet AI.
De uppenbara korrigeringarna för Tay har redan föreslagits. Utvecklarna kan ge systemet en lista med termer att undvika, stoppa det från att lära sig av en enskild användare, förhindra det från att göra offentliga yttranden baserat på nyinlärt material, eller till och med låta en människa moderera vad det säger.
Ändå skulle ingen av dessa fina tekniska korrigeringar faktiskt ta itu med roten till botens problem: Tay hade helt enkelt ingen aning om vad den sa. Fixningarna syftar alla till att hjälpa ett system som inte är så ljust att ta sig igenom en konversation utan att låta direkt ond. De är designade för att få Tay att framstå som smartare utan att faktiskt göra det smartare.
Så vad skulle det innebära att göra Tay verka smartare av faktiskt gör det smartare ?
Ett tillvägagångssätt kan ses hos Siri och hennes systrar (de brukar stämplas som kvinnor) som Cortana. Dessa system känner igen nyckelord som är förknippade med ganska snäva uppgifter och avvecklar programmatiska svar. De har stor makt att vidta åtgärder och generera korrekta svar inom de områden de förstår. Men Microsoft-teamet bakom Tay försökte uppenbarligen göra något mer allmänt konverserande.
I den andra änden av spektrumet finns det AI-kompletta tillvägagångssättet, där systemet aldrig ser dagens ljus förrän det har tillgång till all kunskap som krävs för att fullt ut förstå allt som sägs till det, allt som dessa yttranden innebär, och fullständiga implikationer av sina egna uttalanden i sin tur.
Programvara som uppfyller dessa kriterier skulle behöva en rik och komplett representation av världen, ett massivt bibliotek av inferensregler som körs varje gång ett nytt faktum dyker upp, och förmågan att skapa språk baserat på varje idé och kombination av idéer som den stöter på eller räknar ut självständigt. Det är ett riskabelt 20-årigt forskningsprojekt snarare än en produktkarta.
Det finns dock en mellanväg mellan att bara skära och tärna meningar och att försöka göra något som kan förstå hela skapelsen. Det innebär att ge systemet bara en liten bit av kunskap - tillräckligt för att känna igen när en användare försöker spela systemet. Du behöver inte veta allt. Du måste bara veta när någon bråkar med dig.
Med tanke på att Microsofts release notes för Tay sa att laget inkluderade improvisationskomiker, jag är förvånad över att det här inte var vägen.
Jag personligen har tagit tillräckligt med förslag från publiken för att veta att på varje möhippa kommer en berusad ung kvinna i ryggen att skrika ut obscena förslag som hon kommer att ångra under de kommande två åren. När det händer har du två val: antingen respektera förslaget och arbeta in det till en scen utan att göra det störande, eller artigt säga Det första jag hörde från fronten var 'brevlåda' och gå vidare. Det viktiga är att kunna veta när det händer och ha en handlingsplan för att hantera det.
Ingenting neutraliserar en översittare så väl som att bli utropad. Min gissning är att om Tay påpekade att den visste att den spelades i en-mot-en-interaktioner och gav tillskrivning för nyinlärda fakta när de använde dem i offentliga tweets, skulle skameffekten ha varit tillräckligt för att stänga ner även de otäckaste attackerna .
Fantastiska samtalspartners vet inte allt. De kan konversation. Och ett system som inte vet något om världen men vet hur man interagerar och inte kränker skulle vara briljant. Men för att reagera på spelet måste du känna igen när det spelas.
Den bortgångne Marvin Minsky sa: Lite semantik räcker långt. System som Tay behöver inte veta allt om världen, men de behöver veta vad de gör och vad användarna kommer att göra mot dem. Det avgörande som Tay saknade var förmågan att veta när det spelades och förmågan att svara in natura.
Jag hoppas att Tay kommer tillbaka online snart. Ännu mer, jag hoppas att den gör en Reddit AMA där den förklarar källan till var och en av sina tweets och lärdomarna den lärde sig av att bli mobbad på skolgården som är Internet.
Kristian Hammond är professor i datavetenskap vid Northwestern University och chefsforskare och medgrundare av Berättarvetenskap , som erbjuder programvara som automatiskt genererar skriftliga rapporter från data . Av skäl som ingen riktigt förstår har han tillbringat cirka 20 år på scen och gjort improvisation med människor som är mycket mer begåvade än han är.