211service.com
Maskininlärning förbättrar arabiska taltranskriptionsmöjligheter
Tillhandahålls av Qatar Foundation
Tack vare framsteg inom tal och naturlig språkbehandling finns det hopp om att du en dag kanske kan fråga din virtuella assistent vad de bästa salladsingredienserna är. För närvarande är det möjligt att be din hempryl att spela musik, eller öppna med röstkommando, vilket är en funktion som redan finns på många enheter.
Om du talar marockanska, algeriska, egyptiska, sudanesiska eller någon av de andra dialekterna i det arabiska språket, som är oerhört varierande från region till region, där några av dem är ömsesidigt obegripliga, är det en annan historia. Om ditt modersmål är arabiska, finska, mongoliska, navajo eller något annat språk med hög morfologisk komplexitet, kan du känna dig utanför.
Dessa komplexa konstruktioner fängslade Ahmed Ali att hitta en lösning. Han är huvudingenjör vid gruppen Arabic Language Technologies vid Qatar Computing Research Institute (QCRI) – en del av Qatar Foundations Hamad Bin Khalifa University och grundare av ArabicSpeech, en gemenskap som existerar till förmån för arabisk talvetenskap och talteknologi.
Qatar Foundations högkvarter
Ali blev fängslad av idén att prata med bilar, apparater och prylar för många år sedan när han var på IBM. Kan vi bygga en maskin som kan förstå olika dialekter – en egyptisk barnläkare för att automatisera ett recept, en syrisk lärare för att hjälpa barn att få de viktigaste delarna från sin lektion, eller en marockansk kock som beskriver det bästa couscousreceptet? han hävdar. Algoritmerna som driver dessa maskiner kan dock inte sålla bland de cirka 30 varianterna av arabiska, än mindre förstå dem. Idag fungerar de flesta taligenkänningsverktyg endast på engelska och en handfull andra språk.
Coronavirus-pandemin har ytterligare underblåst ett redan ökat beroende av röstteknik, där tekniken för behandling av naturliga språk har hjälpt människor att följa riktlinjerna för att stanna hemma och fysiska distansåtgärder. Men även om vi har använt röstkommandon för att hjälpa till med e-handelsköp och hantera våra hushåll, har framtiden ännu fler applikationer.
Miljontals människor världen över använder massiva öppna onlinekurser (MOOC) för sin öppna åtkomst och obegränsade deltagande. Taligenkänning är en av huvudfunktionerna i MOOC, där studenter kan söka inom specifika områden i det talade innehållet i kurserna och möjliggöra översättningar via undertexter. Talteknik gör det möjligt att digitalisera föreläsningar för att visa talade ord som text i universitetsklassrum.
Ahmed Ali, Hamad Bin Kahlifa University
Enligt en nyligen publicerad artikel i tidskriften Speech Technology, förväntas marknaden för röst- och taligenkänning nå 26,8 miljarder dollar år 2025, eftersom miljontals konsumenter och företag runt om i världen kommer att förlita sig på röstrobotar för att inte bara interagera med sina apparater eller bilar, utan också för att förbättra kundservicen, driva på innovationer inom hälso- och sjukvården och förbättra tillgängligheten och inkluderingen för personer med hörsel-, tal- eller motoriska störningar.
I en undersökning från 2019 förutspådde Capgemini att år 2022 skulle mer än två av tre konsumenter välja röstassistenter snarare än besök i butiker eller bankkontor; en andel som med rätta skulle kunna öka, med tanke på det hembaserade, fysiskt distanserade liv och handel som epidemin har tvingat på världen i mer än ett och ett halvt år.
Ändå misslyckas dessa enheter att leverera till stora delar av världen. För de 30 typerna av arabiska och miljontals människor är det en avsevärt missad möjlighet.
Arabiska för maskiner
Engelsk- eller fransktalande röstrobotar är långt ifrån perfekta. Ändå är det särskilt svårt att lära maskiner att förstå arabiska av flera skäl. Det här är tre allmänt erkända utmaningar:
- Brist på diakritiska tecken. Arabiska dialekter är folkliga, som i främst talade. Det mesta av den tillgängliga texten är icke-diakritiserad, vilket betyder att den saknar accenter som till exempel den akuta (´) eller graven (`) som indikerar bokstävernas ljudvärden. Därför är det svårt att avgöra var vokalerna tar vägen.
- Brist på resurser. Det finns en brist på märkta data för de olika arabiska dialekterna. Tillsammans saknar de standardiserade ortografiska regler som dikterar hur man skriver ett språk, inklusive normer eller stavning, avstavning, ordbrytningar och betoning. Dessa resurser är avgörande för att träna datormodeller, och det faktum att det finns för få av dem har hämmat utvecklingen av arabisk taligenkänning.
- Morfologisk komplexitet. Arabisktalande ägnar sig åt mycket kodbyte. Till exempel, i områden som koloniserats av fransmännen – Nordafrika, Marocko, Algeriet och Tunisien – innehåller dialekterna många lånade franska ord. Följaktligen finns det ett stort antal så kallade ord utanför vokabulär, som taligenkänningstekniker inte kan förstå eftersom dessa ord inte är arabiska.
Men fältet rör sig blixtsnabbt, säger Ali. Det är ett samarbete mellan många forskare för att få det att gå ännu snabbare. Alis labb för arabisk språkteknologi leder ArabicSpeech-projektet för att sammanföra arabiska översättningar med de dialekter som är inhemska i varje region. Till exempel kan arabiska dialekter delas in i fyra regionala dialekter: nordafrikanska, egyptiska, viken och levantinska. Men med tanke på att dialekter inte överensstämmer med gränser kan detta gå så finkornigt som en dialekt per stad; till exempel kan en egyptisk modersmålstalare skilja på ens Alexandria-dialekt från sin medborgare från Aswan (1 000 kilometer avstånd på kartan).
Bygga en tekniskt kunnig framtid för alla
Vid denna tidpunkt är maskiner ungefär lika exakta som mänskliga transkriberare, till stor del tack vare framstegen inom djupa neurala nätverk, ett underområde av maskininlärning inom artificiell intelligens som förlitar sig på algoritmer inspirerade av hur den mänskliga hjärnan fungerar, biologiskt och funktionellt. Men fram till nyligen har taligenkänning varit lite hackat ihop. Tekniken har en historia av att förlita sig på olika moduler för akustisk modellering, bygga uttalslexikon och språkmodellering; alla moduler som behöver tränas separat. På senare tid har forskare tränat modeller som konverterar akustiska funktioner direkt till texttranskriptioner, vilket potentiellt optimerar alla delar för slutuppgiften.
Även med dessa framsteg kan Ali fortfarande inte ge ett röstkommando till de flesta enheter på sitt modersmål arabiska. Det är 2021, och jag kan fortfarande inte prata med många maskiner på min dialekt, kommenterar han. Jag menar, nu har jag en enhet som kan förstå min engelska, men maskinigenkänning av arabiskt tal med flera dialekter har inte hänt ännu.
Att få detta att hända är i fokus för Alis arbete, som har kulminerat i den första transformatorn för arabisk taligenkänning och dess dialekter; en som har uppnått hittills oöverträffad prestanda. Döpt till QCRI Advanced Transcription System, används tekniken för närvarande av TV-bolagen Al-Jazeera, DW och BBC för att transkribera onlineinnehåll.
Det finns några anledningar till att Ali och hans team har varit framgångsrika med att bygga dessa talmotorer just nu. I första hand, säger han, finns det ett behov av att ha resurser över alla dialekter. Vi behöver bygga upp resurserna för att sedan kunna träna modellen. Framsteg inom datorbehandling innebär att beräkningsintensiv maskininlärning nu sker på en grafisk bearbetningsenhet, som snabbt kan bearbeta och visa komplex grafik. Som Ali säger, vi har en fantastisk arkitektur, bra moduler och vi har data som representerar verkligheten.
Forskare från QCRI och Kanari AI byggde nyligen modeller som kan uppnå mänsklig paritet i arabiska nyhetssändningar. Systemet visar effekten av att undertexta Aljazeera dagliga rapporter. Medan den engelska mänskliga felfrekvensen (HER) är cirka 5,6 %, visade forskningen att arabiska HER är betydligt högre och kan nå 10 % på grund av morfologisk komplexitet i språket och avsaknaden av standardortografiska regler i dialektalarabiska. Tack vare de senaste framstegen inom djupinlärning och end-to-end-arkitektur, lyckas den arabiska taligenkänningsmotorn överträffa infödda talare i nyhetssändningar.
Medan Modern Standard Arabic taligenkänning verkar fungera bra, är forskare från QCRI och Kanari AI uppslukade av att testa gränserna för dialektal bearbetning och uppnå fantastiska resultat. Eftersom ingen talar modern standardarabiska hemma, är uppmärksamhet på dialekt vad vi behöver för att våra röstassistenter ska kunna förstå oss.
Detta innehåll skrevs av Qatar Computing Research Institute , Hamad Bin Khalifa University, medlem av Qatar Foundation. Den skrevs inte av MIT Technology Reviews redaktion.