211service.com
Maskininlärning har använts för att automatiskt översätta språk som sedan länge gått förlorade
Forntida grekiska inskrivet i sten Don Lloyd | Flickr
År 1886 kom den brittiske arkeologen Arthur Evans över en gammal sten med en märklig uppsättning inskriptioner på ett okänt språk. Stenen kom från medelhavsön Kreta och Evans reste omedelbart dit för att jaga efter fler bevis. Han hittade snabbt många stenar och tavlor med liknande skrifter och daterade dem från omkring 1400 f.Kr.
Det gjorde inskriptionen till en av de tidigaste formerna av skrift som någonsin upptäckts. Evans hävdade att dess linjära form tydligt härrörde från ohövligt repade linjebilder som tillhörde konstens barndom, och därigenom etablerade dess betydelse i lingvistikens historia.
Han och andra fastställde senare att stenarna och tavlorna var skrivna i två olika skrifter. Den äldsta, kallad Linear A, är från mellan 1800 och 1400 f.Kr., då ön dominerades av den minoiska civilisationen från bronsåldern.
Den andra skriften, Linear B, är nyare och dyker upp först efter 1400 f.Kr., då ön erövrades av mykener från det grekiska fastlandet.
Evans och andra försökte i många år tyda de gamla skrifterna, men de förlorade språken stod emot alla försök. Problemet förblev olöst till 1953, då en amatörlingvist vid namn Michael Ventris knäckte koden för Linear B.
Hans lösning byggde på två avgörande genombrott. Först antog Ventris att många av de upprepade orden i Linear B-ordförrådet var namn på platser på ön Kreta. Det visade sig stämma.
Hans andra genombrott var att anta att skriften registrerade en tidig form av antik grekiska. Den insikten gjorde att han omedelbart kunde dechiffrera resten av språket. I processen visade Ventris att antikens grekiska först dök upp i skriftlig form många århundraden tidigare än man tidigare trott.
Ventris arbete var en stor bedrift. Men den mer antika skriften, Linear A, har förblivit ett av de stora framstående problemen inom lingvistik till denna dag.
Det är inte svårt att föreställa sig att de senaste framstegen inom maskinöversättning kan hjälpa. På bara några år har studiet av lingvistik revolutionerats av tillgången på enorma kommenterade databaser och tekniker för att få maskiner att lära av dem. Följaktligen har maskinöversättning från ett språk till ett annat blivit rutin. Och även om det inte är perfekt, har dessa metoder gett ett helt nytt sätt att tänka på språk.
Ange Jiaming Luo och Regina Barzilay från MIT och Yuan Cao från Googles AI-labb i Mountain View, Kalifornien. Detta team har utvecklat ett maskininlärningssystem som kan dechiffrera förlorade språk, och de har demonstrerat det genom att låta det dechiffrera Linear B – första gången detta har gjorts automatiskt. Tillvägagångssättet de använde skilde sig mycket från de vanliga maskinöversättningsteknikerna.
Först lite bakgrund. Den stora idén bakom maskinöversättning är förståelsen att ord är relaterade till varandra på liknande sätt, oavsett vilket språk som är inblandat.
Så processen börjar med att kartlägga dessa relationer för ett specifikt språk. Detta kräver enorma databaser med text. En maskin söker sedan igenom denna text för att se hur ofta varje ord förekommer bredvid vartannat ord. Detta mönster av utseenden är en unik signatur som definierar ordet i ett flerdimensionellt parameterutrymme. Faktum är att ordet kan ses som en vektor inom detta utrymme. Och denna vektor fungerar som en kraftfull begränsning för hur ordet kan visas i alla översättningar som maskinen kommer med.
Dessa vektorer följer några enkla matematiska regler. Till exempel: kung – man + kvinna = drottning. Och en mening kan ses som en uppsättning vektorer som följer efter varandra för att bilda en sorts bana genom detta utrymme.
Den viktigaste insikten som möjliggör maskinöversättning är att ord på olika språk upptar samma punkter i sina respektive parameterutrymmen. Det gör det möjligt att mappa ett helt språk till ett annat språk med en-till-en-korrespondens.
På så sätt blir processen att översätta meningar processen att hitta liknande banor genom dessa utrymmen. Maskinen behöver aldrig ens veta vad meningarna betyder.
Denna process förlitar sig mycket på de stora datamängderna. Men för ett par år sedan visade ett tyskt team av forskare hur ett liknande tillvägagångssätt med mycket mindre databaser kunde hjälpa till att översätta mycket sällsynta språk som saknar de stora databaserna med text. Tricket är att hitta ett annat sätt att begränsa maskinens tillvägagångssätt som inte är beroende av databasen.
Nu har Luo och co gått längre för att visa hur maskinöversättning kan tyda språk som har gått förlorade helt. Begränsningen de använder har att göra med hur språk är kända för att utvecklas över tid.
Tanken är att vilket språk som helst kan ändras på bara vissa sätt – till exempel visas symbolerna i relaterade språk med liknande distributioner, relaterade ord har samma teckenordning och så vidare. Med dessa regler som begränsar maskinen, blir det mycket lättare att dechiffrera ett språk, förutsatt att ursprungsspråket är känt.
Luo och co satte tekniken på prov med två förlorade språk, Linjär B och Ugaritiska. Språkvetare vet att Linjär B kodar för en tidig version av antikens grekiska och att ugaritiska, som upptäcktes 1929, är en tidig form av hebreiska.
Med tanke på den informationen och de begränsningar som den språkliga utvecklingen ställer, kan Luo och cos maskin översätta båda språken med anmärkningsvärd noggrannhet. Vi kunde korrekt översätta 67,3 % av linjära B-kognater till deras grekiska motsvarigheter i dechiffreringsscenariot, säger de. Så vitt vi vet är vårt experiment det första försöket att dechiffrera Linear B automatiskt.
Det är ett imponerande arbete som tar maskinöversättning till en ny nivå. Men det väcker också den intressanta frågan om andra förlorade språk – särskilt de som aldrig har dechiffrerats, som Linear A.
I denna artikel är Linjär A iögonfallande genom sin frånvaro. Luo och co nämner det inte ens, men det måste skymta stort i deras tänkande, som det gör för alla lingvister. Ändå behövs betydande genombrott innan det här skriptet blir mottagligt för maskinöversättning.
Till exempel vet ingen vilket språk Linjär A kodar. Alla försök att dechiffrera det till antik grekiska har misslyckats. Och utan förfädersspråket fungerar inte den nya tekniken.
Men den stora fördelen med maskinbaserade tillvägagångssätt är att de snabbt kan testa det ena språket efter det andra utan att bli trötta. Så det är mycket möjligt att Luo och co kan ta itu med Linear A med ett brute-force-tillvägagångssätt – försök helt enkelt att dechiffrera det till alla språk som maskinöversättning redan fungerar för.
Om det fungerar kommer det att vara en imponerande prestation, en som till och med Michael Ventris skulle bli förvånad över.
Ref: arxiv.org/abs/1906.06718 : Neural dechiffrering via minimikostnadsflöde: från ugaritisk till linjär B