Bearbetning på enheten och AI går hand i hand

I samarbete med Qualcomm

Oavsett om du kör ett autonomt fordon, använder ansiktsigenkänning för att komma åt ditt bankkonto eller håller din enhet säker från snabbt föränderliga säkerhetshot, så spelar artificiell intelligens (AI) en större roll i våra liv. Tidigare krävdes molnets kraft för denna bearbetning, men edge-enheter, som smartphones och drönare, är nu utrustade för att köra datorintensiva AI-operationer. Faktum är att i många fall är edge-enheten den föredragna plattformen för att köra AI-drivna applikationer.

Verkligheten är att fler AI-applikationer dyker upp idag än vad de flesta av oss inser. När en enhet är utrustad med AI kan den avsevärt utöka och förbättra våra liv, antingen genom att ta skarpare bilder och videor, kommunicera med oss ​​mer naturligt eller uppfatta miljön och självständigt navigera oss till vår destination på ett säkert sätt.

AI är en paraplyterm designad för att omfatta allt som hjälper en enhet att replikera den mänskliga hjärnan, säger Gary Brotman, chef för produkthantering för Qualcomm. Maskininlärning (ML) är en bred klass av tekniker och algoritmer för att lösa problemen som gör AI möjlig. Klassen vi fokuserar på är djupinlärning (DL) och återkommande neurala nätverk (RNN), som körs på själva enheten.

Den betydande förbättringen av AI-algoritmer och bearbetning på enheten, två avgörande ingredienser för att göra AI allmänt förekommande, leder till mer sömlösa och övertygande användarupplevelser. Detta gäller särskilt när AI-baserad funktionalitet flyttas till fordon, hushållsenheter och Internet of Things (IoT)-sensorer. Förbättrade perceptiva och kognitiva förmågor på grund av de många teknologierna under AI-paraplyet, såsom ML, DL och RNN, kan nu köras på moderna edge-enheter.

Till exempel kan AI på enheten förbättra bildigenkänning och avancerad bildbehandling, som att producera bokeh-effekter (en mjuk bakgrund utan fokus) och stilöverföringar. AI-utrustade enheter kan också lära sig att känna igen nyckelord och röster, förbättra deras svar till konsumenten och hjälpa till med översättning av främmande språk.

Dessutom kan AI hjälpa enheter och appar att bli mer medvetna om användarnas preferenser och omgivningar, förstå avsikter och svara på kontextuellt relevanta sätt. AI på din enhet resulterar i en mer kontextuellt rik upplevelse, säger Brotman. Och med tiden kommer din enhet att kunna förutsäga och få en djupare förståelse för vad du ska göra härnäst.

AI i din hand

AI på enheten har flera betydande fördelar. Den första är prestanda. Bearbetningen på enheten är bara snabbare – ingen tur och retur till molnet, säger Brotman. Sekretess är nästa. Människor är bekväma med att dela vissa personliga uppgifter, men inte allt. Och den tredje är tillförlitlighet. Mobilnätverk är genomgripande, men det finns ingen garanti för att du alltid har en anslutning.

Prestanda: Att köra AI-algoritmer på enheten – oberoende av molnet – kan avsevärt förbättra svarstiden och effektiviteten, eftersom data inte behöver överföras mellan molnet och enheten. Detta är viktigt eftersom mobil AI-kapacitet tenderar att vara tidskänslig för användarupplevelse och beslutsfattande.

AI-appar tenderar att vara realtids- och verksamhetskritiska, säger Jeff Gehlhaar, vice president för teknologi för Qualcomm. Många AI-användningsfall som förbättrar en upplevelse har inte råd med latens.

Ett autonomt fordon som behöver bromsa, till exempel, har inte råd med ens en millisekunds latens som kan vara resultatet av molnbearbetning. Beslut måste fattas på en bråkdel av en sekund för att fordonet ska fungera säkert.

När det gäller användarupplevelse kan ett naturligt röstanvändargränssnitt bara tolerera så mycket latens. Användare är vana vid omedelbara svar när de använder ett talgränssnitt för naturligt språkbearbetning, och följderna av nätverksförseningar kommer att leda till dåliga upplevelser.

Sekretess och säkerhet: Att behålla dina data på enheten säkerställer integritet, och AI används också för biometrisk autentisering med röst, fingeravtryck, iris och ansiktsigenkänning. Att använda ansiktet för att låsa upp en enhet börjar bli vanligt, säger Brotman. Och 3D-ansiktsigenkänning växer fram för att ge en högre grad av autenticitet för att möjliggöra mobila betalningar.

Bearbetning på enheten av AI-applikationer kan också öka både enhetens och datasäkerheten genom att hålla ett vakande öga för avvikande beteende. AI kan hjälpa till att upptäcka skadlig programvara och avvikande beteende, säger Gehlhaar. Vi kan träna det neurala nätverket för att se hur dåliga aktörer beter sig. Och det kan upptäcka dessa dåliga beteenden, som att fråga: 'Varför öppnar min kameraapplikation min kontaktdatabas?'

Pålitlighet: Inte ens i de mest avancerade områdena i världen finns mobilnätstäckning överallt. När det kommer till vissa AI-drivna funktioner finns det dock inget utrymme för fel. Autonoma fordon har helt enkelt inte råd att uppleva en tappad trådlös signal, som kan uppstå när de går in i en tunnel eller ett parkeringsgarage. Bearbetning på enheten, utöver andra redundansfunktioner, kommer alltid att vara ett krav för verksamhetskritiska användningar som autonom körning.

Tar AI till Edge-enheter

Även om dessa AI-funktioner nu kan köras på enheten, har molnet fortfarande en roll, särskilt som ett komplement till bearbetning på enheten. AI-appar förlitar sig fortfarande på molnplattformar för att hantera big data och för att träna de neurala nätverksmodeller som driver AI-inferens.

Edge-enheter måste också vara utrustade för att effektivt köra AI-arbetsbelastningar. Till exempel måste bearbetningen ske inom plattformens begränsningar, inklusive strömförbrukning och termiska gränser. Applikationsprocessorer med olika bearbetningsmotorer är särskilt väl lämpade för att effektivt köra AI-uppgifter. Qualcomm Snapdragon Mobile Platform, till exempel, är utrustad med tre separata bearbetningsmotorer – en central processing unit (CPU), grafikprocessor (GPU) och digital signalprocessor (DSP) med vektorbehandlingsfunktioner – som alla spelar nyckelroller i AI på enheten.

Med heterogen datoranvändning finns det en mängd olika motorer i chippet för att mest effektivt bearbeta en given uppgift, säger Pat Lawlor, teknisk marknadschef på Qualcomm. CPU, GPU och DSP har olika styrkor och svagheter, och de kan arbeta tillsammans eller separat, beroende på AI-uppgiften. De kompletterar varandra, och AI-uppgifterna körs på lämpliga motorer för hög prestanda vid låg effekt.

Den ökade processorkraften som är inbyggd i chipseten hos moderna edge-enheter hjälper dem att hantera den intensiva bearbetningen. Till exempel kan Qualcomm Hexagon 685 DSP, Adreno 630 GPU och Kryo 385 CPU i Snapdragon 845 leverera upp till två till tre gånger snabbare AI-behandling jämfört med föregående generation. Hexagon DSP, till exempel, designades ursprungligen för vektormatteintensiva arbetsbelastningar som ljudbehandling och fortsätter att förbättras för att hantera AI-arbetsbelastningar, såsom accelererande neurala nätverk under AI-inferens.

Vad är nästa steg för mobil AI?

Mobil AI är en snabbt växande marknad. Med ständiga framsteg inom neurala nätverk, DL-algoritmer och hårdvarudesign kommer vi att se stora förbättringar i noggrannhet och hastighet, plus nya, uppslukande användarupplevelser.

I det bredare universum av mobilitet är 5G trådlösa nätverk också vid horisonten. AI kommer att förbättra och utöka 5G och vice versa, säger Brotman. 5G kommer att göra det möjligt för enheter att kommunicera mer fritt med varandra för att dela data och dela sammanhang. Med denna utveckling kommer vi att uppleva ett helt uppkopplat universum av intelligenta edge-enheter, vilket möjliggör mer personliga användarupplevelser i realtid.

Våra liv idag blir rikare av våra enheters kapacitet, och vår framtid kommer i allt högre grad att förbättras av de framsteg som görs inom AI. Konvergensen av dessa två kraftfulla trender formar redan upplevelser i våra privata och affärsmässiga liv.

Om du vill veta mer om AI på enheten, besök qualcomm.com/artificial-intelligence .

Dölj