Vad är AI på enheten och hur fungerar det?
Key Takeaways
On-device AI är ett uttryck som används för att beskriva artificiella intelligensfunktioner som körs enbart på en enhet, utan någon form av internetanslutning, vilket bevarar sekretessen samtidigt som beräkningshastigheten ökar.
Genom att integrera AI-funktioner direkt i en enhet kan mobiltelefoner uppnå anmärkningsvärda prestationer, inklusive snabb bildgenerering, tillhandahållande av skräddarsydda digitala hjälpmedel och förhöjning av videospelens grafiska funktioner och akustiska fidelitet.
Qualcomm använder integrerad specialiserad hårdvara i sina produkter för att effektivisera bearbetningen av artificiell intelligens på själva enheten, vilket resulterar i avancerade funktioner som intelligenta personliga assistenter, omedelbar språköversättning och automatisk bildmanipulering.
Artificiell intelligens (AI) har på ett genomgripande sätt påverkat det tekniska området, med allt från chatbots till självkörande fordon. Bland de olika sektorer som genomgår en snabb omvandling på grund av AI-integrationen är ingen mer uttalad än konsumentelektronik, t.ex. smartphones. Här tävlar teknikkonglomeraten intensivt om att införliva avancerade AI-funktioner i sina banbrytande hård- och mjukvaruerbjudanden.
On-device AI avser artificiell intelligens som bearbetas och exekveras direkt på en enhet eller ett system, t.ex. en smartphone eller persondator, snarare än att förlita sig på molnbaserade tjänster eller fjärrservrar. Denna typ av AI använder algoritmer för maskininlärning som är inbyggda i enhetens hård- och mjukvarukomponenter, vilket ger snabbare bearbetningstider och ökad effektivitet jämfört med traditionella molnbaserade AI-lösningar. On-device AI kan användas i olika tillämpningar, bland annat bildigenkänning, röstassistenter, naturlig språkbehandling och prediktiv analys.
Vad On-Device AI är och hur det fungerar
En stor del av den artificiella intelligens som används av konsumenter bygger idag på stora informationslager som finns i molnet. Det är dock inte tillrådligt att överföra känsliga personuppgifter till AI-servrar på grund av integritetsskäl. Detta problem gör att AI på enheten blir allt viktigare som en alternativ lösning.
On-device AI innebär implementering av artificiell intelligens-funktioner som utförs inbyggt i en enhet, i motsats till att utföras på distans via molnet.AI-beräkningarna utförs därför direkt på smartphones, surfplattor och olika andra enheter utan krav på online-anslutning.
Avancerade ramverk för artificiell intelligens som Stable Diffusion, DALLE-E och Midjourney tränas i en distribuerad infrastruktur som använder stora mängder information och beräkningsresurser. Därefter finjusteras dessa modeller för optimal prestanda på de avsedda enheterna, samtidigt som deras resurseffektivitet bevaras. När de förbättrade AI-modellerna är klara integreras de i applikationer och levereras till användarnas enheter. Applikationsdata förblir begränsade inom en skyddad enklav, vilket säkerställer att säkerheten upprätthålls under hela processen.
När applikationen behöver utföra en funktion, t.ex. igenkänning av en hörselsignal eller identifiering av en bildfunktion, kör den AI-modellen med hjälp av de integrerade hårdvarukomponenterna i värdenheten, antingen dess centrala processorenhet (CPU) eller grafikprocessorenhet (GPU). AI-modellen utför de nödvändiga beräkningarna på de mottagna indata och producerar ett internt resultat eller beslut, utan att överföra någon information utanför enhetens gränser.
Alla dessa processer sker uteslutande på din enhet, vilket säkerställer att din kommunikation förblir konfidentiell och säker.
Hur AI på enheten kan gynna dig
Bildkredit: freepik/ freepik
Artificiell intelligens på enheten möjliggör anmärkningsvärda funktioner direkt på din enhet. Till exempel blir det möjligt att snabbt skapa bilder genom att använda modeller som Stable Diffusion, vilket resulterar i att bilder skapas på bara några sekunder, en bedrift som är förvånansvärt snabb. En sådan förmåga skulle visa sig vara särskilt fördelaktig när man snabbt genererar visuellt innehåll för sina uppdateringar på sociala medier. Dessutom sker bearbetningen helt och hållet på själva enheten, vilket garanterar att dina bildmeddelanden är säkert konfidentiella.
En lokal AI-assistent kan erbjuda en skräddarsydd upplevelse genom att använda användarspecifik information som till exempel föredragna fritidsintressen och fysiska förmågor. Dessutom kan den förstå verbala kommandon för visuella uppgifter, vilket gör att användare enkelt kan ge instruktioner som “radera personen till höger” för att snabbt ändra bilder.
Framsteg inom artificiell intelligens har möjliggjort olika förbättringar inom fotografering.Dessa funktioner inkluderar möjligheten att utöka bildgränserna, liknande Photoshops fill-funktion, använda både främre och bakre kamerasystem för att skapa unika videoeffekter, och oberoende manipulation av flera lager under efterproduktionsprocesser.
Framsteg inom artificiell intelligens (AI) på enheter har avsevärt förbättrat spel- och ljudupplevelser genom att förbättra den grafiska kapaciteten och säkerställa sömlös synkronisering mellan bild och ljud. Med möjligheten att skala upp upplösningen till 8K, accelerera ray tracing för mer exakta ljuseffekter och dubbla bildfrekvenserna får spelarna en förhöjd nivå av inlevelse. Dessutom möjliggörs ljudsynkronisering i realtid med AI på enheten, vilket eliminerar alla potentiella störningar under videouppspelning eller spel. Även när användarna flyttar till olika rum kan de njuta av högkvalitativa samtal och musik utan avbrott.
Artificiell intelligens på enheten är i linje med preferenserna hos ett betydande antal användare, som söker snabba resultat och sekretess genom att behålla databehandling inom själva enheten snarare än att överföra den till molnet.
AI på enheter ger snabbare och mer privata AI-upplevelser
Implementeringen av artificiell intelligens på enheter som smartphones och personlig elektronik har en anmärkningsvärd fördel eftersom det gör att dessa enheter kan utföra komplexa beräkningar självständigt, vilket eliminerar kravet på en internetanslutning eller resulterar i minskad latens.
Qualcomm, bland andra företag, har inkluderat avancerad hårdvara i sina senaste chipdesigner för att underlätta effektiv drift av neurala nätverk i våra enheter. Snapdragon 8 Gen 3, till exempel, kan rymma så mycket som 24 GB minne i en smartphone, har inbyggt stöd för Stable Diffusion och Llama 2, och utnyttjar Qualcomms AI Stack för att ge exceptionella funktioner för artificiell intelligens på enheten som för närvarande är tillgängliga.
I takt med de tekniska framstegen förväntas framtida iterationer av mobila enheter få en ökad beräkningskraft för artificiell intelligens, t.ex. personliga digitala assistenter, omedelbar språköversättning, automatisk grafisk manipulation och snabb generering av syntetiska bilder.