Wat is AI op het apparaat en hoe werkt het?
Belangrijkste vaststellingen
AI op het apparaat is een uitdrukking die wordt gebruikt om kunstmatige intelligentie-functies te beschrijven die uitsluitend op een apparaat worden uitgevoerd, zonder dat er enige vorm van verbinding met het internet nodig is, waardoor de vertrouwelijkheid behouden blijft en de snelheid van de berekeningen toeneemt.
Door AI-mogelijkheden rechtstreeks in een apparaat te integreren, kunnen mobiele telefoons opmerkelijke prestaties leveren, zoals het snel genereren van beelden, het leveren van digitale helpers op maat en het verbeteren van de grafische eigenschappen en akoestische betrouwbaarheid van videogames.
Qualcomm gebruikt geïntegreerde gespecialiseerde hardware in zijn producten om de efficiëntie van kunstmatige intelligentieverwerking op het apparaat zelf te verbeteren, wat resulteert in geavanceerde functionaliteiten zoals intelligente persoonlijke assistenten, onmiddellijke taalvertaling en automatische beeldmanipulatie.
Kunstmatige intelligentie (AI) heeft het technologische domein diepgaand beïnvloed, waarbij de invloed zich uitstrekt van chatbots tot autonome voertuigen. Van de verschillende sectoren die een snelle transformatie ondergaan als gevolg van de integratie van AI, is er geen een meer uitgesproken dan consumentenelektronica zoals smartphones. Op dit gebied zijn techconcerns verwikkeld in een hevige concurrentiestrijd om geavanceerde AI-functies op te nemen in hun geavanceerde hardware- en softwareaanbod.
On-device AI verwijst naar kunstmatige intelligentie die direct wordt verwerkt en uitgevoerd op een apparaat of systeem, zoals een smartphone of personal computer, in plaats van te vertrouwen op cloud-gebaseerde diensten of externe servers. Dit type AI maakt gebruik van algoritmes voor machinaal leren die zijn ingebed in de hardware- en softwarecomponenten van het apparaat, waardoor snellere verwerkingstijden en een hogere efficiëntie mogelijk zijn in vergelijking met traditionele cloudgebaseerde AI-oplossingen. On-device AI kan worden gebruikt in verschillende toepassingen, waaronder beeldherkenning, spraakassistenten, verwerking van natuurlijke taal en voorspellende analyses.
Wat On-Device AI is en hoe het werkt
Tegenwoordig vertrouwt een aanzienlijk deel van de kunstmatige intelligentie die consumenten gebruiken op enorme informatiebestanden in de cloud. Toch is het niet raadzaam om gevoelige persoonlijke gegevens naar AI-servers te sturen vanwege zorgen over de privacy. Deze situatie leidt tot het belang van AI op het apparaat als alternatieve oplossing.
On-device AI betekent de implementatie van kunstmatige intelligentie-functies die van binnenuit op een apparaat worden uitgevoerd, in plaats van op afstand via de cloud.De AI-berekeningen worden dus direct uitgevoerd op smartphones, tablets en andere apparaten, zonder dat er een online verbinding nodig is.
geavanceerde kunstmatige intelligentie frameworks zoals Stable Diffusion, DALLE-E en Midjourney worden getraind binnen een gedistribueerde infrastructuur die gebruik maakt van aanzienlijke hoeveelheden informatie en rekenkracht. Vervolgens worden deze modellen verfijnd voor optimale prestaties op de beoogde apparaten, met behoud van hun efficiënt gebruik van bronnen. Eenmaal voorbereid worden de verbeterde AI-modellen geïntegreerd in applicaties en geleverd aan apparaten van gebruikers. De applicatiegegevens blijven binnen een beschermde enclave, zodat de beveiliging tijdens het hele proces gewaarborgd blijft.
Wanneer de applicatie een functie moet uitvoeren, zoals de herkenning van een geluidssignaal of de identificatie van een beeldkenmerk, wordt het kunstmatige intelligentiemodel uitgevoerd met behulp van de geïntegreerde hardwarecomponenten van het hostapparaat, de centrale verwerkingseenheid (CPU) of grafische verwerkingseenheid (GPU). Het AI-model voert de noodzakelijke berekeningen uit op de ontvangen invoergegevens en produceert een interne uitkomst of bepaling, zonder informatie buiten de grenzen van het apparaat te verzenden.
Al deze processen vinden uitsluitend plaats op je apparaat, zodat je communicatie vertrouwelijk en veilig blijft.
Hoe AI op je apparaat je kan helpen
Afbeelding Credit: freepik/ freepik
Kunstmatige intelligentie op je apparaat maakt opmerkelijke functies mogelijk, direct op je apparaat. Zo wordt het bijvoorbeeld mogelijk om snel afbeeldingen te genereren door gebruik te maken van modellen zoals Stable Diffusion, wat resulteert in de creatie van afbeeldingen binnen enkele seconden, een verbazingwekkend snelle prestatie. Deze mogelijkheid is vooral handig bij het snel genereren van visuele inhoud voor je updates op sociale media. Bovendien vindt de verwerking volledig op het apparaat zelf plaats, zodat je beeldaanwijzingen veilig en vertrouwelijk blijven.
Een lokale AI-assistent kan een aangepaste ervaring bieden door gebruik te maken van gebruikersspecifieke informatie zoals favoriete bezigheden en fysieke mogelijkheden. Bovendien kan hij verbale commando’s voor visuele taken begrijpen, zodat gebruikers moeiteloos instructies kunnen geven zoals “verwijder de persoon aan de rechterkant” om afbeeldingen direct aan te passen.
De vooruitgang in kunstmatige intelligentie heeft verschillende verbeteringen mogelijk gemaakt op het gebied van fotografie.Deze mogelijkheden omvatten de mogelijkheid om beeldgrenzen uit te breiden, vergelijkbaar met de opvulfunctie van Photoshop, het gebruik van zowel voor- als achtercamerasystemen voor het creëren van unieke video-effecten en onafhankelijke manipulatie van meerdere lagen tijdens post-productieprocessen.
De vooruitgang op het gebied van kunstmatige intelligentie (AI) op apparaten heeft de game- en audio-ervaring aanzienlijk verbeterd door de grafische mogelijkheden te verbeteren en te zorgen voor naadloze synchronisatie tussen beeld en geluid. Met de mogelijkheid om de resolutie op te schalen tot 8K, ray tracing te versnellen voor nauwkeurigere lichteffecten en framerates te verdubbelen, worden gamers getrakteerd op een verhoogd niveau van immersie. Daarnaast is realtime audiosynchronisatie mogelijk dankzij on-device AI, waardoor mogelijke onderbrekingen tijdens het afspelen van video’s of gameplay worden geëlimineerd. Zelfs als gebruikers naar een andere kamer gaan, kunnen ze ongestoord genieten van gesprekken en muziek van hoge kwaliteit.
On-device kunstmatige intelligentie is in lijn met de voorkeuren van een aanzienlijk aantal gebruikers, die snelle resultaten en vertrouwelijkheid willen door de gegevensverwerking op het apparaat zelf te houden in plaats van deze naar de cloud te sturen.
Kunstmatige intelligentie op apparaten zorgt voor snellere en meer persoonlijke AI-ervaringen
De implementatie van kunstmatige intelligentie op apparaten, zoals smartphones en persoonlijke elektronica, heeft als opmerkelijk voordeel dat deze apparaten autonoom complexe berekeningen kunnen uitvoeren, waardoor er geen internetverbinding nodig is of de latentie afneemt.
Onder andere Qualcomm heeft geavanceerde hardware opgenomen in zijn meest recente chipontwerpen om een efficiënte werking van neurale netwerken op onze apparaten mogelijk te maken. De Snapdragon 8 Gen 3, bijvoorbeeld, kan maar liefst 24GB geheugen herbergen in een smartphone, heeft ingebouwde ondersteuning voor Stable Diffusion en Llama 2, en maakt gebruik van Qualcomm’s AI Stack om uitzonderlijke on-device kunstmatige intelligentie mogelijkheden te bieden die momenteel beschikbaar zijn.
Naarmate de technologische vooruitgang voortschrijdt, wordt verwacht dat toekomstige versies van mobiele apparaten een toename in rekenkracht zullen laten zien die is toegewijd aan kunstmatige intelligentie toepassingen zoals persoonlijke digitale assistenten, directe taalvertaling, automatische grafische manipulatie en het snel genereren van synthetische beelden.