什麼是設備端人工智慧及其運作原理?

要點

設備上人工智慧是一種表達方式，用於描述專門在設備上執行的人工智慧功能，無需任何形式的互聯網連接，從而在提高計算速度的同時保留機密性。

將人工智慧功能直接整合到設備中，使行動電話能夠實現非凡的壯舉，包括快速生成視覺效果、提供客製化的數位助理以及提升電玩遊戲圖形功能和聲音保真度。

高通正在其產品中利用整合的專用硬體來提高設備本身人工智慧處理的效率，從而實現智慧個人助理、即時語言翻譯和自動圖像處理等先進功能。

人工智慧 (AI) 深刻影響了技術領域，其影響範圍從聊天機器人延伸到自動駕駛汽車。在因人工智慧融合而經歷快速轉型的各個產業中，最明顯的莫過於智慧型手機等消費性電子產品。在這個領域，科技集團正在進行激烈的競爭，將先進的人工智慧功能納入其尖端的硬體和軟體產品中。

設備端人工智慧是指直接在智慧型手機或個人電腦等設備或系統上處理和執行的人工智慧，而不是依賴基於雲端的服務或遠端伺服器。這種類型的人工智慧透過利用嵌入設備硬體和軟體組件中的機器學習演算法來運行，與傳統的基於雲端的人工智慧解決方案相比，可以縮短處理時間並提高效率。設備端人工智慧可用於各種應用，包括影像辨識、語音助理、自然語言處理和預測分析等。

什麼是設備端人工智慧及其運作原理

目前，消費者使用的人工智慧很大一部分依賴雲端中儲存的大量資訊儲存庫。儘管如此，出於隱私方面的考慮，不建議將敏感的個人資訊傳輸到人工智慧伺服器。這種困境凸顯了設備端人工智慧作為替代解決方案的重要性。

設備端人工智慧意味著人工智慧功能的實現，這些功能在設備內本地執行，而不是透過雲端遠端執行。因此，人工智慧運算直接在智慧型手機、平板電腦和各種其他設備上進行，無需線上連接。

先進的人工智慧框架，如穩定擴散、DALLE-E 和 Midjourney，是在分散式基礎設施中利用大量資訊和運算資源進行訓練的。隨後，對這些模型進行微調，以在目標裝置上實現最佳效能，同時保持資源效率。一旦準備好，增強的人工智慧模型就會整合到應用程式中並交付到用戶的裝置。應用程式資料仍限制在受保護的飛地內，確保整個流程的安全性。

當應用程式需要執行諸如聽覺訊號辨識或影像特徵辨識之類的功能時，它會利用主機裝置的整合硬體元件（中央處理單元（CPU）或圖形處理）來執行人工智慧模型單元（GPU）。人工智慧模型對接收到的輸入資料執行必要的計算，並產生內部結果或確定，而不將任何資訊傳輸到設備邊界之外。

所有這些過程都只在您的裝置上進行，確保您的通訊保密且安全。

裝置端人工智慧如何讓您受益

圖片來源:freepik/freepik

裝置上的人工智慧可直接在您的裝置上實現卓越的功能。例如，透過利用穩定擴散等模型快速生成圖像成為可能，從而在短短幾秒鐘內創建圖像，這是一個驚人的快速壯舉。當快速產生社群媒體更新的視覺內容時，這種能力將特別有用。此外，處理完全在設備本身上進行，確保您的影像提示得到安全保密。

本地人工智慧助理可以利用使用者特定的資訊（例如偏好的消遣和身體能力）提供客製化體驗。此外，它能夠理解視覺任務的口頭命令，使用戶能夠毫不費力地發出「刪除右側個體」等指令，以便及時修改圖像。

人工智慧的進步使得攝影領域得到了各種增強。這些功能包括擴展影像邊界的能力（類似於 Photoshop 的填充功能）、利用前置和後置相機系統創建獨特的視訊效果，以及在後製過程中獨立操作多個圖層。

裝置上人工智慧 (AI) 的進步透過增強圖形功能並確保視覺和聲音之間的無縫同步，顯著改善了遊戲和音訊體驗。憑藉將解析度提升至 8K、加速光線追蹤以實現更準確的照明效果以及雙倍幀速率的能力，遊戲玩家可以獲得更高的沉浸感。此外，裝置上的人工智慧可以實現即時音訊同步，消除視訊播放或遊戲過程中任何潛在的中斷。即使使用者移動到不同的房間，也可以不間斷地享受高品質的通話和音樂。

設備上的人工智慧符合相當多用戶的偏好，他們透過將資料處理保留在設備本身而不是將其傳輸到雲端來尋求即時結果和保密性。

端側AI帶來更快、更私密的AI體驗

在智慧型手機和個人電子產品等設備上實施人工智慧具有顯著的優勢，因為它使這些設備能夠自主執行複雜的運算，從而消除對互聯網連接的需求或減少延遲。

高通等公司在其最新的晶片設計中納入了尖端硬件，以促進神經網路在我們的設備上高效運作。例如，Snapdragon 8 Gen 3 在智慧型手機中可容納高達 24GB 的內存，內建對 Stable Diffusion 和 Llama 2 的支持，並利用高通的 AI Stack 提供當前可用的卓越的設備上人工智能功能。

隨著技術的不斷進步，預計未來的行動裝置迭代將呈現出專用於人工智慧應用（例如個人數位助理、即時語言翻譯、自動圖形處理和快速生成合成影像）的運算能力的增強。