端側AI定義、優勢、應用及產業鏈梳理

端側 AI 是指在終端設備上運行 AI 模型，相較于云端大模型，端側模型在資源有效的設備上高 效運行，需要進一步多模型進行壓縮、推理加速和能耗優化。

將大模型部署在端側設備，可高效賦 能智能終端，如降低延遲，更快響應用戶請求；隱私保護，減少數據傳輸，從而降低隱私泄露的風 險；減輕云端服務器的計算負擔，降低對中心化計算資源的依賴，從而降低成本；根據用戶的具體 設備和使用習慣進行定制化優化，提供更加個性化的服務；部分場景下不需要連接網絡，提高了應 用的靈活性。 AI 加持下，手機將由工具升級為助手。手機的發展從早期的功能機過渡現階段的智能機，目前 各品牌智能手機高度同質化，缺乏創新也導致消費者換機周期拉長。各品牌廠商將 AI 視為下一輪手 機升級的主要方向，蘋果在 iOS 18 中引入全新的 AI 功能，全新的 Siri 采用了先進的大型語言模 型，新版本的 Siri 能夠更準確理解用戶的意圖。華為在 HDC 2024 上提出 Harmony Intelligence，搭載了大模型的小藝，在鴻蒙原生智能框架下升級為系統級智能體，其交互和意圖理解能力增強。 IDC 預計 2024 年全球生成式人工智能手機出貨量為 2.34 億部，在全球智能手機出貨量占比為 19%， 2024 年至 2028 年全球 AI 手機復合增速將達到 40.5%。

AI PC 有望承載個人大模型需求。普通用戶不僅需要公共的大模型服務，也需要專屬的個人大 模型。個人大模型的普及，必然帶來用戶對大模型的專屬化需求的提高，而云端公共大模型無法滿 足消費者多樣化的需求，專屬化的成本相對較高。在眾多消費電子產品中，PC 有望成為適合承載大 模型的理想平臺，其主要優勢包括： PC 具備全模態的人機自然交互條件。PC 擁有最多樣化交互方式的終端設備，既包括相對直接觸 控交互、語音交互、手勢控制，也具備更加復雜的鍵鼠交互、數字筆交互等。多元化的交互方式使 得 PC 在承載創新的 AI 交互方式方面具備巨大潛力。 PC 是承載最多場景的個人通用設備。PC 作為一種通用生產力平臺，既能夠承載以消費內容為主 的生活娛樂場景，也能夠承載以創作內容為主的工作、學習等場景。 PC 是迄今為止最強的個人計算平臺。PC 自誕生以來始終代表了個人計算平臺的能力巔峰，PC 的通用計算能力強勁，并得到長期優化，在性能、成本、體驗方面達到最佳配置，是個人計算設備 中擁有最強性能的通用計算平臺。 PC 是存儲容量最大、最受信賴的安全終端。隨著用戶使用 AI 應用的頻次提高，個人交互數據 量快速增加，數據安全性和隱私保護的重要性日益凸顯。PC 擁有大容量的本地安全存儲，用戶在本 地終端設備上進行數據分析、模型推理與計算，個人數據不再需要存儲在云端或遠程服務器，可以 安全地保留在用戶的設備，提高了數據的安全性。

AI PC 能夠為用戶提供通用場景下的個性化服務，提供即時、可靠的服務響應，更低的大模型 使用成本以及可信、安全的個人數據和隱私保障。針對工作、學習等場景，AI PC 可提供個性化創 作服務、設備管家服務等在內的個性化服務。響應速度慢、反饋時間長是用戶對 AIGC 平臺使用的主 要負面反饋，AI PC 以本地推理為主，邊緣和云端推理為輔，能夠在混合算力、混合模型之間智能、 合理調配任務，有效縮減響應時間，離線狀態下的可操作性也是 AI PC 的優勢。AI PC 的消費者一次性購買后即可享受全生命周期的本地免費推理服務，再加上有限的云端訂閱，可顯著降低用戶使 用 AI 大模型的成本，同時也降低了帶寬成本。AI PC 有專門用于存儲用戶的特定類型文件與數據的 安全空間，確保個人用戶與企業用戶的隱私與涉密信息能在本地實現安全隔離，僅在受信任的環境 下才可以被調用。 AI 大模型加持，AR 眼鏡升級為智能眼鏡。據 VR 陀螺不完全統計，2024 年全球已公開亮相、正 式發布的智能眼鏡系列產品達到了 46 款。其中，聚焦 AI 音頻、拍攝的眼鏡為 9 款，AI+AR 眼鏡、 AR 信息提示眼鏡為 22 款，分體式 XR 眼鏡、觀影眼鏡為 15 款。2023 年已有部分廠商為 AR 眼鏡提 供基礎的 AI 語音交互，2024 年部分廠商開始在 AR 眼鏡上增加攝像頭，以滿足多模態交互的可能 性。對于傳統的 AR 廠商而言，AI 大模型加持讓 AR 眼鏡升級為智能眼鏡。以 Meta 和雷朋合作的眼 鏡為例，產品雖然在 2023 年發布，但多模態的 AI 功能，從 2024 年才開始陸續推送到用戶側。RayBan Meta 的多模態 AI 功能，通過眼鏡上的攝像頭，可以讓用戶實現如翻譯眼前的法語菜單、通過 語音指令查詢實時信息、識別街道建筑等。

目前，端側 AI 芯片廠商、中游模組及軟件廠商、下游終端廠商的產業鏈上下游正積極推動 AI 在端側部署落地。其中，AI 手機的核心變化是 SoC 升級。 手機 SoC 廠商重點布局 AI。在功耗和散熱受限的終端上使用通用 CPU 和 GPU 服務平臺，難以滿 足 AI 用例嚴苛且多樣化的計算需求；同時，AI 用例在不斷演進，在功能完全固定的硬件上部署這 些用例不切實際。因此，支持處理多樣性的異構計算架構能夠發揮每個處理器的優勢，例如以 AI 為 中心的定制設計的 NPU，以及 CPU 和 GPU。每個處理器擅長處理不同的任務：CPU 擅長順序控制和即 時性，GPU 適合并行數據流處理，NPU 擅長標量、向量和張量數學運算，可用于核心 AI 工作負載。 高通在 2015 年正式推出的驍龍 820 處理器集成首個高通 AI 引擎，支持成像、音頻和傳感器運算， 2018 年高通在驍龍 855 中為 Hexagon NPU 增加了 Hexagon 張量加速器。2019 年高通在驍龍 865 上 擴展了終端側 AI 用例，包括 AI 成像、AI 視頻、AI 語音和始終在線的感知功能。2020 年高通憑借 Hexagon NPU 變革型的架構更新，融合標量、向量和張量加速器，同時還為加速器打造了專用大共 享內存。2021 年推出的驍龍 8 Gen 1 AI 算力為 9 INT8 TOPS，驍龍 8 Gen2 AI 算力提升 4.35 倍； 驍龍 8 Gen3 的 NPU 算力進一步提升 98%。2017 年華為發布的麒麟 970 首次集成人工智能專用 NPU 神 經網絡單元，同年蘋果推出的 A11 處理器首次引入神經網絡引擎（Neural Engine）。

滿足 AI 需求需要升級手機內存。在手機上運行 10 億參數的大模型至少需要 1GB 內存，運行 70 億參數大模型需 4GB 內存，運行 130 億參數大模型需要超過 7GB 內存。在處理數據時，需要在手機 內存中進行臨時的存儲和運算。AI 手機可能支持多個 AI 任務運行，需要更多內存支持多個任務同 時運行。模型存儲需求、數據處理需求和多任務處理需求驅動 AI 手機內存容量提升，安卓旗艦手機 從 2023 年開始逐步淘汰 8GB 內存，以 12GB 及以上內存配置為新標配，部分高端機型已配備 24GB 內 存。此外，AI 運算需要快速讀取和存儲數據，對內存的讀寫速度要求更高；更大的內存帶寬能夠確 保 CPU、GPU 和 NPU 等硬件和內存之間的數據傳輸更加順暢。 AI 手機對散熱系統要求更高。為了保證手機在高負荷運行 AI 任務時的性能和穩定性，需要散 熱系統具備更強的散熱能力。傳統的散熱方式可能無法及時有效地將熱量散發出去，因此 AI 手機通 常需要采用更先進的散熱技術和材料，如更大面積的散熱石墨片、散熱銅管、均熱板等，以提高散 熱效率。

提升電池容量和發展快充技術以滿足 AI 手機需求。高計算需求、多任務處理和數據傳輸會加快 AI 手機電量消耗，為了滿足 AI 手機對電量的高需求，手機廠商會傾向于采用更大容量的電池，以 延長手機的續航時間。例如，部分高端 AI 手機的電池容量已經從過去的 3000mAh-4000mAh 提升到 4500mAh-5000mAh。碳硅電池比傳統的石墨電池能實現更高的能量密度，從而實現長時間續航。同時， 為了彌補 AI 手機電量消耗快的問題，快充技術得到了更廣泛的應用和發展。 綜上，端側 AI 最大的變化在于在 SoC 升級，其次存儲容量的提升以及帶寬、傳輸速率的提升也 至關重要，散熱方案的升級、電池容量的提升需要同步進行。