云廠商AI芯片布局進展如何？

云廠商自研芯片加速起量，帶動 AI 加速計算芯片市場結構變化。

伴隨大型云服務商對 AI 計算需求日益增多，將更加追求 AI 加速芯片的成本效益。微軟、谷 歌、亞馬遜等越來越多云服務商紛紛加速推理和訓練側自研芯片推出。根據產業鏈調研， 我們預計 2025 年亞馬遜自研芯片出貨量增速有望領先，亞馬遜近期宣布和 Anthropic 的合 作，未來 Anthropic 將使用一個搭載數十萬顆亞馬遜自研芯片算力集群，芯片數量達其現有 算力集群五倍以上，將帶動亞馬遜自研芯片加速放量。云廠商加速自研加速計算芯片大勢 所趨，產業鏈相關公司：生益電子 (688183 CH)、廣合科技 (001389 CH)、滬電股份 (002463 CH)、生益科技 (600183 CH)。 CSP 廠商自研加速計算芯片主要基于 ASIC 技術路線，兼具高性能、低功耗等優勢。AI 加 速芯片基于不同設計架構存在多條技術路線，目前主要包括 GPU（圖形處理單元）、ASIC （專用集成電路）、FPGA（現場可編程門列陣），三者在通用性、靈活性和性能上各具優勢。 其中，相較 GPU，ASIC 加速計算芯片針對特定應用場景設計具備高性能和低功耗特點， 其專用性優勢更利于云服務商的軟件適配，并且伴隨 AI 應用需求量快速增長能分攤 ASIC 芯片前期較大研發成本，可同時兼具成本、效率等優勢，成為 CSP 廠商自研 AI 加速芯片 主要選擇。我們認為，ASIC 定制加速卡以及 GPGPU 會長期并存，ASIC 可以針對特定工 作負載提供性能優化，并從對 NVIDIA 的過度依賴中實現多元化，但 GPGPU 仍將承擔云 服務主要工作負載。

Marvell 預計數據中心定制加速計算芯片市場規模有望從 2023 年 66 億美元增長至 2028 年 429 億美元，2024-2028 年 CAGR=45%。2022 年 8 月 ChatGPT 發布以來，全球 AI 大 模型發展持續加速，并帶動中外科技企業的算力軍備競賽。英偉達作為 AI 算力芯片龍頭廠 商，2023 年其數據中心收入達 475 億美元，較 2022 年（150 億美元）增長 2 倍以上。英 偉達憑借高性能的的 GPU 產品和高粘性的 CUDA 生態在 AI 算力芯片市場占據主要份額。 但伴隨大型云服務商對 AI 計算需求日益增多，將更加追求 AI 加速芯片的成本效益，微軟、 谷歌、Meta、亞馬遜等越來越多云服務商紛紛加速布局 ASIC 定制化加速卡。Marvell 預計 到 2028 年定制化加速計算芯片市場規模將從 2023 年的 66 億美金增長至 429 億美金，對 應 2024-2028 年對應年復合增速為 45%，在 AI 加速芯片市場占比提升至 25%（2023 年占 比為 16%）。

谷歌、亞馬遜起步較早，微軟、Meta 等亦紛紛入局。追求成本效益，以及擺脫對英偉達的 過度依賴成為 CSP 大廠等科技公司加速自研芯片主要原因。進度上，谷歌、亞馬遜布局較 早，態度積極；微軟、Meta 起步相對較晚，正加速追趕。目前，谷歌自研 TPU 已廣泛應 用于內部推理、訓練工作負載，其自研芯片不僅支持自用，同時還支持對外提供 TPU 云服 務。亞馬遜自研芯片旨在為客戶提供更具性價比、更高能效云服務，包括 Graviton 服務器 CPU，以及 Inferentia 和 Trainium 系列 AI 芯片，目前亞馬遜云服務廣泛使用自研和外購芯 片。微軟首款自研 AI 芯片推出時間相對較晚，OpenAI、Copilot 應用等需求成為微軟自研 芯片布局重要驅動力，目前公司云服務同樣廣泛使用自研和外購芯片。Meta 于 2023 年推 出首款自研 AI 芯片 MTIA，主要用在模型推理，可協助優化 Facebook 和 Instagram 上內容 排名/推薦，數據中心訓練仍采用英偉達為主。

谷歌：自研 AI 芯片投入最早，已獲蘋果等客戶認可。新一代產品性能可對標 H100，持續完善軟件生態筑強優勢。谷歌于 2016 年 Google I/O 大 會上發布第一代 TPU 產品，且 TPUv1 于 2015 年便已在內部開始部署上線，此后，谷歌持 續推進自研 TPU 的迭代更新。2024 年 5 月，公司發布第六代 TPU 產品 Trillium，并計劃 于 2024 年下半年開始向其云客戶提供相關服務。硬件性能上，谷歌 Trillium 產品，可實現 BF16/INT8 峰值算力 926T/1852T，對標英偉達 2023 年發布的 H100（989T/1978T），產 品代際差距在一代之內。軟件生態上，谷歌 AI 生態系統包含多種開發工具和框架，如 TensoFlow、TPU Estimator 和 Keras 等。其中，TensorFlow 為谷歌開源深度學習框架， 提供高級編程接口和工具集，可助力開發者更輕松地利用 TPU 芯片性能優勢，并加速其應 用的部署和執行。 廣泛應用于內部推理/訓練工作負載，且獲蘋果等客戶認可。自 2015 年首次部署 TPU 以來， 谷歌內部推理/訓練工作逐步轉至由自研 TPU 承擔。公司 Gemini 模型便完全基于其第四代 和第五代 TPU 訓練，同時，Imagen 3、Gemma 2 等亦均經由 TPU 訓練并提供服務。此次 外，谷歌基于 TPU 的云服務也得到越來越多客戶使用認可。谷歌發布 Trillium TPU 的同時， 表示包括自動駕駛汽車公司 Nuro、藥企 Deep Genomics 以及德勤等均將采用該 TPU 相關 服務。2024 年 7 月，蘋果發布論文稱其使用 2048 片 TPUv5p 芯片用以訓練 27.3 億參數的 設備端模型 AFM-on-device，以及使用 8192 片 TPUv4 芯片用以訓練其為私有云量身定制 的大型云端模型 AFM-server。

亞馬遜：自研 CPU 持續迭代，Anthropic 等合作助力 AI 芯片快速起量。自研 CPU 已迭代至第四代，累計出貨超 200 萬顆。2018 年，亞馬遜發布第一款基于 ARM 架構的自研 CPU，并持續推進自研 CPU 迭代升級，2018 年至 2023 年 5 年期間，亞馬遜 自研 CPU Graviton 系列已迭代至第四代。其中，2023 年發布的 Graviton4 內核采用業內 領先的 Neoverse V2 架構，核心數達 96 個，相較上一代產品綜合性能提升 30%，內存帶 寬提升 75%。相較 x86 架構 CPU，基于 ARM 架構的 Graviton 系列兼具更低功耗和更優成 本優勢。SAP 通過使用 Graviton 服務，實現 35%成本降低以及 45%的碳排放量減少。截 止 2023 年，亞馬遜科技已擁有超 150 種基于 Graviton 計算實例，全球超 5 萬家企業和開 發者進行使用，Graviton 累計交付超 200 萬顆。

AI 推理/訓練芯片同時布局，Anthropic 等深度合作加速起量。亞馬遜 AI 芯片包含推理 Inferentia 和訓練 Trainium 兩個系列，其中，2023 年發布的 Trainium2 可實現 FP16/INT8 峰值算力 431T/861T，超過英偉達 A100（312T/614T），較 H100（989T/1978T）仍有一 定差距。2024 年 Re:Invent 大會，亞馬遜發布其新一代人自研 AI 芯片 Trainium 3，采用 3nm 工藝，性能 Trainium 2 高 2 倍以上，且能效比提升約 40%，公司預計將于 2025 年底 上市，將進一步縮小與英偉達最先進產品差距。公司與 Anthropic 等 AI 初創公司深度合作 加速 AI 芯片放量，2024 年 12 月，Anthropic 宣布未來將使用一個搭載數十萬顆亞馬遜自 研芯片算力集群，芯片數量達其現有算力集群五倍以上，此外，此前 Databricks 亦與亞馬 遜簽訂協議承諾將使用 Trainium 芯片。

微軟：自研 AI 芯片較晚起步，率先支持內部AI 應用。2023 年微軟推出 Maia100 和 Cobalt 100 兩款自研芯片，其中，Maia100 AI 芯片為公司第 一款自研 AI 芯片，其 MXint8/MXFP4 算力分別達 1600T/3200T，據 Semianalysis，Maia100 性能可接近英偉達 H100 和 AMD MI300X 水平，內存帶寬僅為 1.6TB/s，較 H100 和 MI300X 仍有一定差距。Maia100 已在微軟搜索引擎 Bing、Office AI 產品上進行測試，此外，OpenAI 亦率先進行試用，用于 GPT-3.5 Turbo 上測試。Cobalt100 為基于微軟推出的第二代 ARM 架構 CPU，采用 Neoverse N2 內核，整體性能相較上一代 Azure 芯片提升了 40%，公司 表示 Cobalt100 已在部分 Teams、Azure 通信服務和 Azure SQL 服務中搭載使用。