中國ASIC芯片格局分析

寒武紀卡位最優.

算力精度門檻下，ASIC 和 GPGPU 是最適合大模型的架構。大模型云端訓練多數情況 下都在 FP32 計算精度上，推理端則以 FP16 和混合精度為主。算力越強，模型效率越高。 FPGA 和 GPU 對比，雖然 FPGA 吞吐率、性能功耗比優于 GPU，但是 FPGA 存在兩個天 然缺陷，FPGA 只適合做定點運算，不適合做浮點運算，如果用來做浮點運算耗費邏輯很大， 而且有些 FPGA 不能直接對浮點數進行操作的，只能采用定點數進行數值運算。其二，FPGA 可以理解成某種“芯片半成品”，需要開發人員做大量二次開發設計芯片，因此開發使用 門檻較高。ASIC 和 GPU 則能夠滿足大模型的入門門檻。

國內視角下，華為、百度昆侖芯、阿里、寒武紀、海光信息及一眾初創企業（燧原、 天數、壁仞、沐曦）均推出云端訓練和推理芯片。架構選擇上，華為、百度、阿里、寒武 紀選擇 ASIC 路線。華為、百度、阿里自家業務場景對 AI 芯片存在天然需求，選擇 ASIC 在量產制造供應鏈上的難度顯著低于 GPU。初創企業則押注通用型 GPGPU 架構，壁仞、 沐曦等初創企業多創立于 2018 年前后，團隊一般來自出走英偉達、AMD 的技術專家，因 此技術路線多選擇他們所熟悉的通用型 GPU。 AI大模型讓ASIC 和 GPU之間的邊界愈發模糊，國內GPU 初創企業或在競爭中落后。 英偉達在過去很長的一段時間內堅持用統一的硬件，即通用型 GPU 同時支持 Deep Learning 和圖像需求。但高性能計算迭代到 H100 產品后，其計算卡和圖像卡分開，在技 術路線上也愈發靠近 ASIC。初創企業為了實現通用性，選擇了在芯片設計和制造供應鏈存 在較多困難的 GPU 路線，暫未推出真正具備量產成熟度的產品。

國產 ASIC 廠商中，寒武紀是為數不多能夠較為開放支持中游 AI 算法和模型商。 1）華為選擇部署端到端的完整生態，例如使用昇騰 910 必須搭配華為的大模型 支持框架 MindSpore、盤古大模型。第三方開源模型無法在華為上運行，若要運 營必須依賴華為提供的工具做深度定制和優化，開放程度低。 2）阿里在該方面的定位是系統集成商和服務商，運用自身芯片產品搭建加速平臺 中，對外輸出服務。 3） 百度昆侖芯主要在自身智算集群和服務器上用，以及國內企業、研究所、政 府中使用。且由于百度自身 AI 算法商的商業定位，與其他 AI 廠商之間存在 競爭關系，昆侖芯未必能夠在其他 AI 算法商中鋪開。

英偉達 A800、H800 對國產廠商存在一定的威脅，但在大模型趨勢下，英偉達的優勢 有所弱化。過去，機器學習訓練時間的主導因素是計算時間，等待矩陣乘法，通過張量核 心和降低浮點精度，這個問題很快被解決。現在大型模型訓練/推理中的大部分時間都是在 等待數據到達計算資源。內存帶寬和容量的限制不斷出現在 Nvidia A100 GPU，如果不進 行大量優化，A100 往往具有非常低的 FLOPS 利用率。而 800 系列降低了數據傳輸速率， 弱化了英偉達高算力的優勢。此外，大模型 AI 芯片更需要片間互聯、HBM，英偉達 CUDA 這種標準化平臺的優勢同樣有所弱化。

寒武紀的優勢在于各種深度學習框架，合作經驗豐富。寒武紀思元系列產品適配 TensorFlow、Pytorch、Caffe 深度學習框架。2019 年開始適配海康，峰值時刻合作開發 團隊有 70-80 人（公司派出 20-30 人），思元 290 與商湯在 CV 層面深度合作，NLP 領域 在訊飛、百度語音都有出貨。 寒武紀思元590將是最早實現商業應用的接近英偉達A100性能的國產AI訓練芯片。 目前華為昇騰 910 性能超越英偉達 V100，但未達到 A100 水平，壁仞科技 7nm 通用 GPU 芯片 BR100 稱其可與被禁售的英偉達 H100 一較高下，但尚未量產上市。寒武紀思源 590 芯片面積 800mm^2，和 A100 一樣。內存帶寬 2.7T，是 A100 1.8T 的 1.5 倍。HBM2 使用海力士，功耗達 350W-550W，FP32 算力到 80TFLops，目前已經客戶送樣測試階段， 在高性能國產 AI 芯片中進程最快，最有機會承接國內 AI 算法商對英偉達 A100、H100 的 需求。