英偉達芯片進展如何？

英偉達 Blackwell 芯片短期延遲小幅影響 2024 年出貨節奏，不改 2025 年產業趨勢。

1. 英偉達 B 系列芯片小幅延期，未來將推出 B102 和 B200A

根據 Semi Analysis，英偉達 Blackwell 系列芯片量產遇到問題，導致原定 2024Q3/Q4 和 2025H1 的生產目標延后。預計英偉達 Hopper 系列芯片將彌補 Blackwell 系列芯片的出貨缺口。

GB200 是英偉達最先進的 Blackwell 芯片，基于 GB200 芯片的 NVL72 機柜的 功率密度約 125kW/rack，但大部分數據中心部署的單機柜功率密度為 12-20kW/rack。由于功率密度和計算能力的復雜程度，量產爬坡的挑戰性巨大， 配電、過熱、液冷等問題均需要解決。 英偉達 Blackwell 是第一個使用臺積電 CoWoS-L 封裝工藝的芯片。

CoWoS-L 使用 RDL interposer（RDL 中介層）去橋接各種計算芯片和存儲芯片。 CoWoS-L 是 CoWoS-S 的下一代產品。隨著 AI 芯片需要滿足更多邏輯單元、存儲單元和 IO 接口的需求，CoWoS-S 的尺寸和性能面臨更多的挑戰。臺積電已經 將 CoWoS-S 的 Interposer 擴展到了 AMD MI300 芯片約 3.5 倍大小。隨著 Interposer 尺寸變得更大，不僅價格更貴，而且生產這種 Interposer 將變得更 難，因為 silicon Interposer 很脆且易碎。CoWoS-L 是一項更復雜的技術，代表 著 CoWoS 封裝技術的未來。英偉達和臺積電有非常激進的 CoWoS-L 爬坡計劃， 計劃未來單季度量產 100 萬顆以上 CoWoS-L 芯片。

目前臺積電沒有足夠的 CoWoS-L 產能。臺積電過去幾年建立了大量的 CoWoS-S 產能，其中英偉達占據最大份額。目前隨著英偉達迅速將需求轉向 CoWoS-L， 臺積電一方面為 CoWoS-L 建造了一個新的工廠 AP6，一方面在 AP3 工廠將 CoWoS-S 轉向 CoWoS-L。轉產 CoWoS-S 將導致 CoWoS-S 產能利用率不足， 且 CoWoS-L 爬坡進度較慢。

由于系統設計復雜和 CoWoS-L 良率較低這兩個問題，臺積電無法向英偉達提供 足夠的 Blackwell 芯片。因此，英偉達幾乎完全將其產能集中在 GB200NVL36x2 和 NVL72。B100 和 B200 的 HGX 形態基本被取消了。 英偉達推出 B102（單 die）/B200A。為了滿足需求，英偉達將推出一款基于 B102 的 Blackwell GPU，稱為 B200A。這款 B102 芯片也將用于中國版 Blackwell， 稱為 B20。B102 是一個帶有 4 層 HBM 的單 die 計算芯片。這款芯片可以封裝 在 CoWoS-S 上，而不是封裝 CoWoS-L 上。英偉達其他 2.5D 封裝供應商，如Amkor、ASE SPIL 和 Samsung 都可以提供相關的產品。B200A 將取消 C2C I/O， 設計上更為簡單。

B200A 將用于滿足對中低端 AI 系統的需求，并將取代 HGX 8-GPU 外形尺寸的 B100 和 B200 芯片。B200A 將采用 700W 和 1000W 的 HGX 外形尺寸，HBM3E 達到 144GB，內存帶寬高達 4TB/S。B200A 也將有一個 ultra 版本。B200A ultra 不會有內存升級，盡管芯片可能會重新設計以提升 FLOPS。B200A Ultra 還引入 了全新的 MGX NVL36 外形。B200A Ultra 也將像最初的 B200A 一樣采用 HGX 配置。 Blackwell Ultra，Blackwell 的中代增強產品，CoWoS-L 封裝的 Blackwell Ultra 將被稱為B210或B200 Ultra。Blackwell Ultra包含高達288GB的12層HBM3E 內存和性能增強 50%的 FLOPS 算力。 對于超大規模市場的客戶來說，GB200 NVL72/36x2 將繼續是最具吸引力的，因 為它在推理過程中對超過 2 萬億參數的模型具有最高的性能/TCO。如果超大規 模客戶無法獲得 GB200 NVL72/36x2，他們可能仍然需要購買 MGX GB200A NVL36。此外，在功率密度較低或非液冷數據中心，MGX NVL36 看起來更有吸 引力。HGX Blackwell 服務器仍將被超大規模云計算客戶購買，因為它是用于出 租給外部客戶的最小計算單位，但購買量將比以前低得多。對于小型模型，HGX 的性能/TCO 最優，因為這些模型不需要大量的內存，NVL8 的內存可以滿足這 些小型模型的需求。

neocloud（新興云市場）的大多數客戶不會購買 GB200 NVL72/36x2，因為難 以尋 找擁 有液 冷或 高能 耗指 標的 托管 服務 提供 商。 此外 ，對 于有 限的 GB200NVL72/36x2 來 說 ， 大 多 數 neocloud 客 戶 通 常 比 超 大 規 模 客 戶 （hyperscalers） 優先級 更靠后。對 于最大的 neocloud 客 戶來說， 如 Coreweave，有自建/改造數據中心的需求，將選擇 GB200 NVL72/36x2。對于 neocloud 市場的其余客戶來說，大多數人將選擇 HGX Blackwell 服務器和 MGX NVL36，因為這些服務器只能使用風冷和較低能耗的機架進行部署。目前，大多 數 neocloud 客戶的部署都是使用功率密度為 20kW/機柜的 Hopper 服務器； 未來，這些 neocloud 客戶有可能部署 MGX GB200 NVL36，因為這只需要 40kW/ 風冷機柜。 MGX GB200A NVL36 SKU 是一款全風冷的 40kW/機架服務器，36 個 GPU 與 NVLink 完全互連。每個機架將有 9 個計算托盤和 9 個 NVSwitch 托盤。每個計 算托盤是 2U，包含一個 Grace CPU 和四個 700W B200A Blackwell GPU，而GB200NVL72/36x2 有兩個 Grace CPU 和四個 1200W BlackwellGPU。MGX NVL36 設計的 CPU 與 GPU 的比例僅為 1:4，而 GB200NVL72/36x2 的比例為 2:4。此外，每個 1U NVSwitch 托盤只有一個交換芯片，每個交換芯片的帶寬為 28.8Tbit/s。

2. 鴻海：GB200 延遲出貨對 2025 年基本無影響

GB200 由于設計缺陷導致短期延遲出貨，在英偉達和供應鏈相關公司的業績方 面，2024 年或有部分影響，2025 年基本無影響。2024 年 8 月 14 日鴻海法說 會表示，由于 GB200 新產品規格和技術提升較大，設計難度較高，動態調整很 常見，目前開發的 AI 服務器都按照進度進行，2024Q4 開始小批量出貨 GB200 服務器，2025Q1 有望放量，后續產品周期有望持續加速。鴻海認為 GB200 由 于設計缺陷導致延遲出貨造成的影響已經基本消除。