博通公司數(shù)據(jù)中心領(lǐng)域布局情況如何？

我們認(rèn)為隨著大型算力集群的建設(shè)逐步推進(jìn)，網(wǎng)絡(luò)架構(gòu) 中的連接或進(jìn)一步豐富，博通有望憑借產(chǎn)品矩陣完整、技術(shù)迭代迅速，開放生態(tài)三大優(yōu)勢 受益于網(wǎng)絡(luò)架構(gòu)的變革。

1.完整產(chǎn)品線，成本及性能優(yōu)勢

博通具備完整的產(chǎn)品線，能夠覆蓋數(shù)據(jù)中心網(wǎng)絡(luò)的多個(gè)關(guān)鍵環(huán)節(jié)。在數(shù)據(jù)中心網(wǎng)絡(luò)領(lǐng)域， 博通具有豐富完整的產(chǎn)品線，主要相關(guān)產(chǎn)品包括：1）以太網(wǎng)連接、交換和 PHY：具體包 括以太網(wǎng)交換和路由商用芯片、網(wǎng)絡(luò)適配器、控制器、PHY（端口物理層）和 PHY 收發(fā)器， 包括 Jericho AI、Tomahawk 等系列產(chǎn)品；2）PCIe 交換芯片和重定時(shí)器：包括 PCIe 交換 機(jī)產(chǎn)品及完整的端到端 PCIe 解決方案，為數(shù)據(jù)中心、服務(wù)器和網(wǎng)絡(luò)設(shè)備提供高性能連接； 3）光學(xué)產(chǎn)品：可插拔光收發(fā)器模塊等各類光學(xué)器件，專為有線網(wǎng)絡(luò)應(yīng)用而設(shè)計(jì)的高密度、 高速光互連的廣泛產(chǎn)品組合，以及專用激光器、探測器、發(fā)射器、接收器和調(diào)制器，可用 作封裝選項(xiàng)或工業(yè)應(yīng)用中的組件，其核心技術(shù)包括 VCSEL（垂直腔面發(fā)射激光器）、EML （電吸收調(diào)制激光器)、CPO（共封裝光學(xué)器件）等。從產(chǎn)品覆蓋面看，博通的產(chǎn)品覆蓋了 數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)的交換、互連多個(gè)環(huán)節(jié)，通過廣泛的產(chǎn)品組合，博通實(shí)現(xiàn)對數(shù)據(jù)中心網(wǎng) 絡(luò)架構(gòu)的全方位優(yōu)化。

高性能計(jì)算領(lǐng)域 IB 及以太網(wǎng)方案重要性上升。在數(shù)據(jù)中心中的網(wǎng)絡(luò)架構(gòu)有多種構(gòu)建方式， 當(dāng)前高性能數(shù)據(jù)中心中的網(wǎng)絡(luò)架構(gòu)多基于 InfiniBand (IB)網(wǎng)絡(luò)通信標(biāo)準(zhǔn)構(gòu)建。IB 標(biāo)準(zhǔn)起源于 1999 年，2019 年 Nvidia 收購了 InfiniBand 獨(dú)立供應(yīng)商 Mellanox，積極推進(jìn)基于 IB 的網(wǎng)絡(luò) 架構(gòu)，InfiniBand 在前 500 名計(jì)算系統(tǒng)榜單中的占比不斷上升，截止 2024 年 6 月，前 500 名計(jì)算系統(tǒng)中基于 IB 構(gòu)建互聯(lián)的廠商數(shù)占比從 2022 年 6 月的 39%上升至 48%，按算力計(jì) 算，占比則從 2022 年 6 月末的 32%上升至 39%。2023 年 4-6 月，博通推出 Jericho3-AI 以太網(wǎng)絡(luò)芯片、英偉達(dá)發(fā)布 Spectrum-X 網(wǎng)絡(luò)平臺、思科推出交換機(jī)芯片 G200，各大廠商 陸續(xù)推出基于以太網(wǎng)方案的適用于 AI 的交換芯片，以太網(wǎng)方案應(yīng)用有所增加，從承載算力 的角度看，占比從 2022 年 6 月底的 45%上升至 2024 年 6 月底的 49%，同樣是高性能計(jì) 算領(lǐng)域重要的選擇。

公司積極推進(jìn)以太網(wǎng)應(yīng)用，交換芯片核心產(chǎn)品具備性能優(yōu)勢。博通積極推進(jìn)基于以太網(wǎng)的 交換產(chǎn)品，核心產(chǎn)品包括 Jericho AI、Tomahawk 交換芯片。2023 年 3-4 月公司陸續(xù)發(fā)布 最新一代以太網(wǎng)交換產(chǎn)品，包括 2023 年 3 月發(fā)布的 Tomahawk 5、2023 年 4 月發(fā)布的 Jericho3-AI，產(chǎn)品展現(xiàn)出較強(qiáng)的性能、靈活性等優(yōu)勢。我們認(rèn)為憑借在大規(guī)模集群中的性 能優(yōu)勢，Jericho3-AI、Tomahawk5 系列產(chǎn)品有望充分受益于生成式 AI 的發(fā)展趨勢。 Jericho3-AI 展現(xiàn)出相較于 IB 的性能優(yōu)勢。2023 年 4 月公司推出 Jericho3-AI 通過諸如長 距離 SerDes、分布式緩沖和高級遙測等屬性實(shí)現(xiàn)性能的提升，其網(wǎng)絡(luò)接口具有 144 個(gè) SerDes 通道，在 106-Gb/s PAM4 模式運(yùn)行時(shí)，可支持最高 14.4T 總帶寬和最多 72 個(gè)網(wǎng)絡(luò) 端口（運(yùn)行在 200G 帶寬），可處理 800G 的端口速度，最高吞吐量為 28.8Tb/s，提供每秒 26 PB 的以太網(wǎng)帶寬，在單個(gè)集群中可連接 32,000 個(gè) GPU。據(jù)博通高級副總裁兼核心交 換事業(yè)部總經(jīng)理拉姆·瓦萊加 (Ram Valega) 在開放計(jì)算項(xiàng)目（OCP）活動中的發(fā)言 （2023.4），在一組網(wǎng)絡(luò)基準(zhǔn)測試中，Jericho3-Al 運(yùn)行 NCCL 任務(wù)的表現(xiàn)比 InfiniBand 快 約 10%。

Tomahawk5 有助于降低成本、復(fù)雜性、功耗。2023 年 3 月公司宣布 Tomahawk 5 系列以 太網(wǎng)交換機(jī)/路由器芯片現(xiàn)已批量出貨。該芯片支持 64 個(gè) 800GbE、128 個(gè) 400GbE 或 256 個(gè) 200GbE 端口，最多具有 64 個(gè)集成 Peregrine SerDes 內(nèi)核，每個(gè)內(nèi)核都配有八個(gè)集成 106-Gb/s PAM4 SerDes 收發(fā)器和相關(guān) PCS，可原生支持多種物理連接選項(xiàng)，從而實(shí)現(xiàn)廣 泛的介質(zhì)、速度和覆蓋范圍。據(jù)公司官網(wǎng)，等量組群規(guī)模比較下，使用 Tomahawk 5 方案 能夠?qū)崿F(xiàn)單個(gè)設(shè)備更高的性能，從而實(shí)現(xiàn)交換機(jī)數(shù)量及層數(shù)的減少，從而降低成本、復(fù)雜 性和功耗。

2.AI 時(shí)代迭代進(jìn)一步加速，技術(shù)優(yōu)勢或進(jìn)一步擴(kuò)大

基礎(chǔ)技術(shù)扎實(shí)，為產(chǎn)品迭代打下良好基礎(chǔ)。公司具備扎實(shí)的基礎(chǔ)技術(shù)，吸收了 AT&T/貝爾 實(shí)驗(yàn)室、朗訊和惠普/安捷倫的豐富技術(shù)遺產(chǎn)，為產(chǎn)品迭代打下良好基礎(chǔ)。隨著 AI 對于大規(guī) 模算力集群的需求逐步顯現(xiàn)，博通掌握的 DSP、SerDES 等核心技術(shù)有望在數(shù)據(jù)中心網(wǎng)絡(luò) 架構(gòu)中發(fā)揮重要作用。其中 DSP（Digital Signal Processing）是一種專用的微處理器芯片， 針對數(shù)字信號處理的運(yùn)行需求進(jìn)行了優(yōu)化，在 AI 場景下與 AI 加速器配合使用，能夠以低功 耗、低成本實(shí)現(xiàn)對數(shù)字信號的處理；SerDES 技術(shù)則用于對高速芯片間通信中使用的數(shù)字?jǐn)?shù) 據(jù)進(jìn)行序列化和反序列化，支持 PCIe、MIPI、以太網(wǎng)、USB 等多種數(shù)據(jù)速率和標(biāo)準(zhǔn)，主要 作用是盡量減少 I/O 互連的數(shù)量。博通所掌握的核心技術(shù)有助于降低構(gòu)建大型算力集群的網(wǎng) 絡(luò)架構(gòu)成本，為產(chǎn)品迭代打下基礎(chǔ)。

交換芯片產(chǎn)品迭代速度有望加快，技術(shù)優(yōu)勢或進(jìn)一步擴(kuò)大。從博通的交換芯片產(chǎn)品看，主 要產(chǎn)品線包括三大系列：Tomahawk（戰(zhàn)斧）系列具有高帶寬的特征，適用于超大規(guī)模數(shù)據(jù) 中心；Trident 系列具有多功能特點(diǎn)，帶寬相較 Tomahawk 稍低，多用于企業(yè)和云；Jericho 系列帶寬較低，但擴(kuò)展性強(qiáng)，有高緩存。產(chǎn)品主要的進(jìn)步方向主要包括集成更多的、具備 更高傳輸速度的 SerDes 核心實(shí)例、支持帶寬更大的核心端口，通過產(chǎn)品的不斷迭代，實(shí)現(xiàn) 功耗和成本的節(jié)省。從產(chǎn)品迭代的節(jié)奏看，以往每隔 2 年產(chǎn)品能夠?qū)崿F(xiàn)帶寬的翻倍，當(dāng)前 交換產(chǎn)品支持的帶寬已達(dá)到 51.2T，我們認(rèn)為隨著 AI 的需求不斷顯現(xiàn)，頭部廠商產(chǎn)品迭代 速度或進(jìn)一步加快，技術(shù)優(yōu)勢或進(jìn)一步擴(kuò)大。

光學(xué)互連產(chǎn)品業(yè)界領(lǐng)先，率先在生成式 AI 場景落地。在光學(xué)領(lǐng)域，公司憑借此前積累的技 術(shù)遺產(chǎn)打造了有競爭力的光學(xué)產(chǎn)品，并積極推進(jìn)光學(xué)技術(shù)在生成式 AI 網(wǎng)絡(luò)中的應(yīng)用。 VCSEL（垂直腔面發(fā)射激光）相比于 LED 和 EEL 技術(shù)，在精確度、小型化、低功耗、可 靠性等角度具備優(yōu)勢；EML（電吸收調(diào)制激光器）主要用于 100G/200G/400G/800G 收發(fā) 器，相比于 DML（直接調(diào)制激光器）技術(shù)，通過在半導(dǎo)體材料上施加電壓來調(diào)制激光的振 幅和相位，從而實(shí)現(xiàn)高速光調(diào)制，具有高速、高效率、低噪聲等優(yōu)點(diǎn)；CPO（共封裝光學(xué)） 將光學(xué)器件和芯片異質(zhì)集成在單個(gè)封裝基板上，實(shí)現(xiàn)功耗的節(jié)省。據(jù)公司官網(wǎng)，繼成功將 100G/通道 VCSEL 和 EML 芯片部署到第一代生成 AI 網(wǎng)絡(luò)中之后，2024 年 3 月，博通推 出 200G VCSEL 和 EML 產(chǎn)品。在 CPO（共封裝光學(xué)）方面，公司于 2024 年 3 月推出業(yè) 界首個(gè)適用于可擴(kuò)展 AI 系統(tǒng)的 51.2 Tbps 共封裝光學(xué)以太網(wǎng)交換機(jī)平臺 Bailly。我們認(rèn)為 公司的光學(xué)產(chǎn)品在 AI 數(shù)據(jù)中心互連中具備豐富的應(yīng)用場景，有望持續(xù)受益于 AI 算力集群規(guī) 模擴(kuò)大帶來的互連需求增長。

發(fā)布重定時(shí)器芯片，PCIe6.0 端到端方案推出可期。PCIe 是用于連接 CPU、AI 加速器、 NIC 和存儲設(shè)備的協(xié)議。2022 年，PCI Express(PCIe)標(biāo)準(zhǔn)組織 PCI-SIG 宣布正式發(fā)布 PCIe 6.0 規(guī)范，與 PCIe5.0 相比，PCIe6.0 將數(shù)據(jù)速率從 32GT/s 翻倍至 64GT/s，從 NRZ 編碼 轉(zhuǎn)換到 PAM4 編碼，可以在單個(gè)通道、同樣時(shí)間內(nèi)封包更多數(shù)據(jù)，從傳輸?shù)目勺兇笮?TLP 到固定大小 FLIT，從而提高帶寬效率，降低延時(shí)。據(jù)公司官網(wǎng)，2024 年 3 月，博通推出全 球首款 5nm PCIe Gen 5.0/CXL2.0 和 PCIe Gen 6.0/CXL3.1 重定時(shí)器。博通重定時(shí)器與其 PEX 系列交換機(jī)相結(jié)合，構(gòu)成了業(yè)界首個(gè)端到端 PCIe 產(chǎn)品組合。據(jù)公司官網(wǎng)，PCIe Gen 6.0/CXL3.1 交換機(jī)將于今年（2024 年）晚些時(shí)候提供樣品。我們認(rèn)為公司積極把握數(shù)據(jù)中 心處理器連接增長機(jī)遇，PCIe 產(chǎn)品迭代或不斷加速。

3.擁抱開放生態(tài)優(yōu)化 AI 網(wǎng)絡(luò)，生態(tài)壁壘逐步鞏固

博通強(qiáng)調(diào)開放生態(tài)，打造異構(gòu)系統(tǒng)。對于 AI 大型集群的構(gòu)建，存在兩種可能路徑。路徑一 是通過提升產(chǎn)品集成度，實(shí)現(xiàn)整體處理效率的提升，路徑二是在不同環(huán)節(jié)中使用不同廠商 的產(chǎn)品，在 AI 集群中呈現(xiàn)異構(gòu)系統(tǒng)的方式。博通強(qiáng)調(diào)對于開放生態(tài)的支持，在產(chǎn)品中貫徹 了由開放標(biāo)準(zhǔn)驅(qū)動的理念，基于以太網(wǎng)、PCIe 等開放標(biāo)準(zhǔn)設(shè)計(jì)產(chǎn)品，博通方案支持多種 NIC、加速器，便于云廠商、OEM 廠商構(gòu)建異構(gòu)的解決方案，有望在 AI 為代表的高性能計(jì) 算場景中受益于開放生態(tài)的建立。 聯(lián)合巨頭創(chuàng)建 UEC，率先實(shí)現(xiàn) UEC 目標(biāo)落地。2023 年 7 月，博通作為創(chuàng)始成員之一，創(chuàng) 立了超級以太網(wǎng)聯(lián)盟（UEC），UEC 從物理層、鏈路層、傳輸層到軟件層多個(gè)層次實(shí)現(xiàn)對 以太網(wǎng)的優(yōu)化改造，通過啟用針對 AI 流量優(yōu)化的流量多路徑/噴灑和擁塞通知來提高網(wǎng)絡(luò)效 率，滿足 AI 對于網(wǎng)絡(luò)架構(gòu)的需求。博通在產(chǎn)品中率先推動 UEC 目標(biāo)落地，在 Jericho3-AI 結(jié)構(gòu)中支持流量多路徑/噴灑和端到端擁塞控制，Tomahawk 5 憑借其認(rèn)知路由功能提供多 路徑、負(fù)載平衡和改進(jìn)的擁塞管理。博通作為技術(shù)的重要貢獻(xiàn)者，有望持續(xù)引領(lǐng)以太網(wǎng)生 態(tài)在 AI 網(wǎng)絡(luò)架構(gòu)中的發(fā)展。

簡化以太網(wǎng)開發(fā)及管理，高性能計(jì)算中的以太網(wǎng)生態(tài)不斷壯大。UEC 采用系統(tǒng)化方法，采 用模塊化、兼容、可互操作的層，并進(jìn)行緊密集成，通過啟用免配置的端到端擁塞控制來 簡化網(wǎng)絡(luò)管理，通過為 AI 和 HPC 提供精簡的 API 來簡化軟件開發(fā)，便于技術(shù)能力較弱的 成員同樣能夠基于以太網(wǎng)生態(tài)打造產(chǎn)品。當(dāng)前多供應(yīng)商生態(tài)系統(tǒng)逐步建立，包括可互操作 的以太網(wǎng)交換機(jī)、NIC、電纜、收發(fā)器、光學(xué)器件、管理工具和軟件，為 AI 網(wǎng)絡(luò)架構(gòu)的實(shí) 現(xiàn)打下了良好的基礎(chǔ)。截止 2024 年 3 月，據(jù) UEC 官網(wǎng)，參與成員已達(dá) 55 家，以太網(wǎng)生 態(tài)有望進(jìn)一步壯大。

具備兼容性優(yōu)勢，PCIe 生態(tài)發(fā)展給公司帶來機(jī)遇。相較于主要用于系統(tǒng)之間互連的以太網(wǎng) 技術(shù)，PCIe 主要用于芯片與芯片之間的連接，包括連接 CPU 與各類高速外圍設(shè)備，Nvidia 通過 NV Link 實(shí)現(xiàn)了每通道傳輸速率的提升，在高端 GPU 通信場景中展現(xiàn)出了較強(qiáng)的能力； 而在其他的通信場景中，如 CPU 與 GPU、SSD、網(wǎng)卡、顯卡等通信中，PCIe 憑借相對簡 單的設(shè)計(jì)，點(diǎn)對點(diǎn)與設(shè)備通信，無需復(fù)雜的路由和交換機(jī)制，通用接口能夠兼容多種設(shè)備 等優(yōu)勢，仍有望發(fā)揮重要作用。在小型模型訓(xùn)練、AI 推理等部分對于 GPU 間高速互連依賴 度較低的應(yīng)用場景中，PCIe 以較低的能耗和較強(qiáng)的兼容性，同樣展現(xiàn)出良好的使用價(jià)值。 博通關(guān)注生態(tài)開放性，在 PCIe 產(chǎn)品領(lǐng)域積極布局，擁有 ExpressFabric 交換機(jī)和重定時(shí)器 解決方案、PCI Express 交換芯片、PCIe 軟件開發(fā)套件。我們認(rèn)為未來 AI 應(yīng)用中 PCIe 或 仍在網(wǎng)絡(luò)架構(gòu)中扮演重要角色，博通有望受益于 PCIe 領(lǐng)域的完整產(chǎn)品布局。