如何理解DeepSeek的技術(shù)創(chuàng)新？

DeepSeek-V3 以 557.6 萬美元的訓(xùn)練成本刷新了大語言模型的經(jīng)濟性基準， 引發(fā)市場對 AI 算力成本重新定價的思考。

1. 訓(xùn)練：架構(gòu)創(chuàng)新降低訓(xùn)練開銷，強化學習路徑減少數(shù)據(jù)依賴

DeepSeek V3 和 R1 全面突破了大模型訓(xùn)練成本的瓶頸。在 V3 系列中，通 過 MLA 機制、FP8 混合精度訓(xùn)練和 DualPipe 并行框架等技術(shù)創(chuàng)新，顯著降 低了計算和內(nèi)存開銷；在 R1 系列中，通過強化學習和冷啟動策略，大幅減 少了對昂貴監(jiān)督數(shù)據(jù)的依賴。這些突破性進展為大模型的經(jīng)濟性訓(xùn)練開辟 了新途徑。 ? DeepSeek-V3： DeepSeek-V3 通過 Multi-Head Latent Attention (MLA)機制實現(xiàn)了顯著的 訓(xùn)練成本優(yōu)化，核心在于低秩聯(lián)合壓縮技術(shù)。MLA 架構(gòu)在注意力計算中采 用了創(chuàng)新的低秩聯(lián)合壓縮方法，將注意力的鍵值對壓縮到更低維度的潛在 向量空間。MLA 的設(shè)計使得在生成過程中只需緩存壓縮后的潛在向量，這 大幅減少了 KV 緩存需求。同時，DeepSeek-V3 對注意力查詢也執(zhí)行低秩壓 縮，并通過 Rotary Positional Embedding (RoPE)進行處理。這種壓縮方法在 保持與標準 Multi-Head Attention 相當性能的同時，顯著降低了訓(xùn)練過程中 的內(nèi)存占用和計算成本，使DeepSeek-V3在經(jīng)濟性訓(xùn)練方面具有明顯優(yōu)勢。

創(chuàng)新的 Auxiliary-Loss-Free 負載均衡策略顯著提升了 MoE 架構(gòu)的訓(xùn)練效 率和計算資源利用率。DeepSeek-V3 對傳統(tǒng) MoE 架構(gòu)進行了重要改進，引 入了更細粒度的專家分配機制。與傳統(tǒng)依賴輔助損失函數(shù)來實現(xiàn)負載均衡 的方法不同，DeepSeek-V3 引入了動態(tài)偏置項機制，實時監(jiān)控每個訓(xùn)練步驟 中專家的負載情況，自動調(diào)整偏置參數(shù)，既確保了計算負載的均衡分布，又 避免了額外的性能損失，使得模型在整個訓(xùn)練過程中都能保持 token 的完整 性，同時通過 Node-Limited Routing 機制限制了通信開銷，實現(xiàn)了接近完整 的計算-通信重疊，從而在保證模型性能的同時顯著提升了訓(xùn)練效率。 Multi-Token Prediction (MTP)機制實現(xiàn)了更密集的訓(xùn)練信號和更高效的數(shù) 據(jù)利用。DeepSeek-V3 的 MTP 設(shè)計采用了順序預(yù)測機制，在每個位置同時 預(yù)測多個未來 token。MTP 通過若干個順序模塊實現(xiàn)，每個模塊共享 embedding 層和輸出層，顯著節(jié)省了參數(shù)開銷。與傳統(tǒng)并行預(yù)測方法相比， MTP 保持了完整的因果鏈預(yù)測關(guān)系，幫助模型建立更好的長期依賴關(guān)系。 特別值得注意的是，這些 MTP 模塊僅在訓(xùn)練階段發(fā)揮作用，在實際推理時 可以直接移除，確保了推理階段的輕量高效，同時又充分實現(xiàn)了訓(xùn)練階段的 優(yōu)化效果。

DualPipe 并行訓(xùn)練框架通過計算與通信的高效重疊顯著提升了訓(xùn)練效率。 傳統(tǒng)的跨節(jié)點專家并行訓(xùn)練面臨計算與通信比例約為 1:1 的效率瓶頸。 DualPipe 通過將每個計算塊分為 attention、all-to-all dispatch、MLP 和 all-to-all combine 四個組件，并對前向和反向計算塊進行精細編排，有效消除了訓(xùn) 練 過 程 中 的 pipeline bubbles 。 與 傳 統(tǒng) 的 1F1B (Harlap et al., 2018) 和 ZB1P (Qi et al., 2023b)方法相比，DualPipe 將 pipeline bubbles 減少了 3 倍， 同時僅增加 1/2 倍的峰值激活內(nèi)存。更重要的是，DualPipe 具有出色的可擴 展性，其 bubbles 和激活內(nèi)存不會隨著 micro-batches 數(shù)量的增加而增長，這 使其在大規(guī)模訓(xùn)練場景下具有顯著優(yōu)勢。

DeepSeek-V3 通過優(yōu)化跨節(jié)點 all-to-all 通信機制，巧妙利用 IB 和 NVLink 雙通道特性實現(xiàn)高效計算。研究團隊針對集群架構(gòu)特點，設(shè)計了專門的通信 內(nèi)核，其中節(jié)點間通過 IB 互聯(lián)（帶寬 50GB/s），節(jié)點內(nèi)則采用 NVLink 通 信（帶寬 160GB/s，約為 IB 的 3.2 倍），充分利用硬件優(yōu)勢，并采用"IB 優(yōu) 先傳輸+NVLink 即時轉(zhuǎn)發(fā)"的策略，實現(xiàn)了 IB 和 NVLink 通信的完全重疊， 使得每個 token 在不增加 NVLink 額外開銷的情況下，可以高效選擇平均 3.2 個專家/節(jié)點，僅需 20 個 SMs 就能充分利用雙通道帶寬，且系統(tǒng)可以在保 持相同通信成本的前提下，將路由專家數(shù)從目前的 8 個擴展至 13 個。 三大關(guān)鍵技術(shù)實現(xiàn)訓(xùn)練過程中的極致內(nèi)存優(yōu)化。通過在反向傳播時重新計 算 RMSNorm 和 MLA 上投影操作，避免持續(xù)存儲這些激活輸出，僅帶來少 量計算開銷就顯著降低了內(nèi)存需求；將模型參數(shù)的指數(shù)移動平均存儲在 CPU 內(nèi)存中，并在每個訓(xùn)練步驟后異步更新，實現(xiàn)了零額外開銷的參數(shù)追 蹤；在 DualPipe 策略下，將 embedding 層等淺層和輸出層等深層部署在相 同 PP rank 上，實現(xiàn)了 MTP 模塊與主模型間的參數(shù)和梯度物理共享，進一 步提升了內(nèi)存使用效率。 DeepSeek 采用了 FP8 混合精度訓(xùn)練框架。DeepSeek 設(shè)計了細粒度的混合 精度方案，將大部分計算密集型操作（如 GEMM 運算）采用 FP8 格式執(zhí)行， 同時對關(guān)鍵組件（如 embedding 模塊、輸出層、MoE 門控模塊、歸一化算 子和注意力算子）保持原始精度。團隊引入了創(chuàng)新的分塊量化策略，并通過 高精度累加過程降低量化誤差，相比 BF16 基準，該方案在訓(xùn)練 1 萬億 token 后的相對損失誤差保持在 0.25%內(nèi)，同時顯著降低了內(nèi)存占用和通信開銷。 精細化的量化策略和高精度累加機制，有效解決了 FP8 低精度訓(xùn)練中動態(tài) 范圍受限的問題。DeepSeek 提出了細粒度量化方案：對激活值采用 1x128 的分塊量化，對權(quán)重采用 128x128 的塊狀量化，顯著提升了對離群值的適 應(yīng)能力。同時，為解決低精度 GEMM 運算中的精度損失問題，團隊設(shè)計了 基于 CUDA Cores 的高精度累加策略，每累積 128 個元素就提升到 FP32 進 行一次精確計算。實驗驗證表明，該方案在 K=4096 的大規(guī)模矩陣運算中， 將相對誤差控制在 2%以內(nèi)。

低精度存儲和通信策略進一步優(yōu)化訓(xùn)練資源消耗。DeepSeek 在優(yōu)化器狀態(tài) 追蹤中采用 BF16 替代 FP32 格式，同時將激活值緩存轉(zhuǎn)換為 FP8 格式以降 低內(nèi)存占用。針對特定算子的精度敏感問題，團隊采取了差異化處理策略： 對注意力算子后的線性層輸入采用定制的 E5M6 格式并使用整數(shù)冪縮放， 而對 MoE 中的 SwiGLU 算子輸入則采用 FP8 存儲并在反向傳播階段重新 計算輸出，在保證模型訓(xùn)練穩(wěn)定性的同時，顯著降低了內(nèi)存和通信開銷。

DeepSeek-R1： DeepSeek-R1 通過大規(guī)模強化學習替代監(jiān)督數(shù)據(jù)，創(chuàng)新性地降低了訓(xùn)練成 本。DeepSeek 采用純 RL 訓(xùn)練作為冷啟動策略，僅在后期引入少量 CoT 數(shù) 據(jù)進行微調(diào)，有效避免了大規(guī)模監(jiān)督數(shù)據(jù)收集和標注的高昂成本，同時保證 了模型的推理能力。 DeepSeek-R1 通過優(yōu)化強化學習算法和設(shè)計高效的獎勵機制，進一步降低 了訓(xùn)練成本。在算法層面，DeepSeek 采用 GRPO（Group Relative Policy Optimization）替代傳統(tǒng)的 critic 模型，通過組內(nèi)相對策略優(yōu)化顯著降低了計 算開銷。在獎勵機制設(shè)計上，系統(tǒng)采用基于規(guī)則的雙重獎勵體系，包括準確 性獎勵和格式規(guī)范獎勵，避免了使用需要額外訓(xùn)練資源的神經(jīng)網(wǎng)絡(luò)獎勵模 型。這種基于規(guī)則的驗證方法（如數(shù)學問題使用確定性結(jié)果驗證，代碼問題 使用編譯器驗證）既保證了訓(xùn)練效果，又降低了計算復(fù)雜度。

DeepSeek-R1 通過冷啟動策略，在保持低成本優(yōu)勢的同時顯著提升了訓(xùn)練 效率。與完全依賴 RL 訓(xùn)練的 R1-Zero 相比，R1 引入了少量高質(zhì)量的 Chainof-Thought（CoT）數(shù)據(jù)作為冷啟動 cold start 基礎(chǔ)，有效避免了早期訓(xùn)練的 不穩(wěn)定性。團隊采用多層級數(shù)據(jù)收集策略，首先利用 R1-Zero 生成初始答 案，再通過人工后處理進行優(yōu)化和驗證，最終僅收集了數(shù)千條 CoT 數(shù)據(jù)用 于微調(diào) DeepSeek-V3-Base 模型。這種方法既避免了大規(guī)模人工標注的高昂 成本，又保證了訓(xùn)練數(shù)據(jù)的質(zhì)量，為后續(xù)的 RL 訓(xùn)練奠定了良好基礎(chǔ)。相比 傳統(tǒng)的全量監(jiān)督學習方法，在保證模型性能的同時顯著降低了數(shù)據(jù)采集和 標注成本，同時也加快了模型的收斂速度。

2. 推理：雙階段架構(gòu)優(yōu)化推理效率，蒸餾技術(shù)降低部署門檻

V3 和 R1 全面優(yōu)化了推理階段的成本效率。V3 系列采用雙階段推理架構(gòu)和 多級并行策略降低大規(guī)模部署成本，R1 系列則通過模型蒸餾技術(shù)實現(xiàn)小型 化部署，共同構(gòu)建了一套完整的低成本推理解決方案。

DeepSeek-V3： DeepSeek-V3 基于 H800 集群構(gòu)建了雙階段推理架構(gòu)，實現(xiàn)服務(wù)質(zhì)量與吞 吐量的平衡。系統(tǒng)采用 NVLink 連接節(jié)點內(nèi) GPU，使用 IB 實現(xiàn)跨節(jié)點互聯(lián)， 通過將推理過程分為 prefilling 和 decoding 兩個階段，有效平衡了在線服務(wù) 的響應(yīng)時間(SLO)和整體吞吐量需求。 prefilling 階段采用多級并行和動態(tài)專家調(diào)度策略，實現(xiàn)了推理性能的全面 優(yōu)化。系統(tǒng)在4節(jié)點32 GPU的最小部署單元上，結(jié)合了4路張量并行(TP4)、 8 路數(shù)據(jù)并行(DP8)和 32 路專家并行(EP32)的混合架構(gòu)，通過小規(guī)模 TP 和 節(jié)點內(nèi)外差異化通信策略降低了通信開銷。為解決 MoE 中的負載均衡問題， 引入了冗余專家機制，每個 GPU 除托管 8 個原始專家外，還額外部署 1 個 冗余專家，并通過 10 分鐘一次的動態(tài)負載統(tǒng)計進行調(diào)整。同時，系統(tǒng)通過 同時處理兩個計算負載相近的 micro-batch，實現(xiàn)了 attention 和 MoE 計算與 通信的有效重疊，進一步提升了整體吞吐量。 decoding 階段采用大規(guī)模并行部署和精細化資源分配策略，平衡了延遲與 吞吐量。系統(tǒng)結(jié)合 TP4 和 DP80 的 attention 計算以及 EP320 的 MoE 架構(gòu)， 其中 64 個 GPU 專門負責冗余專家和共享專家。為降低延遲，系統(tǒng)采用 IBGDA 技術(shù)實現(xiàn) dispatch 和 combine 環(huán)節(jié)的點對點通信，并通過動態(tài)冗余 策略優(yōu)化專家路由?？紤]到 decoding 階段 attention 占比較大的特點，系統(tǒng) 將一個 micro-batch 的 attention 計算與另一個的 dispatch+MoE+combine 重 疊處理。同時，由于每個專家的 batch size 較?。ㄍǔＴ?256 tokens 以內(nèi)）， 系統(tǒng)通過合理分配 SMs 資源，進一步優(yōu)化了內(nèi)存訪問效率。

DeepSeek-R1： DeepSeek 通過蒸餾技術(shù)將大模型能力遷移到小模型，顯著降低了推理部署成本。DeepSeek 選擇 Qwen-1.5B、Llama-3.5B 等高性價比的開源小模型作 為蒸餾目標，直接使用 DeepSeek-R1 的訓(xùn)練樣本進行微調(diào)，使小模型獲得 了更強的推理能力，同時由于模型體積小、計算量低，大幅降低了實際部署 時的算力需求和運營成本。

3. 技術(shù)創(chuàng)新引發(fā)市場震蕩，但長期算力需求未被動搖

DeepSeek 的低成本突破引發(fā)了市場對 AI 發(fā)展路徑的重新思考。2025 年 1 月 27 日，英偉達股價大跌超 17%，市值蒸發(fā)超 5600 億美元，創(chuàng)下歷史最 大單日跌幅。我們認為這一暴跌主要源于 DeepSeek 的技術(shù)創(chuàng)新動搖了市場 對高算力依賴的固有認知：通過創(chuàng)新的架構(gòu)設(shè)計和訓(xùn)練策略，DeepSeek 在 較低算力投入下也實現(xiàn)了強大的模型性能，挑戰(zhàn)了 AI 發(fā)展必須依賴大規(guī)模 算力的傳統(tǒng)觀點，引發(fā)市場對 AI 芯片需求預(yù)期和估值體系的重新審視，產(chǎn) 生了大量對美國 Stargate 等大規(guī)模的算力投資項目的必要性的質(zhì)疑。

情緒沖擊消化后，市場開始重新理性看待算力需求的長期趨勢。我們認為， 雖然 DeepSeek 證明了低成本訓(xùn)練的可能性，但這反而可能刺激大型科技公 司加速 AI 創(chuàng)新，進一步擴大算力投入以保持競爭優(yōu)勢。更重要的是， DeepSeek 的創(chuàng)新可能通過降低 AI 開發(fā)門檻，反而擴大了市場規(guī)模，長期看 反而有利于推動算力需求的增長。 DeepSeek 公布的訓(xùn)練成本僅反映了最終訓(xùn)練階段的直接支出，大量隱性成 本易被忽視。在正式訓(xùn)練之前，企業(yè)需要投入大量資源進行前期研究，包括 算法理論研究、硬件性能探索和數(shù)據(jù)集分析等基礎(chǔ)工作。特別是在消融實驗 階段，為了確定最優(yōu)模型架構(gòu)，研發(fā)團隊往往需要反復(fù)驗證不同組件的重要 性，這個反復(fù)試錯的過程會產(chǎn)生大量計算開銷。這些分散在數(shù)月乃至數(shù)年中 的研發(fā)投入，以及未被披露的失敗嘗試，都構(gòu)成了難以量化的隱性成本。因 此，僅以最終訓(xùn)練階段的直接成本來評估 DeepSeek 的技術(shù)突破，可能會低 估 AI 研發(fā)的實際投入門檻。 DeepSeek 的實際運營經(jīng)歷證實，即便降低了單次調(diào)用成本，算力供給仍然 面臨嚴峻挑戰(zhàn)。在上線僅 21 天后，DeepSeek 就積累了 2215 萬日活用戶， 這種爆發(fā)式增長直接導(dǎo)致算力供不應(yīng)求。2 月 6 日，DeepSeek 出現(xiàn)了服務(wù) 器資源緊張的情況，不得不暫停 API 服務(wù)充值，以緩解服務(wù)器壓力。這一 情況揭示了一個關(guān)鍵事實：雖然 DeepSeek 通過技術(shù)優(yōu)化降低了推理成本， 但用戶基數(shù)的急劇擴大仍會導(dǎo)致整體算力需求的大幅上升。

技術(shù)創(chuàng)新提升了算力效率，但并未改變 AI 產(chǎn)業(yè)對高性能計算的剛性需求。 雖然架構(gòu)優(yōu)化和訓(xùn)練策略創(chuàng)新能夠降低單位算力成本，但隨著 AI 應(yīng)用從實 驗室走向產(chǎn)業(yè)化部署，規(guī)?；逃眠^程中的各個環(huán)節(jié)都需要持續(xù)的算力投 入。同時，AI 技術(shù)的快速迭代和競爭加劇也推動企業(yè)不斷提升模型性能， 這些因素共同決定了高性能計算基礎(chǔ)設(shè)施仍將是 AI 產(chǎn)業(yè)發(fā)展的關(guān)鍵支撐。 隨著人工智能從訓(xùn)練階段轉(zhuǎn)向推理階段，算力投入的商業(yè)價值判斷更加清 晰明確。隨著人工智能技術(shù)的發(fā)展進程進入推理應(yīng)用階段，企業(yè)對算力資源 的投入屬性發(fā)生了根本性轉(zhuǎn)變。在模型訓(xùn)練階段，算力投入主要體現(xiàn)為研發(fā) 性質(zhì)的支出，其投資回報率難以準確衡量。而在推理階段，算力投入直接服 務(wù)于具體的商業(yè)場景，成為可計量的經(jīng)營性資產(chǎn)。這種轉(zhuǎn)變使得企業(yè)在進行 算力投資決策時，能夠基于明確的成本收益比進行評估，降低了投資風險。 特別是對于已經(jīng)布局 AI 業(yè)務(wù)的大型科技企業(yè)而言，推理成本的持續(xù)下降正 在創(chuàng)造更加確定的投資回報空間，從而增強繼續(xù)投資的意愿。