DeepSeek發(fā)展沿革、產(chǎn)品推出及使用分析

DeepSeek-R1 模型于 2025 年 1 月 20 日上線，隨即引發(fā)了大量討論與用戶的快速增長(zhǎng)。

1.DeepSeek 發(fā)展沿革

DeepSeek 公司成立于 2023 年，是一家專注于 AGI 的科技公司，雖然 DeepSeek 與其他國(guó)內(nèi)大模型公司相比發(fā)展不算早，但是受益于強(qiáng)大的算力支持與研究人才底蘊(yùn)，在 2024 年飛速發(fā)展，不斷推出了 DeepSeek LLM、DeepSeek-V2 以及 DeepSeekV3 等產(chǎn)品，并在 2025 年 1 月上線 DeepSeek-R1 這一現(xiàn)象級(jí) AI 產(chǎn)品。

在 DeepSeek 所有研究成果中，最重要的四篇論文是《DeepSeek LLM: Scaling Open-Source Language Models with Long termism》，《DeepSeek-V2:A Strong, Economical, and Efficient Mixture of-Experts Language Model》，《DeepSeekV3 Technical Report》以及《DeepSeek-R1: Incentivizing Reasoning Capability in LLM is via Reinforcement Learning》，下面我們將簡(jiǎn)單梳理以上四篇論文的核心貢獻(xiàn)。

2. DeepSeek LLM

DeepSeek LLM 模型發(fā)布于 2024 年 1 月，該論文主要涵蓋模型訓(xùn)練、縮放定律研究、對(duì)齊優(yōu)化及評(píng)估等工作。

擴(kuò)展法則（Scaling Laws）

擴(kuò)展法則，通常用于闡釋模型性能與模型規(guī)模、訓(xùn)練數(shù)據(jù)規(guī)模、計(jì)算資源規(guī)模之間的聯(lián)系，即隨著這三者的增大，模型性能提升所呈現(xiàn)出的可預(yù)測(cè)規(guī)律。它指出，在增加模型參數(shù)、擴(kuò)大訓(xùn)練數(shù)據(jù)量以及投入更多計(jì)算資源的情況下，模型性能往往會(huì)按照特定的、可預(yù)測(cè)的模式得到優(yōu)化。

研究表明，數(shù)據(jù)質(zhì)量在模型和數(shù)據(jù)的最優(yōu)擴(kuò)展分配策略中起著關(guān)鍵作用。具體來(lái)說(shuō)，高質(zhì)量數(shù)據(jù)會(huì)使增加的計(jì)算預(yù)算更多地向模型擴(kuò)展傾斜。在 DeepSeek LLM 項(xiàng)目里，研究人員借助小規(guī)模實(shí)驗(yàn)，成功對(duì)大規(guī)模模型的性能做出準(zhǔn)確預(yù)測(cè)。這一成果為模型的擴(kuò)展方向提供了有力的指引，助力在模型開發(fā)過程中更合理地規(guī)劃資源，提升模型性能。

DeepSeek-V2

主要介紹了 DeepSeek-V2 這一強(qiáng)大的混合專家（MoE）語(yǔ)言模型，同時(shí)設(shè)計(jì)了創(chuàng)新架構(gòu)：采用 Transformer 架構(gòu)，設(shè)計(jì) Multi-head Latent Attention (MLA)。文章闡述了模型架構(gòu)、預(yù)訓(xùn)練、對(duì)齊優(yōu)化等工作，并展示了其在性能、訓(xùn)練成本和推理效率方面的優(yōu)勢(shì)。

多頭潛在注意力機(jī)制(MLA)

通常情況下，傳統(tǒng)的 Transformer 模型會(huì)運(yùn)用多頭注意力（MHA）機(jī)制。然而在模型生成內(nèi)容的過程中，該機(jī)制的鍵值（KV）緩存卻成了阻礙推理效率提升的關(guān)鍵因素。為了解決這一問題，研究人員提出了多 Query 注意力機(jī)制（MQA）和分組注意力機(jī)制（GQA）。而在這篇文章中，主要介紹了 MLA（Multi-Head Latent Attention）在性能表現(xiàn)上優(yōu)于 MHA，并且在減少 KV 緩存數(shù)量方面效果顯著。

混合專家模式(MoE)

混合專家模型（Mixture of Experts，簡(jiǎn)稱 MoE）屬于集成學(xué)習(xí)技術(shù)的一種，它的核心原理是整合多個(gè) “專家” 模型的輸出，以此來(lái)增強(qiáng)整體模型的性能表現(xiàn)。在MoE 的架構(gòu)里，存在一個(gè) “門控網(wǎng)絡(luò)”（gating network），其主要職責(zé)是判斷針對(duì)特定輸入，應(yīng)由哪一個(gè)或哪幾個(gè)專家模型進(jìn)行處理。每個(gè)專家模型都具備獨(dú)特的能力，各自擅長(zhǎng)處理輸入空間中的特定部分內(nèi)容，門控網(wǎng)絡(luò)則依據(jù)輸入的具體情況，將任務(wù)精準(zhǔn)分配給最為匹配的專家。 MoE 的主要優(yōu)勢(shì)在于：1）在不顯著提升計(jì)算成本的前提下，拓展模型的容量。這是由于在處理任意給定的輸入時(shí)，僅有部分專家會(huì)被激活參與運(yùn)算，避免了整體計(jì)算資源的過度消耗。2）讓模型更“專業(yè)”。不同的專家可針對(duì)數(shù)據(jù)中的不同模式與特征進(jìn)行學(xué)習(xí)，從而達(dá)成模型專業(yè)化，全方位提升模型的整體性能，讓模型在復(fù)雜任務(wù)處理中表現(xiàn)更為出色。3）實(shí)現(xiàn)稀疏激活。借助門控機(jī)制，在運(yùn)行過程中，僅讓部分網(wǎng)絡(luò)處于激活狀態(tài)，這種方式極大地提高了模型的運(yùn)行效率，減少了不必要的資源浪費(fèi)。

算法 Group Relative Policy Optimization (GRPO)

在傳統(tǒng)的強(qiáng)化學(xué)習(xí)方法里，像近端策略優(yōu)化（PPO，Proximal Policy Optimization），一般都需要一個(gè)規(guī)模與策略模型（policy model）相近的 Critic 模型。Critic 模型的作用是對(duì)策略的好壞進(jìn)行評(píng)估，以此為策略的優(yōu)化提供方向。不過，訓(xùn)練 Critic 模型這一過程本身會(huì)額外增加計(jì)算成本。 而 GRPO 的關(guān)鍵優(yōu)勢(shì)就在于，它舍棄了傳統(tǒng)的 Critic 模型，進(jìn)而節(jié)省了訓(xùn)練過程中這部分的開銷。從而降低強(qiáng)化學(xué)習(xí)（RL）訓(xùn)練成本。 GRPO 之所以可以舍棄 Critic 模型，是因?yàn)樗柚?“群體分?jǐn)?shù)”（group scores）來(lái)估計(jì)基線（baseline）。基線主要用于衡量當(dāng)前策略的平均表現(xiàn)，優(yōu)勢(shì)函數(shù)則體現(xiàn)了獎(jiǎng)勵(lì)值相較于基線的提升幅度。

DeepSeek-V3

這篇論文在 DeepSeek-V2 論文基礎(chǔ)上介紹了 DeepSeek-V3 這一具有 6710 億參數(shù)的混合專家語(yǔ)言模型，主要圍繞模型架構(gòu)、訓(xùn)練、評(píng)估及應(yīng)用等方面展開研究，致力于提升開源模型性能，推動(dòng)語(yǔ)言模型向通用人工智能發(fā)展。

多令牌預(yù)測(cè)（MTP）

Multi-Token Prediction 的目的在于，通過促使模型在每個(gè)位置對(duì)多個(gè)未來(lái)令牌進(jìn)行預(yù)測(cè)，以此提升模型的性能表現(xiàn)。其核心原理是，通過加大訓(xùn)練信號(hào)的密度，幫助模型更有效地規(guī)劃自身的內(nèi)部表示，進(jìn)而增強(qiáng)對(duì)后續(xù)令牌的預(yù)測(cè)能力。

FP8 混合精度訓(xùn)練框架

FP8 混合精度訓(xùn)練框架旨在通過降低數(shù)據(jù)精度來(lái)提升計(jì)算效率、減少內(nèi)存占用和降低訓(xùn)練成本，同時(shí)盡量保持模型的性能和準(zhǔn)確性。主要優(yōu)點(diǎn)為：1）提高計(jì)算效率：FP8 計(jì)算所需的資源更少。尤其在 GPU 等硬件加速器上，計(jì)算速度可比 FP32 快數(shù)倍，能顯著縮短訓(xùn)練時(shí)間。2）降低內(nèi)存占用：FP8 數(shù)據(jù)占用的內(nèi)存空間僅為 FP32 的四分之一，可支持更大規(guī)模的模型訓(xùn)練。3）保持模型精度：通過合理的混合精度策略，如在不同階段使用不同精度的數(shù)據(jù)類型，F(xiàn)P8 訓(xùn)練可以保持與全精度訓(xùn)練相近的模型精度。

DeepSeek-R1

這篇論文主要介紹了 DeepSeek-R1 和 DeepSeek-R1-Zero 這兩個(gè)推理模型，展示了通過強(qiáng)化學(xué)習(xí)提升語(yǔ)言模型推理能力的研究成果，并探索了模型蒸餾在提升小模型推理能力方面的應(yīng)用。

Self-evolution Process of DeepSeek-R1-Zero and Aha Moment

DeepSeek-R1-Zero 模型的推理能力提升，不是人為教它該怎么做，而是通過強(qiáng)化學(xué)習(xí)，模型自己學(xué)會(huì)的。

冷啟動(dòng)(Cold Start)

研究人員在實(shí)驗(yàn)中發(fā)現(xiàn)，DeepSeek-R1-Zero 模型在訓(xùn)練初期時(shí)穩(wěn)定性很差，為了解決這一問題，引入了“冷啟動(dòng)數(shù)據(jù)”。在 DeepSeek-R1 的強(qiáng)化學(xué)習(xí)環(huán)節(jié)開展之前，團(tuán)隊(duì)構(gòu)建并收集了少量高質(zhì)量的長(zhǎng)思維鏈數(shù)據(jù)（long CoT data）。這些數(shù)據(jù)就如同為模型提供了一系列高質(zhì)量的“范例”，使得模型在正式進(jìn)入強(qiáng)化學(xué)習(xí)階段前，預(yù)先掌握有效推理和生成答案的方法。這好比在跑步前，教練會(huì)先示范正確的跑步姿勢(shì)與技巧，讓學(xué)習(xí)者提前熟悉和適應(yīng)。

3.DeepSeek 使用入門

由于用戶的快速增長(zhǎng)，因此在使用 DeepSeek 網(wǎng)頁(yè)端或手機(jī)應(yīng)用時(shí)經(jīng)常會(huì)出現(xiàn)“服務(wù)器繁忙，請(qǐng)稍后重試”的提示。

除了 DeepSeek 官方提供的網(wǎng)頁(yè)端訪問路徑以及手機(jī)應(yīng)用 app 端，我們還羅列了一些接入 DeepSeek 模型的第三方大模型服務(wù)平臺(tái)，如網(wǎng)頁(yè)端可以直接訪問的國(guó)家超算互聯(lián)網(wǎng)平臺(tái)、未來(lái)會(huì)接入微信的騰訊元寶等；除此之外還有一些海外平臺(tái)也已接入 DeepSeek 模型的服務(wù)平臺(tái)，如模型托管在美國(guó)的 Perplexity.ai 等。在這些接入了 DeepSeek 大模型的平臺(tái)中，也有一些平臺(tái)提供了除對(duì)話外的輔助功能，如 Quora Poe 平臺(tái)就可以進(jìn)行模型比較，Ima 模型可以使用拖拉拽的方式快速構(gòu)建本地知識(shí)庫(kù)。

除了訪問已封裝為 Chat-as-a-Service 服務(wù)的第三方大模型服務(wù)平臺(tái)，還可以利用 API 對(duì) DeepSeek 模型進(jìn)行訪問，此種方法前期準(zhǔn)備工作相較于直接訪問模式會(huì)更復(fù)雜一些，但是優(yōu)點(diǎn)也是顯著的，相較于直接訪問使用 API 調(diào)用很少會(huì)出現(xiàn)服務(wù)器繁忙的問題，并且可拓展性更強(qiáng)，可以使用服務(wù)商提供的多種模型對(duì)原始大模型進(jìn)行輔助。