AI推理如何具體改變數(shù)據(jù)中心存儲架構并影響NAND需求？

AI推理應用的快速發(fā)展正在根本性地改變數(shù)據(jù)中心的存儲架構，主要體現(xiàn)在對實時存取速度和海量數(shù)據(jù)處理能力的極高要求上。傳統(tǒng)作為海量數(shù)據(jù)存儲基石的Nearline HDD（近線硬盤）由于全球主要制造商近年未規(guī)劃擴大產線，無法及時滿足AI刺激的突發(fā)性巨量儲存需求，導致交期急劇延長至52周以上，且每GB平均售價因技術換代成本上升而提高，削弱了其核心成本優(yōu)勢。

相比之下，NAND Flash通過3D堆棧技術演進，產能提升速度快，且在性能上具有顯著優(yōu)勢。SSD的IOPS是HDD的數(shù)百甚至數(shù)千倍，延遲為微秒級，遠低于HDD的毫秒級。此外，SSD無需馬達驅動磁盤，每TB功耗更低，長期來看節(jié)省的電費、冷卻成本及機柜空間足以抵消較高的初始購置成本。因此，CSP廠商正加速采用大容量QLC SSD以應對海量數(shù)據(jù)存取，推動NAND在數(shù)據(jù)中心的應用。

更深層的技術驅動來自KV緩存（Key-Value Cache）。在Agentic AI時代，智能體依賴長期記憶進行推理，KV緩存需保存推理上下文以避免重復計算。隨著序列長度增加，KV緩存規(guī)模線性增長，需在存儲層級間流轉?，F(xiàn)有的存儲層級中，GPU HBM容量有限，系統(tǒng)DRAM和本地SSD成為擴展層。英偉達推出的基于BlueField-4 DPU的推理上下文記憶存儲平臺，創(chuàng)建了專用上下文記憶層，直接推動單機柜NAND需求從830TB飆升至近2PB。這種架構變革使得NAND不僅是存儲介質，更成為影響AI推理效率和成本的關鍵組件，從而帶動服務器NAND需求同比增長逾60%，并在2026年首次超過手機成為NAND最大應用市場。