AI推理如何具體改變數據中心存儲架構并影響NAND需求？

AI推理應用的快速發展正在根本性地改變數據中心的存儲架構，主要體現在對實時存取速度和海量數據處理能力的極高要求上。傳統作為海量數據存儲基石的Nearline HDD（近線硬盤）由于全球主要制造商近年未規劃擴大產線，無法及時滿足AI刺激的突發性巨量儲存需求，導致交期急劇延長至52周以上，且每GB平均售價因技術換代成本上升而提高，削弱了其核心成本優勢。

相比之下，NAND Flash通過3D堆棧技術演進，產能提升速度快，且在性能上具有顯著優勢。SSD的IOPS是HDD的數百甚至數千倍，延遲為微秒級，遠低于HDD的毫秒級。此外，SSD無需馬達驅動磁盤，每TB功耗更低，長期來看節省的電費、冷卻成本及機柜空間足以抵消較高的初始購置成本。因此，CSP廠商正加速采用大容量QLC SSD以應對海量數據存取，推動NAND在數據中心的應用。

更深層的技術驅動來自KV緩存（Key-Value Cache）。在Agentic AI時代，智能體依賴長期記憶進行推理，KV緩存需保存推理上下文以避免重復計算。隨著序列長度增加，KV緩存規模線性增長，需在存儲層級間流轉。現有的存儲層級中，GPU HBM容量有限，系統DRAM和本地SSD成為擴展層。英偉達推出的基于BlueField-4 DPU的推理上下文記憶存儲平臺，創建了專用上下文記憶層，直接推動單機柜NAND需求從830TB飆升至近2PB。這種架構變革使得NAND不僅是存儲介質，更成為影響AI推理效率和成本的關鍵組件，從而帶動服務器NAND需求同比增長逾60%，并在2026年首次超過手機成為NAND最大應用市場。