天數智芯全棧自研軟件棧如何實現對CUDA生態兼容及性能優化？

天數智芯通過全棧自研的DeepSpark軟件棧及其核心中間件IXUCA，構建了差異化的生態兼容性優勢。首先，在架構層面，公司通過自研中間表示層將計算圖與底層指令集解耦，實現了對英偉達CUDA生態的“API級別兼容”。這意味著開發者無需修改原有模型代碼即可完成編譯映射，實際遷移效率顯著提升，有效降低了客戶的遷移摩擦。

其次，在性能優化方面，全棧自研賦予了公司從芯片架構到核心算子的極致調優能力。由于擁有完整的算子庫、編譯器及硬件RTL仿真環境，公司可以在每一處細節進行調優，將硬件性能釋放到極致。例如，在FA算子調優過程中，公司成功將MFU（模型浮點運算利用率）從初始的13.26%提升至56.12%。在實測場景中，得益于深度軟件棧優化和高算力利用率，天數智芯的GPGPU在計算密集型的Prefill場景下表現優異。在LLaMA2 7B場景下，隨著Token數增加，其吞吐性能逐步超越A800；在DeepSeek R1 671B場景下，整體吞吐性能亦優于A800。

最后，在客戶定制方面，全棧自研賦予了公司應對下游客戶深度定制需求的靈活性。在與頭部客戶合作時，公司能夠按客戶業務場景進行底層調優，這在依賴第三方庫或受限開源代碼的廠商中較難實現。完整的自研經驗使研發團隊能夠深度理解從硬件利用率到軟件性能瓶頸的每一層環節，在特定場景響應能力（如PD分離、長上下文優化等）上形成較強工程化能力，截至2025年末，該軟件棧已累計完成超過450個AI模型的執行驗證，構建了強大的生態粘性。