天數(shù)智芯全棧自研軟件棧如何實(shí)現(xiàn)對(duì)CUDA生態(tài)兼容及性能優(yōu)化？

天數(shù)智芯通過(guò)全棧自研的DeepSpark軟件棧及其核心中間件IXUCA，構(gòu)建了差異化的生態(tài)兼容性?xún)?yōu)勢(shì)。首先，在架構(gòu)層面，公司通過(guò)自研中間表示層將計(jì)算圖與底層指令集解耦，實(shí)現(xiàn)了對(duì)英偉達(dá)CUDA生態(tài)的“API級(jí)別兼容”。這意味著開(kāi)發(fā)者無(wú)需修改原有模型代碼即可完成編譯映射，實(shí)際遷移效率顯著提升，有效降低了客戶(hù)的遷移摩擦。

其次，在性能優(yōu)化方面，全棧自研賦予了公司從芯片架構(gòu)到核心算子的極致調(diào)優(yōu)能力。由于擁有完整的算子庫(kù)、編譯器及硬件RTL仿真環(huán)境，公司可以在每一處細(xì)節(jié)進(jìn)行調(diào)優(yōu)，將硬件性能釋放到極致。例如，在FA算子調(diào)優(yōu)過(guò)程中，公司成功將MFU（模型浮點(diǎn)運(yùn)算利用率）從初始的13.26%提升至56.12%。在實(shí)測(cè)場(chǎng)景中，得益于深度軟件棧優(yōu)化和高算力利用率，天數(shù)智芯的GPGPU在計(jì)算密集型的Prefill場(chǎng)景下表現(xiàn)優(yōu)異。在LLaMA2 7B場(chǎng)景下，隨著Token數(shù)增加，其吞吐性能逐步超越A800；在DeepSeek R1 671B場(chǎng)景下，整體吞吐性能亦優(yōu)于A800。

最后，在客戶(hù)定制方面，全棧自研賦予了公司應(yīng)對(duì)下游客戶(hù)深度定制需求的靈活性。在與頭部客戶(hù)合作時(shí)，公司能夠按客戶(hù)業(yè)務(wù)場(chǎng)景進(jìn)行底層調(diào)優(yōu)，這在依賴(lài)第三方庫(kù)或受限開(kāi)源代碼的廠商中較難實(shí)現(xiàn)。完整的自研經(jīng)驗(yàn)使研發(fā)團(tuán)隊(duì)能夠深度理解從硬件利用率到軟件性能瓶頸的每一層環(huán)節(jié)，在特定場(chǎng)景響應(yīng)能力（如PD分離、長(zhǎng)上下文優(yōu)化等）上形成較強(qiáng)工程化能力，截至2025年末，該軟件棧已累計(jì)完成超過(guò)450個(gè)AI模型的執(zhí)行驗(yàn)證，構(gòu)建了強(qiáng)大的生態(tài)粘性。