從云計算看AI投資的ROI：企業(yè)上云具備性價比，云業(yè)務(wù)具備較高回報率.pdf

從云計算看AI投資的ROI：企業(yè)上云具備性價比，云業(yè)務(wù)具備較高回報率。小型企業(yè)及高成長性企業(yè)云化驅(qū)動力較強，云上部署相較于私有化部署具備更高性價比。私有化部 署即自建數(shù)據(jù)中心，云上部署則采用云服務(wù)提供商的配套服務(wù)。1）部署考慮因素：在AI時代下， GPU的供需缺口是導(dǎo)致眾多企業(yè)難以進行私有化部署的關(guān)鍵，當(dāng)前，眾多中小企業(yè)和初創(chuàng)公司難以 獲得高性能芯片以自建算力集群；且云上部署相較于自建IDC，開通效率更高。從長期來看，企業(yè)自 建IDC的情況下，業(yè)務(wù)曲線和資源曲線之間容易產(chǎn)生短缺和浪費，云上部署則可以根據(jù)業(yè)務(wù)情況靈活 增減，實現(xiàn)資源按需付費，成本更加可控。2）企業(yè)部署畫像：根據(jù)HG Insights數(shù)據(jù)，初創(chuàng)企業(yè)和 小微企業(yè)多數(shù)選擇上云為主，而大型企業(yè)和中型企業(yè)在上云的同時，還會選擇自建數(shù)據(jù)中心。且當(dāng) 業(yè)務(wù)具備較高成長性時，企業(yè)可以選擇分階段、增量式上云。3）部署成本測算：基于AI時代下模型 預(yù)訓(xùn)練的算力需求，我們對企業(yè)是否選擇云上部署進行成本探討，根據(jù)測算，在各種模型規(guī)模下， 私有化部署成本遠高于云上預(yù)訓(xùn)練成本。

云服務(wù)商加大投入力度，云業(yè)務(wù)具備較高回報率。1）云服務(wù)商投入力度：亞馬遜/微軟/谷歌/甲骨文 等大廠方面，資本開支持續(xù)增加，云計算基礎(chǔ)設(shè)施加速布局；CoreWeave、Lambda等初創(chuàng)企業(yè)方 面，近年來積極融資，以尋求更多算力資源。2）CPU IaaS與GPU IaaS對比：Semianalysis數(shù)據(jù)表 明，GPU數(shù)據(jù)中心總擁有成本顯著提升，在英偉達DGX H100服務(wù)器中，GPU成本中占比約7成，而 內(nèi)存和存儲成本占比相較于CPU服務(wù)器顯著下降；此外，在CPU IaaS時代，云計算通過虛擬化和容 器等技術(shù)可實現(xiàn)資源的超賣，而在GPU IaaS時代，服務(wù)器在模型訓(xùn)練時通常處于滿額利用狀態(tài)，優(yōu) 化MFU成為提升可用算力的有效手段之一。3）投資回報：根據(jù)各廠商官網(wǎng)數(shù)據(jù)，H100的租賃價格 從2$/h~13$/h不等，其中云服務(wù)大廠的算力租賃價格較為穩(wěn)定。假設(shè)數(shù)據(jù)中心算力使用率為80%、 且推出五折優(yōu)惠，則云廠商每小時對應(yīng)的實際收益為H100租賃價格的40%。若租賃價格為10$/h、 對應(yīng)實際收入為4$/h，扣除成本0.88$/h，利潤率則可達78%，回本周期僅需1年。