AI代理繁榮標志大模型從“訓練”向“推理”演進。
我們正經歷 AI應用的三個階段。2023年5月 24 日微軟 Copilot 助手的出現標志著人工智能技術在辦公自動化進入新時代,也是生產力工具的新里程碑。大模型能力持續增強以及 RAG等技術的成熟,賦予了 AIAgent更接近人類的思維能力,AlAgent的能力得到了質的飛躍。Agent 在消費者和企業層面地位漸升,AI發展將迎來新階段--消費者和企業AIAgent時代。
(1)聊天機器人/Chatbot時代(2023-2024):這一階段主要以實驗和針對特定場景的應用為主,在應用層的突破性成果較少。除了 ChatGPT 和 MetaAl(兩者的月活躍用戶均超過2億)之外,幾乎沒有大規模的成功案例。不過,像 Gemini 和 Claude 等技術正在展現潛力。(2)消費者和企業 A1Agent時代(2025-2026):預計這一階段,AI將具備在有限人工干預下完成完整任務的能力,消費者 A1 助手和企業智能代理將成為主流。此外,語音交互和多模態AI技術也可能廣泛融入各種產品中,類似谷歌的NotebookLM 的突破性成功。
(3)AI員工和消費級機器人時代(2027-2028):到這一階段,數字員工和消費級機器人預計將全面參與到社會和企業的運作中。
AIAgent 技術的關鍵在于推理,Capex逐漸轉向經營性性質。傳統訓練任務的 Capex是研發型投入,而近期 OpenAI發布的 GPT-01所采用的推理模型,是被設計用來處理長時間的思考和多步驟的復雜任務,為用戶的決策提供支持,GPT-o1 在推理過程中的成本被描述為數百萬甚至數十億級別的提升,這預示著未來 AI Agent 廣泛滲透時,對于推理算力的需求將是指數級爆發增長,推理的 Capex的日常經營性質越發明顯。AlAgent推理和規劃的能力由LLM 來實現,推理和規劃賦能 Agent 學習能力,可以積累知識和經驗,并且 Agent 可以對過往的數據和動作進行反思總結,從錯誤中吸取經驗,并為接下來的行動進行糾正,從而適應環境、更有效地執行任務并成功達成目標。
AI Agent推理算力估算結論:根據巴克萊銀行報告,AI應用的推理計算需求將在2025年超越訓練需求,并可能在 2026年達到訓練需求的 4.5倍。若僅計算 AI Agent推理算力的話,消費者 AAgent產品對推理計算量貢獻高增量,預計 2026年消費者Agent產品僅7%的滲透率將占到消費者總計算需求的 42%。企業級 AI應用的推理計算需求爆增,但 AI Agent產品貢獻相對較小;2024年、2025年、2026年企業級 AI應用的推理算力需求增速分別達到50倍、15倍、2倍,而預計 2026年企業 Agent所需的推理計算量僅占行業推理總量的約1%。消費者 AI Agent推理算力估算過程:消費者 A Agent 產品對推理計算量貢獻高增量的原因在于,企業 AI往往服務于高度具體的任務場景,消費者 AIAgent 不僅可能需要某種基于“思維鏈”的推理模式,還可能需要比企業 A1 更廣泛的知識覆蓋范圍。消費者可能會在一次查詢中同時詢問Agent 天氣狀況、周末計劃以及完成餐廳預訂。這種廣泛的用例范圍可能需要參數量更大的模型
從而增加每次查詢的計算強度。根據巴克萊銀行報告,到 2026年,消費者 AI的日活躍用戶將達到 10 億,其中絕大多數運行在云端上。截至 2024 年第三季度,預估每天使用 AI產品的消費者不到 10億,其中最主要的兩款產品是 ChatGPT和 Meta Al。隨著消費者 AIAgent的逐步成型,預計到明年,月活躍用戶將突破10 億,并在 2026年實現日活躍用戶超 10 億。
假設 Agent 時代的到來可能顯著增加每位日活用戶的査詢量。目前,蘋果表示 Siri用戶平均每天查詢約 1.5 次,而谷歌用戶的平均日査詢量為3次。隨著 Agent的推廣,我們預計查詢量將翻倍,并最終在2026年達到每位日活用戶每天10次的水平。
企業級 AI Agent 推理算力估算過程:從 2025年開始,企業 AI將顯著轉向 AI Agent查詢。根據巴克萊銀行報告,目前微軟在全球(不包括中國)約有 12億個軟件應用許可證。在 2023-2024年,Copilots在企業領域的突破有限,主要集中在代碼編寫和呼叫中心助手上。2024年,企業和專業消費者用例中使用 Copilots 協作助手的數量將超過 2000 萬個(GitHub Copilot 是第一個成功案例,此外還有企業版本的 ChatGPT 和 Claude),預計到 2026 年這一數字將增長到 5000萬。我們假設每個使用 Copilots 協作助手的日活用戶每天進行約 10 次查詢,每次查詢約 300個標記。企業軟件中的 12 億個軟件應用許可證可以進一步細分為單個應用“任務”。比如,一個 Office 365的個人用戶許可證包括 Excel、PowerPoint、Word 等--我們估計有大約 70 億個“任務”可以由AIAgent執行,且這些任務在某些情況下可能比傳統企業軟件或甚至人類執行得更好。
企業服務 AI Agent旨在企業系統之上的新應用程序層(包括應用程序、記錄系統、數據倉庫以及非結構化文檔)進行訪問、解釋和處理內容,同時保證公司的安全和訪問策略。AIAgent企業服務助力數據服務、銷售服務等多板塊應用效率,需求前景廣闊。企業服務 Agent可確保業務線控制權掌握在特定崗位的員工手中,使其能夠靈活地適應不斷變化的需求,而無需持續依賴開發人員或 IT 部門。

例如,Salesforce 提供的 Agent 類應用程序(包括 Sales Cloud、Service Cloud、MarketingCloud、Commerce Cloud 和 Industries)被分解為精細操作,可使 Salesforce 的 Agentforce代理具有跨各種主題的豐富功能。Agentforce Agent可以通過多種方式組合和編排這些操作,從而在整個企業中為用戶提供無縫和統一的體驗。此外,開發人員可以通過由代碼、API、Salesforce 流或提示模板提供支持的自定義操作來擴展標準 Agentforce Agent 的功能。
中國 AI Agent 市場空間廣闊,B 端、C端大有可為。2023 年中國 AAgent 市場規模為 554億元,預計至 2028 年將達 8520 億元,其年均復合增長率為72.7%。AIAgent于 2023年被業內正式引入并重新定義,隨著人工智能技術的迅速發展,垂直領域的 AI Agent 正逐漸成為科技行業的新寵,垂直領域的 AI代理市場規模可能達到 SaaS 的十倍,創造超過 3000 億美元的獨角獸企業。AI Agent 市場規模包括 To C端和 To B端的應用價值:1)在 B端場景下,Al Agent 將對 SaaS應用進行全面重構,與傳統知識庫結構化管理模式相比,AIAgent的向量數據庫能自動學習和理解文檔,實現更加高效知識管理;2)在C端場景下,AIAgent作為生成式 AI的商業化應用,可以廣泛應用于電商、教育、旅游、酒店以及客服等行業,帶來傳統行業的升級轉型。
Agentforce 提供以下基本功能:訪問公司數據:操作為 Agent 提供客戶和企業數據的訪問權限。在允許任何 Agent 訪問數據時,Agent 不會向未經授權的用戶披露數據。Agentforce Agent 對數據的訪問由權限和共享模型控制。無論從何處訪問數據,相同的權限和共享模型都適用傳統應用程序或代理。
外部系統集成及自定義操作: Agent能夠執行操作并與外部系統集成。標準 Agentforce 操作內置可作用于銷售、服務、營銷、商業等行業。此外,開發人員可以使用代碼、API、流程和提示模板構建可作用于 Salesforce 或外部系統的自定義操作。
行業垂類應用:分行業具體來看,AIAgent垂直應用在多個領域都展現出了巨大的商業潛力和應用前景,包括電商、教育、智能客服等。
I.電商領域。1)個性化推薦系統:AlAgent能夠根據用戶的購物歷史、瀏覽行為和偏好,提供個性化的產品推薦,從而提高用戶滿意度和銷售額。2)智能客服與支持:通過自然語言處理和機器學習技術,AIAgent 可以自動回答用戶的咨詢處理訂單問題和退貨請求,提高客戶服務效率。3)語音助手與購物體驗:A1Agent集成到智能音箱和手機應用中,用戶通過語音命令進行購物,提升購物便捷性。4)內容生成與營銷:幫助企業生成吸引人的產品描述、營銷文案和社交媒體內容,提高營銷效果。5)庫存管理和需求預測:利用大數據分析和機器學習預測產品需求,優化庫存水平
II.教育領域。1)個性化學習平臺:根據學生的學習進度、興趣和能力提供個性化的學習資源和輔導。2)智能輔導和答疑:提供7*24的在線答疑服務,幫助學生解決學習中遇到的問題。3)自適應測評系統:自動批改作業和考試,提供即時反饋,生成個性化的學習報告和建議。
III.客服領域。1)自動化客戶服務:通過自然語言處理和機器學習技術,自動處理客戶咨詢,提高響應速度和準確性。2)多渠道集成:整合電話、郵件、社交媒體等多種溝通渠道,提供一致的服務體驗。