大語言模型在金融領域中的應用情況如何？

利用大模型的能力的前提是接入大模型。

1. 大語言模型的官方 API 調用與本地部署

為了構建定制化的 AI 應用，ChatBot 這樣的交互方式在與其他模塊進 行集成的場景下就顯得捉襟見肘。本文主要探討通過 API 交互的方式。當 前國內以 DeepSeek 為代表的大模型性能表現不俗，成本相比于 OpenAI 等國外廠商也具有一定優勢，在大模型選型的時候主要考慮國內的大模型。其中 DeepSeek-R1 為 DeepSeek 開發的 模型，Qwen 的開發廠商為阿里巴巴，Step 為階躍星辰，GLM 為智譜， Ernie 為 百 度 ， Hunyuan 為 騰 訊 ， DeepSeek-R1-distill-qwen-32b 為 DeepSeek 利用 Qwen 模型蒸餾得到的模型。總體來看，O3-mini-high 得 分最高，然后是 O1，其次是 DeepSeek-R1 以及 Qwen-Max-32k。

使用官方 API 方便簡單在日常研究中可以比較好的滿足需求，但是在 涉及到數據隱私安全和定制化的需求（后期訓練和微調）的時候，本地部 署開源的大模型可能是更好的選擇。開源的大模型中相對主流的有 DeepSeek 系列、阿里的 Qwen 系列、Meta 的 Llama 系列等。 在本地部署大模型已經有比較成熟的工具可用，當前主流的本地模型 部署框架主要是 vLLM 和 Ollama，兩個框架都有一定的優缺點。

本節分析了當前國內主流模型與 OpenAI 主流模型在 LiveBench 測試 中的表現和 API 價格對比，總體來看 Deepseek-R1 以較低的價格達到接近 openai-o1 的能力水平，在日常工作中是一個比較好的選擇。同時，在對 API 穩定性、數據安全和模型后續可微調有要求的場景下，本地部署大模 型是更好的選擇。 本文利用 Ollama 框架在本地環境中部署了 Deepseek-R1 利用開源 qwen 模型蒸餾的版本，包括 1.5b 到 32b 的模型。在簡單測試中發現，模 型主要依賴顯存運行，更大的 GPU 顯存是支持部署更大模型的主要條件之 一。同時本文發現 7b 及以下的模型可能存在比較明顯的指令理解問題，在 投研工作中，14b 以上的模型可能是更佳的選擇。

2. 大模型在投研場景中的應用

在投研場景下大模型與人的協同也遵循 AI 應用的主流范式，主要包括 三類： 1) Embedding 模式，人類作為決策者和指揮者，例如報告撰寫中人通過 prompt 模板來進行自動化的圖表生成，AI 作為工具執行人的命令。 2) Copilot 模式，人類與 AI 作為合作者，例如程序代碼的自動生成、錯誤 檢查和性能優化，在 這一模式下 AI 的知識與人的知識形成互補，共同 完成工作目標。 3) Agent 模式，人類為 AI 設定工作目標并提供必要資源（計算能力、相 關數據等）并監督和評估 AI 的工作結果，AI 通過拆解目標，規劃過程， 選擇工具，完成大部分的工作。投研 Agent 系統可能是未來大模型在 投研場景中應用的主要范式之一。

當前大模型已經具備參與投研工作流的各個環節的能力，在本章節中 本文將結合當下的相關實踐來探討 AI 大模型的在投研工作中應用方式。

2.1. 面向金融領域的大模型

面向金融領域的大模型相比于通用模型的特點是在金融領域的特定任 務上的關注度更高，對于金融知識、金融文本理解、投研應用等領域的能 力有特化的要求。

通用模型在特定領域的表現可能不佳，在行業分析層面也表 現不佳。為了改進大模型在金融細分領域的能力。通常有兩類方法：

1) 利用大規模金融數據集和金融行業的垂直任務重新訓練模型，例 如 Bloomberg 利用自身的數據優勢，通過構建世界上最大的特定 領域數據集之一來訓練一個金融行業大模型 BloombergGPT。 Bloomberg 宣傳在當年（2023 年）的內部和外部金融任務基準測 試中都大幅擊敗了所對比的通用模型。

2) 利用通用模型+微調的方式構建金融大模型，例如 AI4Finance 社 區通過開源驅動的 FinGPT9。與 BloombergGPT 類似 ，FinGPT 的訓練也是以數據為中心，區別在于 FinGPT 主要通過公開的金融 數據來進行訓練。通過清洗、校驗等預處理后得到訓練用的金融語 料，然后利用這些語料微調預訓練的開源大模型（包括 Llama、 Falcon、MPT 等）而不是重新訓練一個大模型。

從 FinGPT 技術文檔中可以得知，FinGPT 使用了 LoRA（Low-Rank Adaptation）技術來微調開源的大模型（FinGPT v3.3 利用 llama2-13b 微 調）。LoRA 的基本原理是在需要訓練的模型層上增加一個 LoRA 旁路并凍 結原始模型層的參數來降低訓練開銷。

LoRA 相當于對原始的參數矩陣 W 做了低秩分解，r 為 LoRA 的秩，這 樣大大降低了需要訓練的參數使得使用很少的硬件資源來對大模型進行微 調成為可能。此外 FinGPT 還使用了基于股票價格的強化學習技術 （RLSP），這一技術通過將新聞輿情與相關股票的后續表現聯系起來進一 步改進模型的表現。

相比于重新訓練一個大模型，LoRA 這種參數高效的微調方法極大地降 低了訓練一個金融領域大模型的成本。FinGPT 表示在單次訓練成本少于 30 美元且僅使用單卡 的情況下 便在公開金融任務測試中超過了 BloombergGPT，GPT-4 等模型的表現。

通用的大模型由于預訓練階段主要在大規模的通用任務語料上進行訓 練，在投研關注的領域/任務中的表現不一定能夠達到預期。為了訓練得到 面向特定金融場景的大模型，一種方式收集大量的金融語料重新訓練一個 垂直領域的大模型，例如 BloombergGPT；另一種方式是利用現有的通用 的大模型結合 LoRA 等參數高效的訓練方式結合金融語料進行微調。 在經過預訓練+針對性微調之后大模型在金融場景下任務（例如股票、 行業分析）的表現通常能夠有比較明顯的提升，從而能夠更好地完成投研 工作任務。

2.2. 思維鏈與檢索增強

在上一節中，本文介紹了訓練面向金融場景大模型的主流方法，這些 大模型在面向特定的金融任務，例如金融文本的情感分析、財報摘要總結 等能取得相比于通用大模型比更好的表現。但所有大模型都有其知識局限 性即訓練的語料。 面對不斷變化的金融市場，預訓練大模型的知識無法及時更新，其應 用也會受到限制；另一方面，在涉及嚴謹的數學推理和事實描述的時候， 大模型中普遍存在的幻覺現象又會使得模型輸出不可靠。為了解決大模型 的這些局限性，思路鏈和檢索增強技術是其中的關鍵。 大模型的幻覺一般是指模型的輸出與事實不符（事實性幻覺）或者與 用戶指令或輸入提供的上下文的出現分歧（忠實性幻覺）。Huang L et al. 2023 在其論文中比較詳細地研究了大模型幻覺出現的原因。

此外，除了可以利用添加簡單的“一步步思考”的 prompt 這種讓模型 自己進行思路鏈生成的方式，也可以自定義 prompt 模板實現 Few ShotCoT。例如在分析股票財報的時候，通過在 prompt 中加入逐步分析資產負 債表、利潤表、現金流量表的思維鏈模板來引導大模型進行財報總結的方 式能夠獲得更好的效果。 思路鏈技術顯著改善了大模型在推理任務中的表現，提高了模型輸出 的準確性。但由于模型訓練完后內在知識存在邊界，模型在面對未在訓練 集中出現的知識時則會無能為力甚至強行編造結果。因此擴大大模型的知 識邊界是進一步提高大模型輸出準確性的關鍵。于是便出現了檢索增強生 成技術（Retrieval-Augmented Generation，RAG）。

Gao Y et al. 2023 對 RAG 技術作了詳細的梳理，根據文中的梳理，實 現 RAG 的典型流程主要包括： 1) 知識庫構建與預處理，通過專用文檔加載器從 PDF/Word/Excel 等 多格式數據源中提取文本，對原始數據進行清洗與結構化處理（去 除特殊字符、實體解析等）。使用分塊策略將長文本切分為相互重 疊的合適大小的語義塊。 2) 向量化處理與索引構建，使用 BGE10等詞嵌入模型將文本轉化為 語義向量并存儲到向量數據庫，存儲時同步記錄文檔來源、時間等 元數據 3) 混合增強檢索，結合傳統檢索與向量語義檢索，通過 Rerank 模型 （如 Cohere 的 Rerank-1 模型）對 TOP 結果進行相關性重排序。 4) 上下文增強，通過思維鏈（CoT）重構用戶指令，為 LLM 補充領 域知識和必要的上下文。 5) 生成優化控制，通過 prompt 模板和輸出格式限制，生成符合預期 格式的內容。

2.3. 基于 LLM 的 AI Agent 系統

在上述章節中本文介紹了通過思維鏈（CoT）和檢索增強生成（RAG） 技術可以使得大模型獲得金融領域的最新知識以及更嚴謹的思維過程，從 而最終給出高質量投資策略的過程。在這一過程中，大模型可以看作了一 個智能體（Agent），接受外部的信息并產生符合預期的輸出。 如果給予 LLM 更多模態的輸入（圖像、音頻等）以及使用其他工具的 能力，LLM 作為 AI Agent 自主規劃完成更多的工作。例如 Auto-GPT11的 出現證明了 LLM 作為自動化 Agent 的巨大潛力。Xi Z et al. 2023 梳理了 AI Agent 從概念背景到結構模型以及未來應用前景。