2024年AI選股模型特征篩選與處理：SHAP、中性化與另類特征

一、為什么需要特征工程？

在前期的研究報告中，我們使用了梯度提升樹（GBDT）和神經網絡（NN）兩大類模型構造 機器學習選股模型，并在 A 股各寬基指數成分股上均取得了不錯的預測效果。隨后，我們 對模型訓練中的各類細節問題展開了深入討論和充分的對比驗證，最終得出了針對量化選 股領域更優的訓練設置。然而，在與客戶交流的過程中，我們發現客戶普遍對以下問題感 到關心：各因子是否都有效，將所有因子輸入模型是否能夠得到最優的表現，以及因子本 身是否最適合作為模型的輸入。這一類模型輸入端因子處理的問題，正是機器學習領域特 征工程研究問題的一個子集。對特征進行篩選、加入新的另類特征以及對特征做一些精心 設計的預處理等特征工程方法，旨在提高模型對特征信息的利用率，增強模型的表現。

具體來說，進行特征工程的主要原因有如下幾個： 提升模型性能：在二級市場投資中，資產價格的變化往往受到多種因素的影響，包括 宏觀經濟指標、公司財務狀況、市場情緒等。這些因素之間可能存在非線性關系和交 互作用。通過特征工程，投資者可以構造新的特征，如經濟周期調整后的財務比率、 不同資產間的交互項等，從而捕捉這些復雜關系，提升預測資產價格走勢的模型性能。 降低模型復雜性：金融市場中常常需要處理高維數據，如多只股票的價格、多個經濟 指標等。高維數據不僅增加模型的計算復雜性，還可能導致過擬合問題。通過特征選 擇或降維技術（如主成分分析 PCA），可以篩選出最具信息量的特征，減少特征數量， 簡化模型。例如，在多因子模型中，選擇最具解釋力的幾個因子進行投資組合構建。 提高模型解釋性：特征工程通過將原始數據轉換為更具解釋性的特征，如使用財務比 率（如市盈率 PE、凈資產收益率 ROE）、技術指標（如移動平均線、相對強弱指數 RSI） 和交互特征，可以幫助投資者更直觀地理解模型的預測依據。這種轉換使得復雜的數 據關系以更易于解讀的形式呈現，揭示隱藏的市場模式和趨勢，從而提升模型的透明 度和可解釋性，有助于投資決策的合理性和交流的順暢。 在本報告中，我們將對 AI 選股模型中的輸入因子進行詳盡的特征工程分析，主要涵蓋三 個方面：一是因子的篩選，即如何有效地挑選適合的因子集以喂入模型；二是因子的處理， 主要涉及各類因子和標簽在輸入時的中性化操作；三是另類因子的加入，包括宏觀經濟數 據、BARRA 風格因子收益率及高頻因子等。在對各類改進方法與基準模型進行比較之后， 我們將有效的改進方法融合到成熟的 GBDT+NN 機器學習選股框架中，形成特征工程優化的 GBDT+NN 增強策略。相較于前期報告中的增強策略，該策略在表現上取得了一定的進步。

二、特征選擇方法介紹

直觀上，通過針對性地選擇因子，可以獲得不亞于全部因子輸入模型的結果，因為一個最 簡單的選擇策略就是將所有因子選出來。因此，對大量因子進行特征選擇再輸入模型不失 為改進量化選股模型的一條可行思路。我們將特征選擇方法分為三類：基礎統計方法、模 型解釋性方法（以 SHAP 為例）與深度學習模塊（以 STG 為例），分別進行介紹，并在下一 章進行效果的實驗檢驗。

2.1 基礎統計方法

去掉重復值高的特征：這種方法的主要思想是如果一個特征的值大部分都是重復的 （即變化很小或者沒有變化），那么這個特征對于模型的訓練可能幫助不大。這種情況 下，我們可以直接刪除這個特征。這種方法的主要優點是簡單易行。

去掉相關性低的變量：這種方法是基于特征與目標變量之間的相關性來選擇特征的。 如果一個特征與目標變量的相關性很低，那么這個特征可能對模型的預測幫助不大， 可以被刪除。

基于 IV 值的特征選擇：IV 值（Information Value）是衡量特征對目標變量預測能力 的一種指標。IV 值越大，說明這個特征對于目標變量的預測幫助越大。這種方法的優 點是可以量化特征的重要性，但是計算復雜度較高。

基于互信息特征選擇：互信息可以衡量兩個變量之間的依賴程度，如果特征與目標變 量的互信息值高，那么這個特征對于預測目標變量可能非常有用。這種方法的優點是 可以捕捉到特征與目標變量之間的非線性關系，但是計算復雜度較高。

基于卡方檢驗特征選擇：卡方檢驗主要用于測試特征與目標變量之間的獨立性。卡方 值越大，說明特征與目標變量越不獨立，這個特征可能對于預測目標變量非常有用適用于分類問題中。

基于樹模型的特征選擇：樹模型（如決策樹、隨機森林等）可以計算出每個特征的重 要性，然后根據特征的重要性來選擇特征。這種方法的優點是可以處理非線性關系， 而且計算效率高，但是可能會受到模型的影響，只適用于樹模型。

2.2 SHapley Additive exPlanations

SHapley Additive exPlanations（SHAP）于 2017 年 NIPS 大會提出，目前引用量已超過 2.3萬。SHAP是一種被廣泛使用的模型解釋方法，靈感來源于合作博弈論中的Shapley值。 SHAP 為每個特征賦予一個影響分數，該分數衡量了在預測一個具體樣本時，該特征對預 測結果的貢獻程度。SHAP 的計算過程如下： 1. 對于每個樣本，首先考慮所有可能的特征子集。例如，對于 3 個特征的樣本，可能的 子集包括空集、只包含特征 1 的集合、只包含特征 2 的集合、只包含特征 3 的集合，以及 包含特征 1 和 2、特征 1 和 3、特征 2 和 3、所有特征的集合。 2. 對于每個子集，計算在包含和不包含當前特征的情況下，模型預測的期望值之差。這 個差值衡量了當前特征的存在對模型預測結果的影響。 3. 對所有的子集進行平均，得到當前特征的 SHAP 值。這個值表示了當前特征對模型預測 結果的平均貢獻。

SHAP 具有良好的解釋性，能夠量化特征的重要性，并且對任何模型都適用,因此可以用來 做模型的事后歸因，并進行特征的選擇。但是，計算 SHAP 值的過程通常需要大量的計算 資源，尤其是在特征數量較多的情況下。

2.3 STochastic Gates（STG）

Feature Selection using STochastic Gates（STG）于 2020 年 ICML 大會上由耶魯大學 研究人員提出，為了解決在神經網絡估計問題中的特征選擇問題。 線性估計中的特征選擇問題已經被廣泛研究（比如 LASSO），但是在非線性函數的特征選 擇上卻沒有那么多的研究。而在許多實際問題中，模型往往是非線性的，因此需要一種能 夠在非線性環境下進行特征選擇的方法。在神經網絡中進行特征選擇，可以提高模型的解 釋性，減少過擬合，以及降低計算復雜度。 STG 方法使用了一種基于 L-0 范數的正則化方法進行特征選擇。L-0 范數是用于衡量一個 向量中非零元素的數量，直接優化 0 范數是一個 NP 難問題。STG 方法使用了一種連續的 伯努利分布來近似 0 范數，使得模型可以通過梯度下降來學習特征選擇的參數。為此，STG 方法提出了一種新的特征選擇機制，即隨機門（stochastic gate）。每個特征都分配了一 個隨機門，該門的激活概率是可學習的。訓練過程中，隨機門根據其激活概率隨機地對其 對應的特征進行采樣。這種機制允許模型在訓練過程中自動選擇重要的特征。

三、特征選擇方法效果

關于因子選擇，我們基于表現良好的 Alpha158 因子庫進行篩選。在模型選擇上，鑒于梯 度提升決策樹（GBDT）模型在訓練過程中具有自主進行特征選擇的能力，因此本報告僅考 慮神經網絡（NN）模型，并以在我們之前的報告中穩定表現的門控循環單元（GRU）模型 作為代表。在選股范圍的設定上，為了讓實驗結果更具普遍性和代表性，我們選擇在全 A 股市場范圍內進行訓練和選股。同時，我們也考慮到市場風格會隨著時間的推移而發生變 化，因此所有的實驗都基于年度滾動的方式進行特征的選擇和模型的訓練。此外，為了確 保結果的穩定性和可靠性，所有的訓練結果都是基于 5 個不同隨機種子進行訓練的結果的 平均值。這樣可以有效地消除隨機種子選擇對實驗結果可能產生的影響，從而使得實驗結 果更具有信服力。所有的訓練標簽都是未來 20 個交易日的收益率。

3.1 基礎統計方法

我們選擇了三種基礎的統計方法進行因子篩選測試，分別是基于 Spearman 相關性、互信 息和 LightGBM 模型的重要性進行篩選。具體而言，每次滾動訓練時，我們首先基于訓練 集和驗證集的數據與標簽，計算各個因子的日度 Spearman 相關性和互信息值。為了提高 穩定性和可靠性，我們會求取這些值的平均值。然后，我們選出得分最高的 64 個因子， 作為后續步驟的輸入。對于 LightGBM 方法，我們使用訓練集和驗證集進行模型訓練。訓 練完成后，利用 LightGBM 模型自帶的 feature_importance 接口來評估各個因子的貢獻 度，從而選出 64 個最重要的因子。最終篩選出的因子將作為輸入，應用于下一步的 GRU （門控循環單元）模型訓練。 值得一提的是，除了這三種原始方法，為了防止選擇出的 64 個因子內部之間相關性過高， 我們還考慮了最大邊際相關性采樣方法。最大邊際相關性（Maximal Marginal Relevance， MMR）是一種用于推薦系統中的重排序方法，旨在平衡結果的相關性和多樣性。傳統的推 薦系統通常僅關注推薦結果的相關性，即推薦的內容與用戶興趣的匹配程度。然而，僅關 注相關性可能導致推薦結果的冗余，即推薦結果中的多個項目非常相似，從而降低用戶體 驗。MMR 通過引入多樣性度量來解決這一問題。在推薦結果的重排序過程中，MMR 方法會 選擇那些不僅與用戶興趣高度相關，而且與已選結果具有一定差異性的項目。具體來說， MMR 在每一步選擇下一個推薦項目時，會計算該項目對用戶興趣的相關性減去其與已選項 目的相似性，從而最大化邊際相關性。MMR 的公式通常表示為：

MMR( ) = λ ⋅ Rel( ) − (1 − λ) ⋅ max ∈ Sim ( , )，

其中：Rel( )表示項目與用戶興趣的相關性，Sim( , )表示項目與已選項目之間 的相似性，是已選項目的集合，λ是一個平衡參數，用于調整相關性和多樣性之間的權重。 通過這種方式，MMR 方法能夠生成既符合用戶興趣又具有多樣性的推薦結果，從而提升用 戶體驗和滿意度。 因此我們試圖測試在因子選擇的場景下，MMR 是否有效。對于 Spearman 相關性方式，MMR 中Rel( )與Sim( , )分別為因子和收益率標簽與其它因子 Spearman 相關性的絕對值， λ設置為 0.5；而對于互信息方法，Rel( )為因子與收益率標簽之間互信息大小，Sim( , ) 為因子之間 Spearman 相關性的絕對值，λ設置為 0.2（考慮到前后兩項之間的量綱關系）。 基于 Spearman 相關性、互信息和 LightGBM 模型重要性三種方式，疊加 MMR 插件，共有六 種方式。

總體來看，Spearman 相關度（無 MMR）在特征篩選方面表現最佳，尤其在多空策略的表現 上，顯著優于其他幾種方法。然而，從分位數組合的年化超額收益來看，互信息（無 MMR） 的篩選效果也相當出色。LightGBM 重要度篩選的主要優勢體現在較好的風險控制與較小 的多空最大回撤。在基礎統計方法上，MMR 插件并未顯示出顯著的優勢。

3.2 SHAP 方法

對于 SHAP 方法，我們在每次滾動訓練時，首先使用 Alpha158 因子集來訓練 LightGBM 和 GRU 兩個模型。接著，我們分別利用 SHAP 庫中的樹解釋器（TreeExplainer）和梯度解釋 器（GradientExplainer）對這兩個模型進行可解釋性分析，得到 158 個因子的 SHAP 值。 SHAP 值表示每個樣本中每個因子對最終結果的貢獻度（可以是正值或負值）。因此，我們 將貢獻度絕對值的均值作為衡量因子重要性的指標。對于 GRU 模型，需要對時序數據取一 個平均值，以確保因子重要性測量的準確性。由于 SHAP 方法的計算時間較長，我們會隨 機采樣 10^5 個樣本進行分析。經過驗證，隨著抽樣樣本數量的增加，篩選出的因子集逐 漸趨于穩定，其與全量樣本進行 SHAP 分析的誤差在可接受范圍內。得到的重要性值將用于后續的因子選擇。

總體而言，這幾種方法的表現較為接近，但在某些方面各有優勢。具體來說，LightGBM 在 IC 統計量上表現更為出色，顯示出其在因子預測能力上的優勢。然而，GRU 模型在多頭策 略上的表現更為優異，展現出其在捕捉上漲機會方面的潛力。在多空策略的表現上， LightGBM 的超額收益更高，表明其在平衡多頭和空頭策略方面具有較強的優勢。不過，需 要注意的是，LightGBM 的回撤稍大一些，這意味著雖然其收益較高，但伴隨的風險也相對 較大。總體來看，MMR 插件在這些方法中的表現依舊不盡如人意，未能展現出明顯的優勢 或改進效果。這表明，在當前的模型和數據環境下，MMR 插件的應用效果有限，尚需進一 步優化和改進才能發揮其潛力。 此外，SHAP 工具包提供了豐富的可視化工具，使我們能夠直觀地觀察各個因子在模型預 測中的作用。這些可視化工具不僅幫助我們理解模型的決策過程，還能為進一步優化模型 提供有價值的參考。可以看到，利用 SHAP 的可視化模塊，我們可以直觀地看到單一樣本、 部分樣本、全體樣本中各個因子的貢獻值。

3.3 STG 方法與整體比較

由于 STG 方法是引入一個深度學習模塊自行選擇合適的因子，不能引入 MMR 模塊，因此我 們將它與之前的兩個特征選擇方法在一起比較。在比較之前，我們先可視化一下 STG 的特 征選擇效果。取第一次滾動時，STG 的特征選擇層輸出的門控信息，按照從大到小順序排 列，可以看到選擇了 44 個因子，剩余的因子對應的門控信號均為 0。，因此 STG 方法可以 有效地選擇部分特征。

我們將 STG 與 Spearman、互信息、SHAP 對 LightGBM 和 GRU 做解釋與不做特征選擇的 GRU 基準方法，在全 A 股上比較表現。特征選擇方法均不考慮 MMR。

可以看到，基于 SHAP 解釋 LightGBM 得到的模型的 IC 統計量表現最好，而在多頭超額與 多空表現上，基于 SHAP 解釋 GRU 得到的模型表現最優。因此，SHAP 解釋方法在篩選因子 上有著較好的表現。從多空凈值曲線來看，大多數特征選擇方法的表現均超過了基準 GRU模型。相比之下，STG 方法的表現則顯得相對平庸。因此，特征選擇方法不僅能夠直觀地 降低訓練成本，增強模型的可解釋性，同時還有助于提升原有模型的整體表現。

3.4 滾動訓練的必要性討論

考慮到市場風格的變化，我們在利用各種方法進行因子篩選時，采取年度滾動的方式，最 終取得了較好的表現。因此，我們在此做一個討論，也就是觀察一下每年度選取的因子差 異性大小，進而從一個側面討論滾動訓練是否是有必要的。我們以整體表現最優的 SHAPGRU 為例，我們將每一次滾動選擇的因子按 SHAP 值從左往右降序排列，然后觀察每次滾 動選擇的因子是否出現在了上一次的選擇中，如果有則標為紅色，如果沒有則標為綠色。 由此，我們發現大部分分值最高的因子變化較少，排名在 32 名到 64 名的因子變化較快。 近年來，變化有向分值較高因子遷移的趨勢，可能表征著風格切換的加劇。總體來說，滾 動訓練是有必要性的。

四、因子與標簽中性化效果

為了確保單因子測試能夠準確反映因子本身的收益貢獻，必須在測試過程中盡量排除或減 少其他可能影響收益的因子（如市值和行業），因為這些因子可能會干擾測試結果。為此， 我們采用了一種方法，即在測試中剔除市值和行業因子，以實現所謂的“行業市值中性化”。 通過這種方法，我們可以更清晰地觀察到被研究因子的純凈收益（Pure Alpha），而不是 其他因素的混合效應。

可以看出，對于 GRU 模型，中性化處理對整體表現影響不大，甚至有一定程度的負面影響。 而對于 LightGBM 模型，標簽中性化處理后與基準合成得到的因子，其 IC、多頭超額收益 和多空 Sharpe 比率的表現均有顯著提升。這兩種模型表現差異的原因可能在于，對于 GRU 模型，其輸入數據本身缺乏基本面信息，標簽中性化后，模型更是缺少了這一關鍵信息， 導致表現不佳。因此，對于 GBDT 類模型，我們可以考慮在將因子輸入模型之前進行標簽 的中性化處理，以確保模型能夠充分利用基本面信息，從而提升整體表現。

五、加入另類因子的效果

5.1 宏觀指標等截面不變的因子

考慮到量價因子和基本面因子在機器學習選股模型中已經非常擁擠，同時為了更好地捕捉 市場趨勢和有效管理風險，我們決定引入一些適用于全市場且相對穩定的數據作為模型的 因子。這些數據包括宏觀經濟數據、Barra 因子收益率以及時間截面上同一因子的均值。 宏觀經濟數據能夠反映整體經濟環境的變化，如 GDP 增長率、通貨膨脹率、利率和失業率 等，這些因素對公司的盈利能力和市場表現有著深遠的影響。Barra 因子收益率則提供了 市場上不同風險因子的收益率，如市場風險、行業風險和風格風險等，幫助我們捕捉多種 風險因子的影響。此外，時間截面上同一因子的均值可以幫助我們理解因子的長期趨勢和 穩定性。我們希望這些另類因子的引入可以提高模型的全面性和準確性，增強模型在不同 市場環境下的穩定性和魯棒性，從而更好地捕捉市場趨勢。

對于 GRU 方法，我們首先將 Alpha158 與三類另類因子分別合并得到三個因子庫，接著利 用之前特征選擇中表現較好的 Spearman 方法分別進行特征篩選，結果發現另類因子幾乎 都沒有被篩選出來。因此我們認為對于 GRU 方法，另類因子可能缺乏影響力。而對于 LightGBM 方法，其天然地具有特征選擇的能力，因此我們將 Alpha158、基本面因子和三 類另類因子分別組合，訓練得到三個 LightGBM 選股模型。

可以看到，另類因子在 IC 表現上并未產生貢獻，但在多頭超額收益和多空表現方面，加 入宏觀因子后均超越了基準。因此，引入宏觀經濟數據，可以在一定程度上幫助模型學習 市場走向，從而獲得超額收益。總體而言，另類因子對模型表現缺乏顯著的正向作用，這 需要進一步研究。

5.2 分鐘頻量價數據計算的高頻因子

以上討論的因子主要基于日頻量價數據或低頻的基本面數據構建，而分鐘級別的高頻數據 同樣在量化研究中備受關注。本章節將初步探討利用高頻數據構建因子對時序選股模型的 影響。對于每一個交易日的分鐘頻 OHLCV 數據，我們將每日交易時間三等分，與整日的數 據一起，計算四組日頻的基礎因子共 212 個。

由于高頻因子種類繁多，我們根據之前對特征選擇方法的分析，選用了表現較好的 SHAPLightGBM 方法進行特征篩選，最終挑選出 64 個因子用于訓練。具體操作是先用 212 個高 頻因子訓練一個可靠的 LightGBM 模型，然后對該模型進行 SHAP 分析，再將 SHAP 值較高 的 64 個因子選出，作為 GRU 模型的輸入。考慮到市場普遍認為高頻因子的表現與市值密 切相關，我們在不同的寬基指數上對高頻因子進行了分析。經過計算，模型得到的高頻因 子與日頻因子在滬深 300、中證 500、中證 1000 上的相關系數分別為 0.35、0.42、0.47， 相關性均不強，因此我們同時考慮日頻因子和高頻因子的合成（需注意，此處表格中的中 性化是指在得到最終因子值之后進行的中性化處理，與上文中作為輸入的標簽中性化無 關）。

可以看出，在滬深 300 這類大盤成分股中，高頻因子的表現相對較差，各項指標均不如日 頻因子。即使將高頻因子與日頻因子合成后，整體表現也會受到拖累。

在中證 500 這類中小盤股上，高頻因子的表現有所改善，但仍未能超越日頻因子。合成后 的因子總體表現與日頻因子相當。

在中證 1000 這類小微盤成分股上，高頻因子的表現相當出色，不僅在 IC 均值上超越了日 頻因子，且合成后的 IC 均值達到了 15.74%。此外，合成后的因子在多空組合凈值和分組 效果上也表現優異。因此，初步應用高頻因子在小微盤股上顯示出較高的有效性，而在大 中盤股上的應用方法仍需進一步探索。

六、特征工程優化的 GBDT+NN 指數增強策略

基于前述對機器學習模型特征選擇、另類因子引入以及因子和標簽中性化的測試結果，我 們整合了所有有效結論，重新訓練模型并在滬深 300、中證 500 和中證 1000 這三種寬基 指數上進行測試。具體來說，對于神經網絡類模型 TCN、GRU 和 Transformer，我們采用了 通過對 LightGBM 的 SHAP 解釋方法篩選出 Alpha158 因子中的 64 個特征；而對于 GBDT 類 模型 XGBoost、LightGBM 和 CatBoost，我們則結合了 Alpha158 因子和基本面因子，并分 別使用進行了和未進行行業市值中性化的預測標簽進行訓練，進一步在單個模型內部進行 合成。最終，我們合成得到了神經網絡類模型（NN）、梯度提升樹類模型（GBDT）以及結 合了 GBDT 和 NN 特性的混合模型（GBDT+NN）。

6.1 因子測試結果

每個模型均采用 5 個隨機種子取其均值作為最終結果，并為確保可交易性，將因子值向后 推一天。回測時間段為 2015 年 2 月 1 日至 2024 年 5 月 31 日，調倉頻率為每月月初進行。 具體來說，

從結果可以看出，經過特征選擇和標簽中性化改進后 GBDT+NN 模型展現出優異的選股表 現。在進行行業和市值中性化處理后，模型的 IC 均值分別達到了 11.91%，多頭策略下年 化超額收益率高達 22.92%，而超額回撤則控制在 6.56%。相較原始 GBDT+NN 模型，這些指 標表現出明顯的提升，顯示出特征工程優化的優越性。

可以看出，在中證 500 指數上，因子表現同樣出色。兩類模型合成后的因子 IC 均值達到 11.58%，多頭策略的年化超額收益為 12.34%，而多頭策略的最大超額回撤為 10.14%。盡 管這一表現相比于滬深 300 指數的收益水平和穩定性稍有下降，但整體仍然保持了較高的 表現和相對穩健的回撤控制能力，顯示出在中證 500 環境下的良好適應性。

在中證 1000 成分股中，因子的表現尤為出色。兩類模型合成后的因子 IC 均值高達 16.62%， 即便在進行行業市值中性化處理后，因子 IC 均值仍保持在 15.42%的高水平。在多頭策略 方面，年化超額收益率達到令人矚目的 25.39%，經過中性化調整后，因子收益率更是進一 步提升至 25.42%。此外，多頭策略的最大超額回撤僅為 4.42%，展現出卓越的風險控制能 力。這些數據表明，在中證 1000 指數環境中，因子不僅具備強大的收益潛力，同時也能 有效控制回撤風險，表現極為優異。

編輯：火腿腸