商品量化專題報(bào)告：如何利用Transformer~based模型對價(jià)格進(jìn)行“天氣預(yù)報(bào)”.pdf

商品量化專題報(bào)告：如何利用Transformer~based模型對價(jià)格進(jìn)行“天氣預(yù)報(bào)”。在上一篇報(bào)告中，介紹了如何利用 RNN 系列算法對價(jià)格進(jìn)行單元單步預(yù)測，本文圍繞 多元長序列預(yù)測展開，嘗試實(shí)現(xiàn)類似于天氣預(yù)報(bào)的預(yù)測效果。RNN 系列算法具有較強(qiáng)長期 依賴性不適用于長序列預(yù)測，因此本文選擇具有超強(qiáng)信息提取能力的 Transformer 模型為 落腳點(diǎn)展開討論。然而由于 Transformer 模型存在過高計(jì)算復(fù)雜度這一瓶頸，因此本文從 近兩年頂會論文中挑選出三個基于 Transformer 的改良模型(Informer、Autoformer 和 FEDformer)分別進(jìn)行了介紹和測試對比。

為測試模型的有效性和泛化能力，本文在 CU、IF 和 T 三個期貨品種的主力合約上進(jìn) 行了測試。在測試中分別利用過去 20/40/60 個交易日的交易數(shù)據(jù)(開盤價(jià)、最低價(jià)、最高 價(jià)、成交量和收盤價(jià))對三個合約接下來 5/10/20/40/60 個交易日的收盤價(jià)進(jìn)行預(yù)測。經(jīng) 預(yù)測發(fā)現(xiàn)，F(xiàn)EDformer 模型的預(yù)測結(jié)果幾乎在所有情況中都是最優(yōu)的，MSE 和 MAE 最低達(dá) 到 0.028 和 0.129，價(jià)格時(shí)序信噪比較低，利用傅里葉變換將價(jià)格從時(shí)域轉(zhuǎn)換到頻域進(jìn)行 預(yù)測不僅能更好地捕捉全局信息，還能過濾掉信號中的噪音。同時(shí)，使用小波增強(qiáng)模塊能 捕捉到頻率出現(xiàn)的時(shí)間信息，再次加強(qiáng) FEDformer 模型對短序列的預(yù)測能力。

此外，我們還發(fā)現(xiàn)在輸入信息和輸出信息較短的情況下，過高計(jì)算復(fù)雜度對 Transformer 模型的負(fù)面影響并不大，在很多測試中，Transformer 的預(yù)測精度甚至高于 Autoformer 和 Informer 模型，但在穩(wěn)定性和普適性上還是遜于 FEDformer 模型。