分类
本报告针对传统Transformer选股模型在极端市场适应性差的问题,提出通过MASTER模型引入市场状态特征进行自动特征选择,结合深度风险模型刻画市场偏好,并采用加权MSE与元增量学习优化训练,显著提升了模型的选股能力与稳健性。
关键结论
最终改进模型RankIC达10.7%,年化多头超额收益34%;在沪深300、中证500、中证1000内构建指增组合,年化超额收益分别为21.1%、24.1%、29.3%,信息比率分别达1.8、2.0、2.0。
核心要点
- 传统Transformer模型过度依赖风格暴露且无法识别市场突变,导致超额收益在市场快速上涨时回撤明显。
- 引入MASTER模型,利用宽基指数量价特征代表市场状态,通过门控机制自动调整特征权重,并结合股票间与时序注意力捕捉动态相关性。
- 构建深度学习风险模型(GRU+GAT)提取10个隐风险因子,利用近期涨幅最高股票的隐风险因子均值刻画市场偏好风格,生成120个新特征。
- 在训练流程中采用加权MSE损失函数放大多头端误差,并引入元增量学习(MAML)快速适应近期市场规律。
核心内容
报告针对传统Transformer模型在市场突变时适应性差的问题进行了系统性改进。首先,采用MASTER模型架构,将宽基指数的量价特征作为市场状态输入,通过门控机制对股票特征进行动态加权选择。其次,构建基于GRU和GAT的深度学习风险模型,输出10个隐风险因子,并取每日涨幅前10%股票的隐风险因子均值刻画市场偏好风格,构建120个深度市场状态特征。最后,将加权MSE损失函数应用于多头端误差放大,并引入元增量学习框架实现模型的在线定期更新。
经济逻辑
市场的牛熊周期背后驱动逻辑不同,导致市场偏好的风格不断切换。传统深度学习模型由于结构固定,无法在风格突变时自动调整特征权重。通过将宏观宽基指数量价和微观层面上涨最好股票的隐风险特征作为市场状态向量输入模型门控,模型能够自适应地捕捉当前市场偏好并调整特征重要性。此外,增量元学习使模型能快速纳入最新数据分布,克服了静态模型滞后于市场资金面突变的缺陷。
超额收益逻辑
超额收益来源于模型对市场状态突变的自适应能力。通过引入宏观宽基量价状态和微观上涨股票的隐风险特征,模型门控能够动态识别市场偏好并调整股票特征权重,避免了传统模型在风格切换时的滞后反应。此外,元增量学习使模型能够快速吸收近期数据分布变化,加权MSE增强了模型对上涨股票的预测精度,从而在市场快速上涨或下跌等极端环境中维持稳定的超额收益。
构造细节 [model]
1. 市场状态门控模块:输入183维市场状态(63维宽基+120维深度风险),通过全连接层经beta缩放后进入激活函数,乘以d_model得到特征权重,对原始60维特征加权。2. MASTER主干:(1)自注意力编码器:MHA + FFN(2层全连接+激活+残差)对单只股票特征序列编码;(2)股票间注意力:通过前馈网络残差连接,将股票v局部细节传递到股票u,建模瞬时股票间相关性;(3)全局时序注意力:使用最新时间嵌入z作为Query,计算时间轴上注意力分数λ,总结时间维度信息。3. 深度风险模型(DRM):下支为GRU网络学习时序信息,上支为GAT(隐式图)+GRU网络学习横截面变换,两支分别经全连接输出K/2个因子,合并为10个隐风险因子。
股票双周频未来收益预测值
2013年起训练,6年窗口滚动;使用加权MSE作为损失函数放大多头端误差(yhat>0.5时权重更大,gamma取5~10);采用在线元增量学习框架定期更新,包含数据适应器(调整训练数据分布适应增量变化)与模型适应器(MAML训练基模型初始化参数以便快速学习)。
指数增强组合优化:控制市值行业暴露,最大化MASTER因子暴露,限制个股偏离为基准权重的30%-300%。
绩效
通过MASTER模型、深度学习风险模型及元增量学习改进传统Transformer。最终模型RankIC达10.7%,年化多头超额收益34%。在沪深300、中证500、中证1000内构建指数增强组合,年化超额收益分别为21.1%、24.1%、29.3%,信息比率分别达1.8、2.0、2.0。
收益归因 ✓ 已完成
报告分析了模型在市值、估值、流动性、波动率等风格上的暴露情况,指出传统模型对风格暴露依赖较高且多头超额收益与市场走势呈负相关。通过深度学习风险模型提取10个隐风险因子,利用近期上涨最好股票的深度学习隐风格构建120个新特征以刻画市场状态偏好。
稳健性
改进后的模型通过市场状态门控与元增量学习,大幅降低了因子收益与大盘绝对收益的负相关性,减少了市场快速上涨时的回撤,显著提升了模型在极端市场环境下的稳健性。
数据依赖
数据获取难度中等,但复现难度极高。模型架构极为复杂,涉及MASTER模型的自定义注意力机制、深度学习风险模型(GRU+GAT)、元增量学习框架(MAML+数据适应器)的联合训练与在线更新,工程实现门槛极高。
相关研究
新颖性评估 [新组合]
本报告的新颖性在于将多种前沿深度学习技术进行了精巧的组合改进:将宽基指数量价与深度学习提取的隐风险因子结合刻画市场状态,输入MASTER门控进行自动特征选择;并引入元增量学习与加权MSE优化训练流程。属于在已有论文基础上的应用创新与工程改良。
不足与缺陷
- 模型架构和训练流程极为复杂,涉及GRU、GAT、多类注意力机制及元增量学习,计算开销大,工程实现和调试成本极高。
- 在2024年初中证1000指增策略依然出现9%的较大回撤,说明在面对极端流动性冲击或微盘股剧烈风格切换时,模型自适应能力仍存局限。
- 虽然文中提及风格暴露惩罚,但具体在损失函数中的实现公式与权重并未详细披露,组合优化的细节也稍显简略。
可复用元素
- 利用市场状态向量(量价+深度风险特征)通过门控机制进行特征自动选择的思路。
- 取近期涨幅最高10%股票的隐含风险因子均值刻画市场当前偏好风格的方法。
- 加权MSE损失函数设计(通过Sigmoid后的yhat>0.5时放大权重)提升多头预测精度。
- 数据适应器(多重线性变换)与模型适应器(MAML)结合的元增量学习在线更新流程。
启发
- 市场状态不仅可以由历史量价表示,还可以通过涨跌幅前列股票的隐特征(如行业、财务特征、资金流特征)动态聚合而成。
- 特征选择不应是静态的因子挖掘,而可以嵌入模型内部,随市场状态变化进行动态权重分配。
- 损失函数的设计直接决定了模型的预测倾向,加权MSE是提升多头表现的有效且低成本手段。
改进方向
引入高频资金流与外生宏观情绪作为多频域市场状态门控
复现计划
1. 准备数据:获取2013年以来A股日频量价数据(7指标+53因子)、宽基指数(沪深300/500/1000)量价、Barra风格因子。2. 构建深度风险模型:实现GRU+GAT网络提取10个隐风险因子,以多期R2为损失训练。3. 构建市场状态特征:计算宽基63维特征;取每日涨幅前10%股票隐风险因子均值,按4窗口x3方式构建120维特征。4. 搭建MASTER架构:实现门控模块(183维输入生成60维权重)及自注意力、股票间注意力、时序注意力模块。5. 训练流程:2013-2018年训练,采用加权MSE(gamma=8),验证集调参。6. 在线更新:实现数据适应器与MAML模型适应器,按年或更短周期进行元增量学习。7. 回测:在全A及宽基指数内分10组双周频回测,并构建限制个股权重偏离30%-300%的指增组合验证IR。
实体
LOCAL SIMILARITY
相似报告
方法:深度学习、组合优化 · 研究类型:技术面(量价)、AI·机器学习 · 频率:日频 · 资产:A股、指数增强
对比详情方法:深度学习、组合优化 · 研究类型:AI·机器学习 · 频率:日频 · 资产:A股、指数增强
对比详情方法:深度学习、组合优化 · 研究类型:技术面(量价)、AI·机器学习 · 频率:日频 · 资产:A股、指数增强
对比详情