作者：SrinivasGumparthi博士，VenkataVaraPrasad博士
来源：SSRN
发布：2022.08.31
摘要
目的：股票价格预测一直作为一门研究课题，因为它在国家宏观经济中具有重要的作用。很难用一组特定的公式写下股票的未来价值。当我们预测一只股票的未来价格时，许多因素都会出现。其中最重要的是历史价格和成交量数据。
方法：随着机器学习的兴起，人们提出了多种预测股票价格的方法。目前，已开发了RNN、LSTM、CNN滑动窗口等各种模型，但都不够精确。这项工作的兴趣在于预测股票的价格，以及比较使用两种算法，即KalmamFilters和XGBoost，并获得结果。KalmamFilters本质上是递归的，并使用反馈机制进行误差校正。这种修正能让他们做出准确的预测，因为它们可以将市场波动考虑在内，而XGBoost对于非线性数据集来说是一种很有前途的技术，可以通过检测数据中的模式和关系来收集知识。此外，XGBoost还能有效地捕获特征的时间依赖性。
新颖性：最后，结合KalmamFilters和XGBoost开发了一个Hybrid模型，给出了未来投资和股票预测所需的完美预测。与KalmamFilters和Hybrid模型相比，XGBoost的平均准确率更高。
研究结果：混合模型似乎能准确地预测样本的未来趋势，但并不是对所有样本都能做到这一点。XGBoost模型对NSE数据集的平均准确率为88.66%，对NYSE数据集的平均准确率为90.11%。KalmamFilter模型对NSE数据集的平均准确率为89.09，对NYSE数据集的平均准确率为64.96。该Hybrid模型对NSE数据集的平均准确率为76.79%，对NYSE数据集的平均准确率为70.91%。然而，对于个股，Hybrid模型表现优于XGBoost和KalmamFilter。
关键字：XGBoost，KalmanFilter，Hybrid模型，NSE，NYSE，市场情绪
1.介绍
如今，股票市场已成为大家的一个重要投资领域，很多普通人也对股票投资很感兴趣。受环境、和其他社会因素的影响，股票市场价格波动很大。因此，有必要对股票价格预测进行广泛分析。早期的统计模型和机器学习模型用于股票价格的预测。但考虑到历史数据，数据量越来越大，这些模型在股票价格预测方面的准确性逐渐下降。因此，在当前的工作中，作者提出了一种结合统计和机器学习模型的混合模型。利用Kalmanfilter和XGBoost的优点来提高预测准确度。
很多研究人员使用各种统计和机器学习模型来解决这个问题。很少有人研究这些模型的组合，也很少有人给出印度股市带来的显著结果。Chatziset等人的研究旨在利用机器学习技术预测股市危机事件。该方法是基于寻找股票市场崩盘事件在不同时间框架的概率。考察了股票、债券和货币市场之间的交叉传染效应。使用模型预测日收益，利用对数收益的平方计算日波动率。XGBoost在1天和20天内都有最佳的经验表现。
家乐福利用IBM区块链技术追踪鸡肉和蔬菜供应:跨国零售公司家乐福将采用IBM食品溯源区块链技术，追溯从农场到商店的食品供应线。在中东地区经营家乐福的MajidAlFuttaim公司已与IBM达成协议，将首先利用IBM食品安全区块链解决方案(IBM Food Trust)来追踪两个类别的食物: 鸡肉和蔬菜。[2021/2/27 17:58:39]
Sen等人使用具有反向传播算法的ANN作为训练阶段，并使用多层前馈网络作为预测股票价格的网络模型。研究了一种基于ANN的股票交易决策支持系统。本文还讨论了基于决策过程的神经网络的研究进展。该模型随输入值和时期的不同组合而变化。它输出性能曲线、误差曲线和输出图形。验证效果良好，回归值为0.996。
Dey等人将各种深度学习算法与XGBoost进行比较，以预测Yahoo数据集的股票市场回报。预测周期分别为28天、60天和90天。已经计算了每一项的准确性、预测性、召回率和特异性。绘制每个模型的假阳性率。
Karyaet等人在论文中，采用集合卡尔曼滤波平方根法和集合卡尔曼滤波法对股票价格进行预测。模拟结果表明，EnKF方法的估计结果比EnKF-SR方法更精确，即EnKF方法的估计误差约为0.2%，而EnKF-SR方法的估计误差为2.6%，。
Mortezaet等人的项目，试图在NSE上使用机器学习技术来预测股票的未来价格，他们使用线性回归和SVM回归。线性回归将使用股票前一天的收盘价来预测股票第二天的开盘价。SVM回归将用于预测第二天股票的收盘价和开盘价之间的差值。外汇汇率、NSE指数、移动平均线、相对强弱指数等外部因素，被用来获得最大的准确性。
DevShah等人在论文中，讨论了股票市场分析的技术和基本方法。在技术分析中详细讨论了统计、机器学习、模式识别、情感分析和混合技术，还考虑了算法交易。作者总结说，包含混合和统计的机器学习技术，将产生更好的结果。人工神经网络是人工智能的一部分，是一种识别数据中隐藏的、未知的、适合股票市场预测模式的常用方法。所选股票的历史数据用于建立和训练模型。
Song等人在论文中，将RNN-LSTM模型与SVM和XGBoost进行了比较。数据集是通过应用Python库从GoogleFinance的API中获得的。选择了20家在NASDAQ和NYSE交易的公司。考虑了RSI、ADX和抛物线SAR等指标。通过绘制测试集误差图来比较结果。
Wanjawaet等人的研究，提出使用具有多层感知器的前馈人工神经网络，通过反向传播来预测股票价格。该模型分4个阶段进行迭代。数据集来自内罗毕证券交易所和NYSE。通过改变隐藏层和感知的数量进行调优。每个调优实验都基于前一个实验模型进行的。最终模型的配置比为5:21:21:1，使用80%的可用数据进行训练。采用均方根误差作为参数，将获得的结果与原始结果进行比较。结果表明，该模型对股票价格的预测具有较好的效果。
徐等人进行了比较文献调查，证明ANN比SVM预测更准确。使用反向传播训练若干个前馈ANN。该评估是在NASDAQ证券交易所进行的，采用了6个月的数据集。模型的输入是短期历史股票价格和每周的天数。通过对每个隐藏层中神经元数目和设置不同的值，来优化神经网络的结构。
声音 | 深圳市政协常委：支持金融机构利用区块链技术实现数据管理和共享:据南方都市报报道，在深圳市政协六届五次会议大会发言上，深圳市政协常委、民革深圳市委会副主委、福田区副区长何杰表示，要利用好“金融+科技”(金融科技)这一引擎，支持金融机构利用大数据、云计算、人工智能以及区块链等技术，实现数据集中管理和共享，鼓励国内外大型金融机构在深设立科技研发中心(公司)，促进深港澳三地就区块链等技术标准与管理规范搭建、互认进行合作与探索。[2019/1/18]
郑红英等人提出了一种新的深度学习模型-随机长短期记忆，旨在防止过拟合。该模型由Modaugnet-C框架和另一个用于预测的LSTM模块组成，Modaugnet-C框架通过一个LSTM模块和另一个LSTM模块来增强单个LSTM模块的潜力，其中一个LSTM模块可以使用额外的增强数据来降低过拟合的风险，这些数据与用于预测的股票数据有很强的相关性。这在SSEC和S&P500数据集上进行了测试，该模型在准确性上优于其他模型。
WidodoBudiharto提出了一个模型，该模型结合了LSTM和基于R语言的统计计算，用于预测Covid-19大流行期间印度尼西亚交易所的股票。该模型在预测不到一年的短期数据时表现良好，准确率达94.5%，超过了长期数据的预测。
SalvatoreM.Cartaet等人使用机器学习方法，借助决策树的二元分类技术来衡量未来股票价格波动的幅度。这些词汇是从全球发表的文章、行业相关新闻等中识别和生成的。这些数据将与提取的特征一起输入到预测模型。这在S&P500指数公司进行了测试，但准确率只有50-60%。
Milad等人比较了人工神经网络和启发式算法与传统的时间序列模型来预测股票价格。这些模型用于各种国际指数，如Nasdaq指数、S&P500指数和DJI指数。与时间序列模型比较，ANN模型的误差最小，预测效果更好。
Zelingheret等人测试使用各种机器学习模型来预测玉米价格的波动。他们考虑了线性模型，分类和回归树，随机森林，梯度聚类。这些方法基于均方根误差、漏一交叉验证等，证明对玉米价格预测有效。
Chetan等人使用多种机器学习算法进行了比较研究，并结合情绪分析来预测Covid-19大流行期间的股票价格，因为这个时期社交媒体存在大量情绪。在所考虑的模型中，逻辑回归模型表现最好，而KNN模型的准确性最低。
2.设计和方法
预测模型的架构图。首先清理从NSE获得的数据集，以检查空值，并获取从YahooFinance收集的市场情绪数据。然后对其进行预处理，以获得各种其他特征，例如调整后的闭合因子、闭合偏移、开启偏移、开启差、闭合差、高差和低差等。输入正在清理的库存数据。然后将该数据发送到三个模型中的每一个。在第一个模型——KalmanFilter，数据在每次迭代时都要经过预测和更新步骤。在预测步骤中，根据在前一时间步骤K-1更新的特征计算下一时间步骤K的收盘价。在更新步骤中，与前一时间步骤的预测相对应的特征被更新。在XGBoost中，数据集经历两个阶段——拟合和预测。在拟合阶段，该模型递归地构建各种决策树，将范围缩小到损失函数值最小的决策树。在预测阶段，使用此决策树进行下一步的预测。对于Hybrid模型，我们首先运行XGBoost算法来执行特征选择。这些特征输入到KalmanFilter，预测股票的收盘价。然后，我们执行输出分析以比较模型的结果。
金色晨讯 | 伊朗正利用加密货币躲避制裁 火币全球完成对桐成控股剩余股份收购:1.FinCEN：伊朗正利用加密货币等方式躲避金融制裁。
2.Ripple或将与SWIFT建立合作关系。
3.火币全球及桐成控股联合发布最后两笔股份完成收购公告。
4.Unit研究小组发现加密劫持软件藏于虚假Adobe Flash中。
5.海南工信厅副厅长：正计划建设“数字经济”与“数字海南”。
6.肖磊：全球股市大跌 包括比特币在内的各类资产都会遭到抛售。
7.工商银行利用区块链等技术提升精准扶贫水平。
8.东港股份与北京交通管理局合作搭建“区块链+机动车号牌”模式。
9.长沙市通过《关于加快区块链产业发展的实施意见》。[2018/10/12]
图1体系结构图
2.1KalmanFilter
在统计学中，KalmanFiltering是一种算法，使用一系列测量数据，包含随时间推移观察到的统计噪声和不准确性。该算法对未知变量的估计往往比仅基于单一特征的估计更准确。它估计每个时间段变量的联合概率分布。KalmanFilter是以RudolfE.Kalman名字命名的，他是该理论的主要开发者之一。
Xk=Fk*Xk+BkUk+Wk
Fk是应用于先前状态Xk-1的状态转换模型，
Bk是应用于控制向量Uk的控制输入模型，
Wk是假定从零均值多元正态分布中提取的过程噪声。
2.2XGBoost
XGBoost是一种以开源方式实现的高效且流行的梯度增强树算法。梯度提升是一种监督学习算法。XGBoost试图通过组合一组更简单、更弱的模型的估计值来准确预测目标变量。
XGBoost是一种集成学习方法。集成学习提供了一种系统的解决方案，结合了多个学习者的预测能力。结果是一个单一的模型，它来自多个模型的聚合输出。形成集成的基本学习者，可以来自相同的学习算法或不同的学习算法。广泛使用的集成学习者是Bagging和Boosting。XGBoost最主要的用途是决策树，其次是统计模型。
当使用梯度提升进行回归时，每个回归树都将一个数据点映射到它的一个连续叶子上，且弱学习者是回归树。XGBoost最小化了一个正则化目标函数，该目标函数结合了凸损失函数和模型复杂性的惩罚项。训练迭代地进行，添加新树来预测先前树的残差，然后将这些树与先前树组合起来，以进行最终的预测。被称之为梯度提升，是因为它使用梯度下降算法来最小化添加新模型时的损失。
3.数据集及其实现
3.1数据集
该数据集包含来自纽约证券交易所和国家证券交易所的10个脚本的股票价值。股票的名称及其符号如下表1所示。
表1：显示了所考虑的数据集
宝马利用区块链技术净化原料并杜绝童工:汽车制造商宝马与伦敦一家初创公司合作，利用区块链来证明电动汽车的电池中含有纯净的钴，并以此试图消除雇佣童工开采资源。钴是汽车行业关注的焦点，全球约三分之二的供应来自刚果民主共和国，约五分之一的钴是在无监管的手工采矿中开采的。该项目与手工采矿者合作，利用区块链来避免他们使用童工。[2018/3/6]
HDFCBANK数据的样本如表2所示。它由开盘价、收盘价、最高价、最低价、交易量、调整后收盘价、每股收益、市盈率等列组成。我们既考虑了股票的基本面，也考虑了市场情绪，这有助于我们更好地预测。
表2：来自NSE的HDFC银行数据集
我们使用皮尔逊相关矩阵发现了每一对特征之间的数据相关性。如图2所示。数据关联有助于理解数据集中多个变量和属性之间的关系。使用相关性，我们可以获得一些见解，例如一个或多个属性依赖于另一个属性，或另一个属性的原因，以及一个或多个属性与其他属性相关联。
图2数据集中特征的相关性
对数据集进行预处理以获得其他特征，例如调整因子、调整闭合位移、开放位移、高差、低差、开放差和关闭差等特征。预处理后的数据集如表3所示。
表3：预处理的HDFC数据集
调整后的收盘价和开盘价有助于将前一天调整后的收盘价和开盘价与第二天调整后的收盘价和开盘价相关联。开盘价、最高价、最低价和收盘价分别乘以调整因子，使其与调整后的收盘价相对应。
PankajKumar博士的研究结果表明，每股收益是所选公司股票市场价格的可靠预测指标，市盈率对股票市场价格的预测有显著影响。因此，从整体上看，每股收益是A股市场价格表现的主要反映指标。
3.2KalmanFilter
3.2.1初始化
卡尔曼滤波器类被定义为数据成员F、H、Q、R和P初始化为单位矩阵和X-平均或预测状态估计。
3.2.2预测
该步骤必须预测系统的均值X和协方差P。当给定卡尔曼对象作为输入时，函数predict执行预测。
3.2.3更新
该步骤计算给定待更新的特征Z及其标准偏差R系统的均值X和协方差p。函数更新执行X，y的更新，S，K，P。矩阵乘法利用向量的点积。
对于每个时间步长K，执行预测和更新步骤以获得预测值。该预测数组由必须进行预测的日期相对应的收盘价组成。这些值取决于参数，如打开、高、低、调整关闭、调整关闭位移、开放位移、EPS、PE比率等。在这一步之后，我们必须通过对照地面实况来计算预测中的误差。对于此计算，我们使用绝对百分比误差的平均值，其计算公式为：error=*100/]*100）。预测图是在考虑的整个时期内绘制的。为此，我们使用Python中可用的matplotlib包。
数百万名Android智能手机使用者被利用挖掘‘门罗币’:防病服务公司Malwarebytes12日在其博客上表示有数百万名使用安卓智能手机用户的手机被感染恶意软件进行采矿。黑客们利用大多数的智能手机用户不使用其移动设备上的网页过滤或安全软件的漏洞，进行挖掘门罗币（XMR）。[2018/2/13]
3.3XGBoost
下面将详细讨论所涉及的算法和XGBOOST算法的实现细节。该实现是在Anaconda框架下使用Python完成的。
3.3.1Bagging
尽管决策树是最容易解释的模型之一，但决策树表现出高度可变的行为。考虑将被随机分成两部分的单个训练数据集。每个部分将训练一个决策树以获得两个模型。当这两个模型都符合时，它们将产生不同的结果。由于这种行为，决策树被认为与高方差有关联。Bagging或Boosting聚合有助于减少任何学习者的差异。并行创建的几个决策树构成了Bagging技术的基础学习者。用替换后的样本数据对这些学习者进行训练。最终的预测输出是所有学习者的平均输出。
3.3.2Boosting
在Boosting中，所有的树都是按顺序构建的，这样每个后续的树都会减少前一棵树的错误。每棵树从它的前项中学习并更新错误。因此，所有后续的树将从错误的更新版本中学习。偏差很高的基础学习者是弱学习者，预测能力只比偶然猜测强一点点。每一个弱学习者都为预测提供了重要信息，从而通过组合这些弱学习者来产生一个强学习者。最后一个和最后的强学习者具有较低的偏差和方差。
与随机森林等Bagging技术形成鲜明对比的是，XGBoost中的Boosting模型利用了分裂次数较少的树。这样的小树是高度可解释的，因为树的深度非常小。迭代次数或树的数量、梯度提升的学习率和树的深度等参数，可以通过k-fold交叉验证等验证技术进行优化选择。过拟合是由于树太多造成的。因此，有必要谨慎选择助推的停止标准。
3.4HybridModel
HybridModel是统计模型，Kalmanfilter和机器学习模型XGBoost的组合。Hybrid模型有助于正确预测股票价值，提高各种数据集的准确性和一致性。当利益变量不能直接测量时，Kalmanfilters可以最优地估计感兴趣的变量，间接测量是可用的。对于这种间接测量，可以使用14个参数。通过特征提取，XGBoost算法在14个参数中根据权值取前5个参数。前5个参数因股票而异。将这5个参数输入Kalmanfilter，对未来股票价值进行预测，并提取输出。
通过在测试集中输入no，对以下每个模型进行测试，测试集包含400天的库存数据，预测必须在几天后进行。所有的模型都用两个不同的数据集进行了测试——一个由价格变动组成，另一个由价格变动和市场情绪组成。价格变动包括开盘价、最高价、最低价、收盘价、成交量、股息率、成交量等数据。市场情绪是指投资者对某一特定证券的整体心理。这是普通大众的感觉，通过证券交易的价格变动表现出来。极高的市盈率表示给定股票的价格很高，随时可能下跌。在这种情况下，可以说股票超买了。低市盈率表明对公司的业绩和未来缺乏信心。每股收益是指公司持有的每股股票的收益。它是衡量公司盈利能力的指标。通常优选较高的EPS。
3.4.1Kalmanfilter
下图描述了该模型在考虑市场情绪前后的HDFC银行数据集预测。我们可以看到，该模型在后一种情况下表现得更好。如图3所示，仅考虑价格变动，我们的准确率仅为88%。但如图4所示，考虑市场情绪后，我们的准确率为91.75%。准确率大大提高。
图3不考虑市场情绪的HDFC预测
图4考虑市场情绪的HDFC预测
该模型还针对18个可用数据集中的其余数据集进行了测试，这些数据集总结在下表4中。
表4不同数据集的Kalmanfilter模型准确性
从上述结果中我们可以看出，该模型对NSE的各种数据集的表现是一致的，并且可以依赖该模型做出更好的预测，但对于NYSE，准确率并不一致且不高。
3.4.2XGBoost
XGBoost模型是为国家证券交易所的HDFC银行数据集和纽约证券交易所的JPMorgan数据集开发的。这些模型是在有市场情绪和没有市场情绪的情况下训练的。不同于KalmanFilters在加入市场情绪后会产生准确率和误差率的显著变化，XGBoost中的准确率和误差率保持不变。因此，在进一步的训练中考虑了市场情绪。在为数据建立模型后，JPMorgan
和HDFC银行的测试数据的准确率分别为91%和88%。
图5考虑市场情绪的HDFC数据集的准确性
图6考虑市场情绪的JPM数据集的准确性
图5和图6分别显示了测试HDFCBank和JPMorganandChase数据集时获得的准确性和误差。
图7训练HDFC数据集时增强回归树的权重
图8训练JPM数据集时增强回归树的权重
图7和图8显示了在训练模型时获得的增强回归树的权重，然后用于进一步预测训练集。
该模型还针对18个可用数据集中的其余数据集进行了测试，这些数据集总结在下表5中。
表5XGBoost模型在不同数据集上的准确性
3.4.3Hybrid模型
两个不同公司股票的模型结果，如下所示。
图9XGBoost为HDFC数据集发现的功能重要性
图10XGBoost为JPM数据集找到的功能重要性
从上面通过实现XGBoost算法获得的图9和图10中，我们可以找到预测时在增强回归树中起最重要作用的特征。我们只考虑上述步骤中的前5个特征，并将这些特征提供给KalmanFilter模型，以进行最终的股票价值预测。
图11Hybrid模型对HDFC数据集的预测
图12Hybrid模型对JPM数据集的预测
该模型在不同的数据集上表现一致。图11和图12显示，对于两个数据集，该模型的准确度优于其他两个单独模型所获得的准确度。
该模型还针对18个可用数据集中的其余数据集进行了测试，这些数据集总结在下表6中。
表6不同数据集的混合模型准确度
4.结论
股票市场预测分析是在20个样本上进行的，其中10个属于国家证券交易所，另外10个属于纽约证券交易所。平均而言，10年期间的股票价值由每个样本2300行组成。所考虑的时间区间为2006年-2016年和2010年-2020年。XGBoost模型与用于分析的20个样本是一致。XGBoost模型对NSE数据集的平均准确率为88.66，对NYSE数据集的平均准确率为90.11。尽管KalmanFilter统计模型产生了令人印象深刻的结果，但模型的准确性并不一致。KalmanFilter模型对NSE数据集的平均准确率为89.09，对NYSE数据集的平均准确率为64.96。混合模型似乎可以很准确地预测脚本的未来趋势，但它不能对所有样本都这样做。Hybrid模型对NSE数据集的平均准确率为76.79，对NYSE数据集的平均准确率为70.91。将每个季度的市场情绪添加到所有样本中，似乎可以提高三个模型的准确性。当数据集由更高价值的股票数据组成时，混合模型似乎优于其他两个模型。
5.未来
论文中描述的三个模型都给出了良好的准确度和一致的结果。但Hybrid模型在股票价值的未来预测方面是最好的，它预测了市场的高点和低点，并提高了效率。作为项目的未来工作，我们可以考虑一组样本来进行样本选择。然后，我们可以在这些样本上执行投资组合管理，其中模型返回所需的投资、可接受的风险和手头的投资金额。
6.参考文献：
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。