基于Pytorch的LSTM模型对股价的分析与预测

计算机技术与发展第31卷摇第1期摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇Vol.31摇No.12021年1月Jan.摇2021COMPUTERTECHNOLOGYANDDEVELOPMENT基于Pytorch的LSTM模型对股价的分析与预测张康林1,叶春明1,李钊慧1,王锦文22.南昌大学公共管理学院,江西南昌330000)摘摇要:股价预测一直都是股票投资者重点关注和重点研究的方向,针对股价具有高度非线性、高噪声、动态性等问题,提出一种基于自组织特征映射(SOM)神经网络和长短期记忆网络(LSTM)共同应用的股价预测方法。第一步聚类,使用python语言实现改进的自组织特征映射神经网络算法,将187支股票分成三类,三类股票以盈利能力大小进行聚类,并且求出每一类所包含的股票代码;第二步预测,基于Pytorch深度学习框架构造长短期记忆网络模型,分别对每一类中随机的3支股票进行股价预测,再通过均方误差和决定系数对预测结果进行评价。结果表明,在使用相同的预测模型对不同盈利能力的股票做股价预测时,盈利能力越大的股票,预测精度越高。此研究可以为投资者筛选出盈利能力更大的股票,并且在提高股价预测精度上也具有一定的贡献。关键词:Pytorch;自组织特征映射;长短期记忆网络;股票价格;聚类;预测中图分类号:TP183摇摇摇摇摇摇文献标识码:A摇摇摇摇摇摇摇文章编号:1673-629X(2021)01-0161-07doi:10.3969/.1673-629X.2021.01.029(1.上海理工大学管理学院,上海200093;AnalysisandForecastofStockPriceBasedonLSTMModelofPytorch(essSchoolofUniversityofShanghaiforScienceandTechnology,Shanghai200093,China;AdministrationSchoolofNanchangUniversity,Nanchang330000,China)ZHANGKang-lin1,YEChun-ming1,LIZhao-hui1,WANGJin-wen2Abstract:Stockpricepredattheproblemsofhighlynonlinear,highnoiseanddynamicofstockprices,anewstockpricepredictionmethodbasedonself-organizingfeaturemap(SOM)neuralnetworkandlong-shorttermmemory(LSTM)ststepisclustering,withpythontoimplemeeetypesofstocksareclusteredaccordingtotheirprofitability,ondstepofpredictionistoconstructalong-termandshort-termmemorynetworkmodelbasedonthePytorchdeeplearningframework,topredictthestockpriceofthreerandomstocksineachclass,andthentoevaluatetheprediultsshowthatwhenusingthesamepredictionmodeltomakestockpricepredictionsforstockswithdifferentprofitability,searchcanscreenoutstockswithgreaterprofitabilityforinvestors,ds:Pytorch;self-organizingmap;long-shorttermmemory;shareprice;cluster;prediction0摇引摇言股票市场发展至今已有400多年历史,股票投资者随着金融市场发展的越来越成熟也变得越来越多,而股价的预测一直都是股票投资者关注的问题。文献[1]说明了由于股票价格具有高噪声、动态、非线性和但随着大数据时代的到来和人工智能技术的发展,准确预测股票价格已经慢慢变为了可能。收稿日期:2020-02-11摇摇摇摇摇摇修回日期:2020-06-12目前,越来越多的学者采用人工智能技术来实现股价的预测,从传统的人工神经网络模型到深度学习模型,再到现在的多种模型相互结合进行预测,这些技术一直都在被改进并且被广泛使用。许兴军[2]使用反向传播神经网络(backward-propagationnetwork,BPN)模型对浦发银行近一年交易日的股票数据进行了预测;韩山杰等人[3]采用多层感知机(multi-layerperceptron,MLP)模型预测了苹果公司每日的股票收非参数等特性,想要准确预测股价仍具有很大的挑战。基金项目:国家自然科学基金资助项目(71840003);上海理工大学科技发展资助项目(2018KJFZ043)作者简介:张康林(1995-),男,通信作者,硕士研究生,研究方向为人工智能、机器学习;叶春明,教授,博导,研究方向为人工智能、工业工程。

摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇计算机技术与发展摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇第31卷·摇16摇2·盘价;Ticknor等人[4]将日市场价格和财务指标作为输入,利用前馈神经网络模型对微软公司和高盛集团未来一天的收盘价进行了预测。但是由于人工神经网络在对股价进行预测时,存在很多问题,比如:模型优化过程中,存在梯度消失和梯度爆炸问题,导致模型无法优化;容易出现局部极值问题;过拟合现象的发生导致模型在对测试集进行预测时,其预测精度变小。为了解决上述问题,针对深度学习的研究也是越来越多。Graves等人[5]说明了LSTM模型可以解决梯度消失和梯度爆炸问题,Polson等人[6]探讨了深度学习技术在金融市场研究中不仅可以解决过拟合问题,还能提高样本的拟合程度。同时,国内外学者也利用深度学习技术对股价预测进行研究。Hoseinzade等人[7]提出了一个基于CNN的框架,并对标普500指数、纳斯达克指数、道琼斯指数、纽约证交所指数和罗素指数次日的走势进行了预测,结果表明,预测性能比基线算法更高;Zahra等人[8]通过递归神经网络(RNN)对卡萨布兰卡证券交易所29天的maroc股票价格进行预测;宋刚等人[9]使用基于自适应粒子群优化的LSTM模型分别对沪市、深市、港股股票数据进行了股价预测,具有更高适用性。通过上述分析,少有研究将聚类算法和深度学习技术进行结合来应用于金融预测,相关研究如文献[10],框架进行建模分析并且大多数研究使用的是。因此,该文使用TensorflowSOM算法对深度学习187只不同业绩的股票进行聚类和基于Pytorch的LSTM模型对三类中的共9只股票进行股价预测,主要贡献有:(1)使用Pytorch深度学习框架进行深度学习模型的构建,相对于被广泛使用的Tensorflow,Pytorch更加简洁直观;(2)使用了同一LSTM神经网络结构对9只股票进行股价预测,证明了LSTM神经网络在股价预测上有着很好的泛化能力;(3)针对不同业绩的股票进行分类预测,证明了LSTM模型对业绩优良的股票预测精度更高。1摇1.1摇SOMSOM神经网络原理及改进神经网络原理神经网络由芬兰学者1981年,自组织映射Kohonen(self[11]-organizing提出,该聚类算法由map,SOM)于可以实现自学习,网络具有自稳定性,无须外界给出评价函数,能够识别向量空间中最有意义的特征,抗噪音能力强等优点。文献[12-14]证明了SOM算法在各个领域应用广泛。1.2摇SOM算法的具体过程…,m(1)。初始化输入数据Xi,j,i=1,2,…,n,j=1,2,浊<1)(2),初始化参数最小学习率。浊模型需要初始化学习率浊(0<元数P=P1)Iteration,学习=率*0,的Pmin,输入神经元数m,输出神经r最大迭代次数缩c,邻域值小率姿(R姿,邻域值的缩小率Max_iteration<1),最初,时间迭代a(k次a=数<(3)初始化权重W0。p,q,j(中心点Cp,q),随机生成2,…,[0,1)(4)m之间的数。,p=1,2,…,Pr,q=1,2,…,Pc,j=1,a=0。最初迭代次数加1,并且设置目前的数据位置(5)o=o将数据下标+1摇摇摇o加1,数据位置a加1:(1)a=a+1摇摇摇摇…,x(6)设置当前来自于X(2)i,j数据Xo,Xo=[xa,1,xa,2,a(7),m]计算当前数据。Xo与每个中心点的距离:dis=(Xo,Co,p,q)=-wkp,q,j)2p=1,2,…,P移Dj=1(xa,j(3)(8)通过步骤r,(7)q=的最小距离来确定获1,2,…,Pc点(WC);胜中心(9)依次修改所有权重坐标(即中心点坐标):中心点的距离(a)在拓扑图:(见图1)中计算当前中心点与获胜disCC,WC=dic(Cp,q(p,WC)=(b)修改权重坐标CC+:pWC)2+(qCC+qWC)2(4)Wo+1=Wo+浊*(Xo-Wo)*e-(disCC,WCR)2(5)修改。(c)重复步骤(a)与(b),直到所有中心点坐标被图1摇拓扑图(10)((a)如果判断中心是否被所有数据修改a=n,:(11)b)如果a屹n,则跳到第(11)步;R=R修改邻域值和学习率则返回第(5)步。*a摇:(6)浊(12)=浊判断学习率*姿摇:若浊<浊(7)min,则令浊=浊min。

摇第1期摇摇摇摇摇摇摇摇摇摇摇张康林等:基于Pytorch的LSTM模型对股价的分析与预测·163·(13)停止标准:(14)步;(4)步。(a)如果Iteration=Max_iteration,则跳到第(b)如果Iteration屹Max_iteration,则返回第(14)将数据分配到距离最小的中心点,再计算每(15)根据拓扑图矩阵确定每一类中包含数据的为了避免指标单位对结果的影响,需先将原始数据进行归一化处理,归一化公式如下:X'i,j=(Xi,j-Xmin)/(Xmax-Xmin)(9)其中,X'i,j表示归一化处理后的数据,Xi,j表示原始数据,Xmin表示第j列中的最小数,Xmax表示第j列中的最大数。2.2摇实验结果分析该文在系统WIN10、1TB+128G(SSD)的硬盘、INTEL酷睿I7-6700Q的CPU和内存4GB的PC机上使用python3.7实现SOM算法,输入神经元数为5。由于该文将187只股票分为了亏损股、盈利股和小幅亏损或小幅盈利股三类,所以输出神经元数P=Pr*Pc=1*3,邻域值为4,学习率为0.1,最小学习率0.99。迭代次数经过多次调整发现,当Max_itreationMax_itreation设为200,减少程序运行时间。为0.001,邻域值的缩小率为0.99,学习率的缩小率为大于等于200时,最终的聚类结果不变,所以将经过多次对程序的运行,可以求出其中有71只股个中心点的数据数。数量。1.3摇SOM算法的改进为了进一步探讨不同类别的股票在对其收盘价格进行预测时,其预测精度是否也会有所不同,在计算出分布矩阵和最佳中心点的坐标后,再一一计算每一个点和中心点的欧氏距离,见式(8)。通过分布矩阵,找出距离中心点最近的n个点,即可找到每一类中所含的股票代码。dist(X,Y)=移i=15(xi-yi)2(8)2摇改进的SOM实验及其结果分析2.1摇数据下载该文所做的SOM分析所需要的数据均来自于证券宝平台,该平台可以通过pythonAPI获取股票年报数据。分析中选取了沪市股票(600000-600100)、深市股票(000001-000100)与创业板股票(300001-率、净资产收益率、销售毛利率、净利润和每股收益5研究对象。Classcodesh.600020sz.3000431sz.300081sz.300089sh.600018sz.000159sz.3000722sz.300001sz.300091sh.600068sz.300077sz.3000833sz.300063sz.300069sz.3000050.07714572摇0.54019869]为中心聚为第一类,有96只股票以点[0.906286240.80067052摇0.38014394摇0.39033197摇0.04714288摇0.52063568]为中心聚为第二类,有20只股票以点[0.499768730.023035950.24362015]为中心聚为第三类,通过SOM算法的改进原理,进一步优化python实现的SOM代码,将每一个类别中所含的股票一一求出。为了比较每一类的股票盈利能力大小,表1将三0.94875848票以点[0.91695654摇0.9553279摇0.623)总共187家上市公司2018年的销售净利润项能充分反映上市公司综合盈利能力的指标作为主要类中部分股票的盈利能力指标列出。表1摇每一类部分股票的盈利能力roeAvg0.0655240.0898120.0848180.0971930.1417110.028310.0561320.0587560.0501860.111115-0.63813-0.68934-0.63093-0.40955-0.07448npMargin0.1391210.0853810.2799140.1861490.3015580.0905070.0382480.0318020.0480480.059228-2.3874-0.52082-0.11362-0.9372-0.11385gpMargin0.5172210.4509010.4577520.5124270.3174330.2066060.2062180.2321170.219780.1633130.3505590.1254120.0770870.3136710.289494netProfit8.04E+082.41E+081.95E+082.18E+081.15E+1.88E+081.88E+.96E+09-1.4E+09-2.9E+09-9.1E+08-1.7E+08-2.3E+08epsTTM0.3554390.191660.3744260.4258360.4434490.1245380.2150660.1794310.0841041.011494-2.26994-2.00158-1.24685-1.52548-0.20411

摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇计算机技术与发展摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇第31卷·摇16摇4·摇率摇(平其中均,)code(%),代表股票代码npMargin代,roeavg表销售代表净资产收益净利率(%),gpMargin代表销售毛利率(%),netProfit代表净利润(元),该文选取的五项指标是衡量公司获利能力和成长epsTTM代表每股收益。性最好的指标,即能通过这五项指标说明该类上市公司在技术水平、经营规模、经营实力等方面具有很大优势,经营业绩优良,竞争能力比较强,综合财务状况较佳,颇具发展潜力和长期投资价值,即通过这五项指标的大小可以判断该公司的综合盈利能力大小。所以结合表1可以看出,综合盈利能力的大小排序:第一类>第二类>第三类。计算出不同类别所包含的股票后,将进一步对不同类别的股票使用LSTM模型进行预测。3摇3.1摇Pytorch简摇介深度学习框架Pytorch是Facebook在2017年开源的一款深度学习框架,它是源于torch更新后的一种新产品,同时也是一个原生的python包,它与python是无缝集成的,而且还特意使用了命令式编码风格。Pytorch由于具有动态计算图表、精简的后端与高度可扩展等优势,目前得到了广泛的应用。Pytorch在已经在聊天机器人、机器翻译、文本搜索、文本到语音转换和图像与视频分类等项目中取得了巨大成功。3.2摇开发环境该文是在系统WIN10、1TB+128G(SSD)的硬盘、INTEL酷睿I7-6700Q的CPU和内存4GB的PC机上通过python3.7版本和anaconda5.3.1版本来使用Pytorch构造LSTM深度学习模型。Anaconda是一个开源的python包管理器,包含了python、conda等180多个科学包及其依赖项。它支持Windows、Linux和Mac三种系统,由于它提供了包管理与环境管理的功能,所以能很方便地解决多版本python切换、并存以及下载安装各种第三方包等问题。然后打开其中的jupyternotebooks应用程序,直接在谷歌网页页面中编写、运行和调试代码。4摇LSTM神经网络的原理长短期记忆神经网络(long-shorttermmemory,LSTM)在1997年由Hochreiter等人[15]提出。它是循环神经网络(recurrentneuralnetwork,RNN)的一种变体,能够更好地解决传统RNN在处理大型时间序列时存在的梯度消失和梯度爆炸等问题。由于深度学习框架发展得越来越成熟,再加上LSTM能够更好地处理序列化数据,所以LSTM神经网络目前得到了广泛的应用,相关研究如文献[16-17]说明了LSTM算法在时间序列预测、视觉识别、分类等都取得了重大成功。LSTM的网络结构由三个门控和一个记忆细胞组成。记忆细胞能将历史记忆信息进行保留。下面是三个门控的计算原理。第一步,遗忘门能决定从单元信息状态中去丢弃哪些信息,采用sigmoid作为激活函数,它能为单元状态中的每个元素输出0到1之间的数值,公式表示如下:ft=滓(Wf第二步,确定要添加到单元状态的信息*[ht-1,Xt]+bf)。这里包(10)括两个部分:一个是采用sigmoid作为激活函数的输入门,它决定要更新的值;另一个是tanh层,它创建要添加到单元状态的新值。公式表示如下:iCt=滓(Wi*[ht-1,Xi]+bi)(11)t=tanh(WC*[ht-1,Xt]+bC)(12)第三步,通过以上结果可以计算出t时刻的细胞状态更新值C'tC',公式表示如下+i:t=ft第四步*,决定输出门的值C't-1t*Ct,公式表示如下:(13)Ot=滓(Woh*[ht-1,Xt]+bo)(14)t=Ot式(10)*tanh(~式(15)C't)中摇,滓表示sigmoid激活函数(15),Wf表示遗忘门的权重矩阵,Wi表示输入门的权重矩阵,Wc表示更新门的权重矩阵,Wo表示输出门的权重矩阵,bf表示遗忘门的偏置,bi表示输入门的偏置,bc表示更新门的偏置,bo表示输出门的偏置,ht表示t时刻的输出,Ct表示t时刻更新的细胞状态。5摇5.1摇LSTM实验设计神经网络设计与实现预测流程包括:下载数据、数据处理、数据归一化、LSTM模型的训练、微调参数和收盘价格预测。下载数据:每一类中随机挑选3只股票,下载每一只实验股票2018年的收盘价格,通过证券宝平台的pythonAPI接口,编写python程序进行下载和储存。数据处理:将存储的原始数据打开,删除股票代码一列,并且删除缺失值的每一行,进一步构建完整有效的数据集,便于数据分析。数据归一化:为了使模型更加容易正确的收敛,将收盘价格进行了归一化处理。LSTM模型的训练:上文已将187只股票分成了3类,并且也已知每一类别中所含的股票代码,所以接下来将使用LSTM模型对每一个类别中的股票随机进行预测,观察每一类别的预测精度。该文想通过前面2天的股价来预测当天的收盘价,所以将前两天的股

摇第1期摇摇摇摇摇摇摇摇摇摇摇张康林等:基于Pytorch的LSTM模型对股价的分析与预测·165·价当作输入,当天的股价当作输出,最后再基于Looney[18]的研究,将每只实验股票收集到的65%数据作为训练数据集,35%数据作为测试数据集。微调参数:在模型的训练过程中,需要不断调整学习率、LSTM层数和隐藏层神经元数,直到模型的预测效果最佳。价格预测:将测试数据集导入训练好的模型进行价格预测。实验流程如图2所示。i3333LSTM图2摇股价预测实验流程5.2摇模型评价标准选取均方误差(MSE)和决定系数(R2指标对模型预测结果进行定量评价。其中)MSE作为评价数值越小,模型预测结果与真实值偏差越小,结果也就越准确;决定系数R2越接近数值1,说明拟合优度越大,模型预测效果也就越好。具体公式如下:MSE=1/N*N(y移N(yp-yn)2n-1(16)R2=移-yave(17)其中,N代表数据集中数据的个数移n-1pN)2n-1(yn-yave)2,yp代表模型预测值,yn代表实际值,yave代表实际值的平均值。5.3摇LSTM模型参数设置LSTM模型结构由输入层、输出层、两层LSTM层组成,其中输入层单元数为2,在权衡了模型的预测准确度后,将1-3类的隐藏层单元数都设置为4,输出层单元数为1,迭代次数为1000,学习率为0.01,损失函数采用均方误差MSE,模型训练过程采用的优化算法为Adam算法,模型的搭建在Pytorch深度学习框架下实现。5.4摇结果分析每一类中随机抽取3只股票的预测结果,如图3~图5所示,每一张图的纵坐标代表股价做归一化处理后的值,横坐标代表时间第x天。两条曲线分别代表LSTM模型预测值和股价真实值,可以看出LSTM模型的预测曲线都很接近于股价的真实曲线。//////图3摇第一类中的sz.300059、sz.300003、sh.600033股票预测结果

摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇计算机技术与发展摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇摇第31卷·摇16摇6·//////图4摇第二类中的sz.300044、sh.600082、sz.300014股票预测结果摇测性能摇为进一步验证模型预测不同盈利能力的股票的预,表2给出了三类中各3只股票的评价标准计算结果。第一类的平均均方误差为0.00340,第二类的平均均方误差为0.00621,第三类的平均均方误差为0.00871,所以第一类预测误差小于第二类,第二类的预测误差小于第三类,说明相同的LSTM模型预测第一类股票的股价结果最准确。同时,在决定系数R2评价标准中,第一类的R2平均值为0.93118,第二类的R2平均值为0.89917,第三类R2平均值为0.86001,所以同样的LSTM模型在预测不同类的股票价格时,第一类的决定系数更接近1,其次是第二类,说明LSTM模型在对第一类进行预测时,模型拟合优度最大,预测效果最好,其次是第二类。综合以上分析,可以得出:使用相同的LSTM模型预测不同盈利能力的//////图5摇第三类中的sz.300083、sz.300063、sz.300069股票预测结果股票价格时,盈利能力越强的股票,模型对其股票价格预测结果越准确。表2摇评价标准结果classcodeMSER2sz.3000590.003380.848271sz.3000030.002030.90018sh.6000330.004300.97038sz.3000440.005890.969012sh.6000820.006720.79439sz.3000140.005490.87386sz.3000830.009190.834653sz.3000630.007650.83253sz.3000690.008140.94447

摇第1期摇摇摇摇摇摇摇摇摇摇摇张康林等:基于Pytorch的LSTM模型对股价的分析与预测·167·6摇结束语股票价格的预测是一个非常复杂的过程,因为股票市场的预测过程基本上是动态的、非线性的、复杂的。因此,通过证券宝平台下载187只股票数据,提出一种基于自组织特征映射(SOM)神经网络和长短期记忆网络(LSTM)相结合的股价预测方法。首先使用python实现Kohonen提出的SOM算法,然后通过加入计算每一只股票与最终中心点的距离的改进,将187只股票聚成3类,并且得出三类中每一类所含股票,再基于Pytorch深度学习框架构建LSTM模型,分别对三类中随机选取的3只股票进行股价预测。实验结果表明:在使用相同网络结构的LSTM模型对不同盈利能力的股票价格进行预测时,模型对盈利能力较大的股票价格预测有更高的预测精度。该文对股价的预测方法,能通过聚类帮助股票投资者筛选出拥有更大盈利能力的股票,从而进一步提高预测精度。此方法在未来金融时间序列研究中拥有广泛的应用前景,不仅能为投资者提供一定的参考信息,也能为后续的研究者提供相应的参考。参考文献:[1]摇SInancialYWtime,[J].-EngineeringbasedsegmentationApplicationsapproachofArtificialtofi鄄Intelligence,2013,26(10):2581-2596.[2]摇许兴军浙江金融,颜钢锋,2011(11):57-59.基于BP神经网络的股价趋势分析.[J].[3]摇韩山杰习模型的设计与实现,谈世哲.基于TensorFlow[J].计算机应用与软件进行股票预测的深度学,2018,35[4]摇(6):arketABayesianforecastingregularized[J].ExpertartificialSystemsneuralwithnet鄄Applications,2013,40(14):5501-5506.[5]摇GRAVESficationwithA,iseandotherphonemeneuralnetworkclassi鄄architectures[J].NeuralNetworks,2005,18(5-6):602-[6]摇,POLSONNG,arningforfinance:deepportfolios[J].AppliedStochasticModelsinBusinessandIndustry,2017,33(1):3-12.[7]摇basedHOSEINZADEstockmarketE,dsetofvariables:CNN-[8]摇[BERRADIJ].ExpertSystemswithApplications,2019,129:alysisZ,ationneuralnetworkofprincipaltoforecastcompo鄄thestockpriceofcasablancastockexchange[J].ProcediaCom鄄puterScience,2019,148:55-61.[9]摇宋票预测模型摇刚,张云峰[J],.包芳勋北京航空航天大学学报,等.基于粒子群优化,2019,45LSTM(12):的股[10]2533-2542王[D摇]伟.北京.基于深度学习的股票数据分析技术的研究与应用.[11]KOHONEN:北京邮电大学,E,1990,78(9):[J].Proceedingsof[12]DELGADOSOMprototypeS,HIGUERA-basedclusterC,CALLEanalysis-ESPINOSAmethodologyJ[,etJ]al..Ex鄄ApertSystemswithApplications,2017,88:14-28.[13]MEDEIROSFB,cHR,DEtopologyOLIVEIRAandFrelevanceDB,HANSENCLEVERlearningSOM-basedalgorithmforimageclusteringtasks[J].ComputerVi鄄sionandImageUnderstanding,2019,179:19-30.[14]唐电机状态聚类分析摇刚,姚小强,胡摇[J雄]..东华大学学报基于SOM神经网络的岸桥起升:自然科学版,2018,[15]44(4):HOCHREITER[J].NeuralS,SCHMIDHUBERComputation,1997(8):[16]LIUquestionYun,answeringZHANGXiaomingviaAttention,HUANG-basedFeiransyntactic,ureVisualtree-LSTM[J].AppliedSoftComputingJournal,2019,82:[17]forOarrhythmia,BALOGLUclassificationUB,TANusingRS,newfea鄄ap鄄turesandLSTMnetworks[J].ComputerMethodsandPro鄄gramsinBiomedicine,2019,176:121-133.[18]izationneuralnetworksandspeedup[J].ofNeurocomputingconvergencein,1996,10(1):7-31.