深度学习中的长短时记忆网络,是一种可以对时间序列数据进行建模的神经网络模型。然而在实际使用过程中发现,长短时记忆网络有两处不足之处:第一,由于长短时记忆网络只加入了前一个时刻的状态值,因此网络对于前面多个时刻的状态值没有得到充分的利用;第二,Jozefowicz于2015年指出,在对长短时记忆网络中的参数进行初始化时,如果将忘记门单元的偏置初始化为较小的数,就会产生训练结果不好的问题。因此,本文针对上面不足之处,对长短时记忆网络的网络结构进行了改进,提出了一种计算速度更快、收敛速度更快以及预测数据更准确的网络模型。首先,本文对深度前馈神经网络的一些问题进行了归纳总结。其中包括深度前馈神经网络的网络结构、常用的损失函数、反向传播训练算法、常用的激活函数和防止过拟合的几种方法。其次,对长短时记忆网络的网络结构进行改进,提出了调节门长短时记忆网络。本文对长短时记忆网络进行了如下改进:第一,提出了一种称为调节门的门控单元,它代替了原来网络中的输入门单元和忘记门单元;第二,在计算网络输入挤压单元、输入门单元、调节门单元时,加入了两个时刻的隐藏层信息。同时,在调节门长短时记忆网络的基础上,推导了可以对调节门长短时记忆网络进行训练的沿时间反向传播算法。最后,分别使用长短时记忆网络和本文提出的调节门长短时记忆网络,对上证指数的收盘价进行预测。通过结果对比发现,与长短时记忆网络相比,调节门长短时记忆网络在训练过程中,不但训练速度加快了 12.80%,而且网络的收敛速度更快、稳定性更高,用训练好的模型对测试样本集进行预测,预测值与真实值之间的误差减小了 9.57%。数值实验表明,本文提出的调节门长短时记忆网络具有以下优势:第一,网络中的记忆单元可以存储两个时刻的状态信息,提升了网络对动态时序数据的建模能力,提高了网络对序列数据预测的准确率;第二,网络中使用了调节门单元,不但增强了网络训练的稳定性,而且提高了网络的计算速度和收敛速度。