改进Adam优化器在瓦斯涌出量预测中的应用研究
刘海东1
李星诚2
张文豪1
1.西山煤电(集团)有限责任公司,山西太原 0300532.北京大学工学院,北京 100871
摘要：目前对基于神经网络的瓦斯涌出量预测模型的研究主要集中在瓦斯涌出问题上的表现,对模型训练中优化器性质的关注与改进较少.基于神经网络的瓦斯涌出量预测模型的训练常采用Adam算法,但Adam算法的不收敛性易造成预测模型的最佳超参数丢失,导致预测效果不佳.针对上述问题,对Adam优化器进行改进,在Adam算法中引入一种随迭代更新的矩估计参数,在保证收敛速率的同时获得更强的收敛性.以山西焦煤西山煤电集团马兰矿某回采工作面为例,在相同的循环神经网络(RNN)预测模型下测试了改进的Adam优化器在瓦斯涌出量预测中的训练效率、模型收敛性与预测准确度.测试结果表明:①当隐藏层数为2和3时,改进的Adam算法较Adam算法的运行时间分别缩短了 18.83,13.72 s.当隐藏层数为2时,Adam算法达到最大迭代数但仍没有收敛,而改进的Adam算法达到了收敛.②在不同隐藏层节点数量下,Adam算法都没有在最大迭代步长内收敛,而改进的Adam算法均达到了收敛,且CPU运行时间较Adam算法分别缩短16.17,188.83,22.15 s.改进的Adam算法预测趋势的正确性更高.③使用tanh函数时,改进的Adam算法的运行时间较Adam算法分别缩短了 22.15,41.03 s,使用ReLU函数时,改进的Adam算法与Adam算法运行时间相差不大.④使用改进后的Adam算法做遍历网格搜索,得到最佳的模型超参数为｛3,20,tanh｝,均方误差、归一化的均方误差、运行时间分别为0.078 5,0.000 101和32.59 s.改进的Adam算法给出的最优模型对于待预测范围内出现的几个低谷及峰值趋势判断均正确,在训练集上的拟合程度适当,未见明显的过拟合现象.
关键词：瓦斯涌出瓦斯涌出量预测梯度类算法Adam优化器循环神经网络Adam
分类号：TD712(矿山安全与劳动保护)
资助基金：国家重点研发计划(2018YFC0808101)
论文发表日期：2023-12-10
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：8( 25-32 )
英文信息