带有Dropout结构的贝叶斯近似宽度学习系统
陈滔1
王立杰1
刘洋2
徐丽莉3
于海生1
1.青岛大学自动化学院,山东青岛 2660712.青岛科技大学自动化与电子工程学院,山东青岛 2660613.北京师范大学文理学院,广东珠海 519087
摘要：宽度学习系统(BLS)及其改进算法均普遍存在一个问题,即随着实际场景中数据复杂性的逐步增强,网络结构变得极其复杂,进一步导致计算资源的消耗也大幅度增加.针对此问题,本文提出了一种带有Dropout算法的贝叶斯近似宽度学习系统(Dropout-BABLS).首先,利用Dropout算法对宽度学习系统的隐藏层节点随机进行丢弃.其次,通过结合高斯回归过程和贝叶斯理论近似Dropout对输出结果的损失函数以确定Dropout-BABLS的目标函数,进一步采用增广拉格朗日乘子法对目标函数的输出权重进行优化求解.最后,通过UCI机器学习知识库的10组回归数据集和自建的6组时间序列数据集对算法进行分析评估.结果表明,本文所提出的Dropout-BABLS算法能保证相应的输出精度,并减少25％～50％的训练时间.
关键词：宽度学习系统Dropout高斯过程贝叶斯近似拉格朗日乘子回归分析
论文发表日期：2025-08-30
在线出版日期：2025-10-10（本平台首次上网日期，不代表文献的发表时间）
页数：9( 1632-1640 )
英文信息