L1正则化与pinball损失函数的极限学习机
陈聪
西安石油大学计算机学院 陕西西安710065
摘要：极限学习机(extreme learning machine,ELM)由于其训练速度快、易于实现等优点,在回归领域得到了广泛的应用.然而,传统ELM的平方损失函数在异常值面前放大了异常值的影响,从而降低了性能.为了提高ELM的鲁棒性,在ELM中引入pinball损失函数.pinball损失函数与误差线性相关,与平方损失函数相比,可以减少异常值的影响.此外,L2范数正则化对于隐藏层节点缺乏稀疏性.相比之下,L1范数正则化可以改善模型的稀疏性.为了同时具有鲁棒性和稀疏性,提出了一种基于L1范数正则化和pinball损失函数的ELM模型,通过迭代重加权算法求解相应的优化问题.为了验证模型的鲁棒性和稀疏性,在6个真实数据集上进行实验.实验结果表明,提出的L1-PELM优于其他方法.特别是对于异常值比率较大的数据,L1-PELM不仅对异常值不敏感,而且保持了稀疏性.
关键词：极限学习机L1正则化pinball损失函数迭代重加权鲁棒性稀疏性
论文发表日期：2023-03-28
在线出版日期：2026-05-22（本平台首次上网日期，不代表文献的发表时间）
页数：4( 37-40 )