梯度算法下RBF网的参数变化动态
魏海坤
李奇
宋文忠
1.东南大学,自动化学院,江苏,南京,2100962.东南大学,自动化学院,江苏,南京,2100963.东南大学,自动化学院,江苏,南京,210096
摘要:分析神经网络学习过程中各参数的变化动态,对理解网络的动力学行为,改进网络的结构和性能等具有积极意义.本文讨论了用梯度算法优化误差平方和损失函数时RBF网隐节点参数的变化动态,即算法收敛后各隐节点参数的可能取值.主要结论包括:如果算法收敛后损失函数不为零,则各隐节点将位于样本输入的加权聚类中心;如果损失函数为零,则网络中的冗余隐节点将出现萎缩、衰减、外移或重合现象.进一步的试验发现,对结构过大的RBF网,冗余隐节点的萎缩、外移、衰减和重合是频繁出现的现象.
关键词:梯度算法RBF网学习动态神经网络泛化能力
分类号:TP183(自动化基础理论)
论文发表日期:2007-01-01
在线出版日期:2025-08-15(本平台首次上网日期,不代表文献的发表时间)
页数:6( 356-360,365 )
英文信息展开
控制理论与应用

控制理论与应用

北大核心CSTPCDEI
ISSN:1000-8152
年,卷(期):2007,24(3)
所属栏目:论文