基于凸规划观点的神经网络学习
刘蕴辉
罗四维
李爱军
俞翰斌
1.北京交通大学,计算机与信息技术学院,北京,1000442.北京交通大学,计算机与信息技术学院,北京,1000443.北京交通大学,计算机与信息技术学院,北京,1000444.北京交通大学,计算机与信息技术学院,北京,100044
摘要:人工神经网络最重要的特征就是网络的学习能力,通过对神经网络内部权值的调整,学习外部环境结构的特征和信息的表示.从信息几何的角度,对神经网络的学习过程进行了几何描述,并将神经网络的学习问题转化为,最小化外部环境表示的真实分布与网络模型表示的逼近分布之间的"距离",并证明了对于可编码成指数簇流形的神经网络是凸规划问题.为神经网络学习的研究提出了一个新的思路,也为在高维非线性空间中解决网络学习问题的有效性,从信息几何的角度给出了一种解释.
关键词:神经网络学习机制凸规划信息几何
分类号:TP183(自动化基础理论)
资助基金:高等学校博士学科点专项科研项目(20020004020)
论文发表日期:2004-01-01
在线出版日期:2025-08-15(本平台首次上网日期,不代表文献的发表时间)
页数:5( 11-15 )
英文信息
