码迷,mamicode.com
首页 > 其他好文 > 详细

径向基神经网络

时间:2017-05-10 16:33:00      阅读:239      评论:0      收藏:0      [点我收藏+]

标签:通过   神经元   距离   数据   线性   计算   问题   方差   over   

预备知识:

cover定理:

在复杂的模式分类问题中,将数据映射到高维空间比映射到低维空间更可能线性可分

径向基函数:

空间中的任意点到某一中心之间的欧式距离(也可以是其他的距离函数)的单调函数

径向基神经网络是由一个三层的结构组成,包括输入层,隐含层,输出层,隐含层的激活函数一般是非线性的径向基函数,输出层是线性函数或hardlim函数

普通径向基神经网络中,隐含层神经元的个数是样本的数量,径向基函数的中心是对应的样本,所求插值函数要求通过所有的样本点,即

                     F(Xp)=dp p表示样本个数,F是插值函数

每个样本对应一个基函数,即Φ(||X-Xp||)

所以其插值函数为:

                    F(x)=∑p=1 to PWpΦp(||X-Xp||)

样本的维数一般小于隐含层神经元的个数,通俗来说,输入层到隐含层实现升维,隐含层到输出层实现分类或插值拟合

广义的径向基神经网络不要求隐含层的神经元数和样本数相同,神经元数小于样本数,基函数的中心由K-means决定,下面开始径向基神经网络的算法描述:

1 输入层到隐含层的权值矩阵固定为单位矩阵

2 由K-means算法选取基函数的中心

3 计算方差:σ

            σ=cmax/sqrt(2h) cmax表示中心之间的最大距离,h表示隐含层的神经元数

4 计算隐含层到输出层的权值W,由LMS算法可以直接求得

            

 

径向基神经网络

标签:通过   神经元   距离   数据   线性   计算   问题   方差   over   

原文地址:http://www.cnblogs.com/semen/p/6836361.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!