当前位置:网站首页 > 技术博客 > 正文

径向基函数法原理



RBF神经网络与BP神经网络都是非线性多层前向网络,它们都是通用逼近器。对于任一个BP神经网络,总存在一个RBF神经网络可以代替它,反之亦然。但是这两个网络也存在着很多不同点,这里从网络结构、训练算法、网络资源的利用及逼近性能等方面对RBF神经网络和BP神经网络进行比较研究。

(1) 从网络结构上看。 BP神经网络实行权连接,而RBF神经网络输入层到隐层单元之间为直接连接,隐层到输出层实行权连接。BP神经网络隐层单元的转移函数一般选择非线性函数(如反正切函数),RBF神经网络隐层单元的转移函数是关于中心对称的RBF(如高斯函数)。BP神经网络是三层或三层以上的静态前馈神经网络,其隐层和隐层节点数不容易确定,没有普遍适用的规律可循,一旦网络的结构确定下来,在训练阶段网络结构将不再变化;RBF神经网络是三层静态前馈神经网络,隐层单元数也就是网络的结构可以根据研究的具体问题,在训练阶段自适应地调整,这样网络的适用性就更好了。

(2) 从训练算法上看。 BP神经网络需要确定的参数是连接权值和阈值,主要的训练算法为BP算法和改进的BP算法。但BP算法存在许多不足之处,主要表现为易限于局部极小值,学习过程收敛速度慢,隐层和隐层节点数难以确定;更为重要的是,一个新的BP神经网络能否经过训练达到收敛还与训练样本的容量、选择的算法及事先确定的网络结构(输入节点、隐层节点、输出节点及输出节点的传递函数)、期望误差和训练步数有很大的关系。RBF神经网络的训练算法在前面已做了论述,目前,很多RBF神经网络的训练算法支持在线和离线训练,可以动态确定网络结构和隐层单元的数据中心和扩展常数,学习速度快,比BP算法表现出更好的性能。

(3) 从网络资源的利用上看。 RBF神经网络原理、结构和学习算法的特殊性决定了其隐层单元的分配可以根据训练样本的容量、类别和分布来决定。如采用最近邻聚类方式训练网络,网络隐层单元的分配就仅与训练样本的分布及隐层单元的宽度有关,与执行的任务无关。在隐层单元分配的基础上,输入与输出之间的映射关系,通过调整隐层单元和输出单元之间的权值来实现,这样,不同的任务之间的影响就比较小,网络的资源就可以得到充分的利用。这一点和BP神经网络完全不同,BP神经网络权值和阈值的确定由每个任务(输出节点)均方差的总和直接决定,这样,训练的网络只能是不同任务的折中,对于某个任务来说,就无法达到最佳的效果。而RBF神经网络则可以使每个任务之间的影响降到较低的水平,从而每个任务都能达到较好的效果,这种并行的多任务系统会使RBF神经网络的应用越来越广泛。

总之,RBF神经网络可以根据具体问题确定相应的网络拓扑结构,具有自学习、自组织、自适应功能,它对非线性连续函数具有一致逼近性,学习速度快,可以进行大范围的数据融合,可以并行高速地处理数据。RBF神经网络的优良特性使得其显示出比BP神经网络更强的生命力,正在越来越多的领域内替代BP神经网络。目前,RBF神经网络已经成功地用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。

rbf原理

所谓径向基函数 (Radial Basis Function 简称 RBF), 就是某种沿径向对称的标量函数。
通常定义为空间中任一点x到某一中心xc之间欧氏距离的单调函数 , 可记作 k(||x-xc||),
其作用往往是局部的 , 即当x远离xc时函数取值很小。最常用的径向基函数是高斯核函数 ,
形式为 k(||x-xc||)=exp{- ||x-xc||^2/(2*σ)^2) } 其中xc为核函数中心,σ为函数的宽度参数 ,
控制了函数的径向作用范围。在RBF网络中,这两个参数往往是可调的。

可以从两个方面理解 RBF 网络的作用 :
(1)把网络看成对未知函数f(x)的逼近器。
   一般任何函数都可表示成一组基函数的加权和 ,这相当于用隐层单元的输出函数构成一组基函数来逼近f(x)
(2)在RBF网络中以输入层到隐层的基函数输出是一种非线性映射,而输出则是线性的。
   这样,RBF网络可以看成是首先将原始的非线性可分的特征空间变换到另一空间(通常是高维空间),
   通过合理选择这一变换使在新空间中原问题线性可分,然后用一个线性单元元来解决问题。
在典型的RBE网络中有三组可调参数:隐层基函数中心、方差,以及输出单元的权值。

这些参数的选择有三种常见的方法:
(1)根据经验选择函数中心。
   比如只要训练样本的分布能代表所给问题 ,可根据经验选定均匀分布的M个中心,
   其间距为d,可选取高斯核函数的方为σ=d/sqrt(2*M)。
(2)用聚类方法选择基函数。
    可以各聚类中心作为核函数中心,而以各类样本的方差的某一函数作为各个基函数的宽度参数。
   用(1)或(2)的方法选定了隐层基函旗的参数后,因输出单元是线性单元,它的权值可以简单地用最小二乘法
   直接计算出来。
(3)将三组可调参数都通过训练样本用误差纠正算法求得。
   做法与BP方法类似,分别计算误差e(k)对各组参数的偏导数,然后用迭代求取参数。
   研究表明,用于模式识别问题的RBF网络在一定意义上等价于首先用非参数方法估计出概率密度,
   必然后用它进行分类
http://www.2nsoft.cn/bbs/read.php?tid=741&fpage=2

RBF神经网络

版权声明


相关文章:

  • 弹性负载均衡支持哪几种协议2025-05-11 17:30:02
  • 聚合函数 mysql2025-05-11 17:30:02
  • mq消息中间件有哪些2025-05-11 17:30:02
  • 宽带网络设备有哪些2025-05-11 17:30:02
  • c++中eof2025-05-11 17:30:02
  • vscode编写js代码方法提示2025-05-11 17:30:02
  • 分离涡模拟DES2025-05-11 17:30:02
  • i2c总线的基本操作2025-05-11 17:30:02
  • 基于java的管理系统2025-05-11 17:30:02
  • malloc函数中的*是什么意思2025-05-11 17:30:02