首先说交叉验证。
交叉验证（Cross validation）是一种评估统计分析、机器学习算法对独立于训练数据的数据集的泛化能力（generalize）， 能够避免过拟合问题。
交叉验证一般要尽量满足：
1）训练集的比例要足够多，一般大于一半
2）训练集和测试集要均匀抽样
交叉验证主要分成以下几类：
1）Double cross-validation
Double cross...
分类：
其他好文 时间：
2015-08-27 23:03:09
阅读次数：
814
通过利用径向基网络对蝴蝶花进行分类，学习径向基网络的结构和算法...
分类：
其他好文 时间：
2015-08-16 10:45:16
阅读次数：
195
感知器1.定义 感知器是一种最简单的前馈神经网络，多输入单输出，是一种二分类。
优点：学习算法简单，易于理解。
缺点：学习速率低，学习效果差。不便于初学者运用，参数选择很难。2.算法 采用的是一种简单的惩罚机制。条件：
样本特征值：x=[x1,x2........xn]x = [x_1, x_2 ........ x_n]， y∈y \in { -1, 1}， 初始值θ\th...
分类：
其他好文 时间：
2015-08-07 20:05:39
阅读次数：
203
对于RBF神经网络的原理已经在我的博文《机器学习之径向基神经网络（RBF NN）》中介绍过，这里不再重复。今天要介绍的是常用的RBF神经网络学习算法及RBF神经网络与多层感知器网络的对比。
一、RBF神经网络学习算法
广义的RBF神经网络结构如下图所示：
N-M-L结构对应着N维输入，M个数据中心点centers，L个输出。
RBF 网络常用学习算法
RBF 网络的设计包括结...
分类：
编程语言 时间：
2015-08-07 11:10:30
阅读次数：
370
在关于径向基神经网络的一篇博文机器学习之径向基神经网络（RBF
NN）中已经对最近邻思想进行过描述，但是写到了RBF中有些重点不够突出，所以，这里重新对最近邻和K近邻的基本思想进行介绍，简洁扼要的加以总结。
最近邻的基本思想
保存所有观察到的有标签的样本，然后对新来的测试样本，在标签样本集中找到与测试样本最接近的标签样本，然后将该标签样本作为测试样本的输出。这是一种典型的监督式学习。在...
分类：
编程语言 时间：
2015-08-07 09:36:29
阅读次数：
181
因为要用svm做regression，所以看了一些关于libsvm，总结以备用
libsvm在训练model的时候，有如下参数要设置，当然有默认的参数，但是在具体应用方面效果会大大折扣。
Options：可用的选项即表示的涵义如下
-s svm类型：SVM设置类型(默认0)
0 -- C-SVC
1 --v-SVC
2 – 一类SVM
3 -- e -SV...
分类：
其他好文 时间：
2015-08-06 22:31:13
阅读次数：
198
将Radial Basis Function与Network相结合。实际上衡量两个点的相似性：距离越近，值越大。 将神经元换为与距离有关的函数，就是RBF Network： 可以用kernel和RBF来衡量相似性： 那么...
分类：
Web程序 时间：
2015-08-06 16:28:58
阅读次数：
702
本文基于台大机器学习技法系列课程进行的笔记总结。
主要内容如下图所示：
首先介绍一下径向基函数网络的Hypothesis和网络的结构，然后介绍径向基神经网络学习算法，以及利用K-means进行的学习，最后通过一个实例加深对RBF神经网络认识和理解。
RBF神经网络的Hypothesis和网络结构
我们从基于Gaussian kernel的support vector mac...
分类：
其他好文 时间：
2015-07-17 09:50:54
阅读次数：
249
Public datasets for machine learning http://homepages.inf.ed.ac.uk/rbf/IAPR/researchers/MLPAGES/mldat.htm
Weka datasets http://www.cs.waikato.ac.nz/ml/weka/datasets.html...
分类：
系统相关 时间：
2015-06-30 16:25:58
阅读次数：
172
RBF网络能够逼近任意非线性的函数。可以处理系统内难以解析的规律性，具有很好的泛化能力，并且具有较快的学
习速度。当网络的一个或多个可调参数（权值或阈值）对任何一个输出都有影响时，这样的网络称为全局逼近网络。
由于对于每次输入，网络上的每一个权值都要调整，从而导致全局逼近网络的学习速度很慢，比如BP网络。如果对于
输入空间的某个局部区域只有少数几个连接权值影响输出，则该网络称为局部逼近网络，...
分类：
其他好文 时间：
2015-06-02 17:54:08
阅读次数：
191
