在竞争网络结构的基础上,学习向量化(learning vector quantization,LVQ)网络被提出来,融合竞争学习思想和有监督学习算法的特点,通过教师信号对输入样本的分配类别进行规定,从而克服自组织网络采用无监督学习算法带来的缺乏分类信息的弱点。
1. 向量量化
向量量化的思路是,将高维输入空间分成若干不同的区域,对每个区域确定一个中心向量作为聚类的中心,与其处于同一区域的...
分类:
其他好文 时间:
2015-08-15 13:31:45
阅读次数:
189
竞争学习是自组织网络中最常采用的一种学习策略。
一、基本概念
先说明几个重要的概念。
1. 模式、分类、聚类与相似性
在神经网络应用中,输入样本、输入模式和输入模式样本这样的术语基本上是等同的概念。在涉及识别、分类问题时,常用到输入模式的概念。模式是对某些感兴趣的客体的定量描述或结构描述,模式类是具有某些共同特征的模式的集合。分类是在类别知识等导师信号的指导下,将待识别的输入模式分配...
分类:
其他好文 时间:
2015-08-14 19:10:36
阅读次数:
5009
前段时间放假在家的时候,总算是看完了斯坦福的机器学习公开课(Andrew NG)的监督学习,这项计划持续了将近一个学期。无监督学习和强化学习部分暂时还不太想看,目前来说监督学习与我现在的情况更契合一些。看完监督学习部分,对机器学习的了解又深了一些,加上之前帮师兄做实验,从工程角度和理论角度共同推进,...
分类:
其他好文 时间:
2015-08-11 18:31:04
阅读次数:
168
机器学习定义
机器学习是人工智能的一个分支,目标是赋予机器一种新的能力。(专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。)机器学习的应用很广泛,例如大规模的数据挖掘(网页点击数据,医疗记录等),无人驾驶飞机、汽车,手写手别,大多数的自然语言处理任务,计算机视觉,推荐系统等。
机器学习有很多定义,广...
分类:
其他好文 时间:
2015-08-07 19:55:39
阅读次数:
325
参考:http://scikit-learn.org/stable/modules/label_propagation.html
The semi-supervised estimators insklearn.semi_supervised are
able to make use of this additional unlabeled data to better ca...
分类:
其他好文 时间:
2015-08-07 09:39:40
阅读次数:
258
半监督学习的意义在于对比监督学习而言,半监督学习所利用的非标签样本是否能够提高我们的预测准确率。平滑性假设:若两点x1和x2都位于高密度样本分布区域,且他们的‘距离’很久,那么理想的标签函数(label function)输出y1和y2也是相近的。反而言之, x1和x2位于低密度区域时,y1和y2应...
分类:
其他好文 时间:
2015-08-07 09:29:30
阅读次数:
247
入门学习机器学习的十大算法,第一站就是C4.5算法。C4.5是一种决策树算法,属于监督学习。先给一个样本集,从而建立一棵决策树,然后根据这个决策树来对后续的数据做决策。...
分类:
编程语言 时间:
2015-08-06 16:59:01
阅读次数:
226
神经网络中的方向传播算法讲得复杂难懂。简单地说明它的原理: 神经网络:输入层,隐藏层,输出层。根据线性关系,激活函数,并最终根据监督学习写出误差表达式。此时,误差函数可写成,那么权值w和它之间存在什么关系?求偏导分析之间的变化关系 不过如此。
分类:
编程语言 时间:
2015-08-03 19:04:53
阅读次数:
122
一、批量学习 在监督学习的批量方法中,多层感知器的突出权值的调整在训练样本集合的所有N个例子都出现后进行,这构成了训练的一个回合。换句话说,批量学习的代价函数是由平均误差能量定义的。多层感知器的突触权值的调整是以回合-回合为基础的。相应地,学习曲线的一种实现方式是通过描绘平均误差能量对回合数的图形....
分类:
其他好文 时间:
2015-08-03 18:52:59
阅读次数:
427
SVM被许多人认为是有监督学习中最好的算法,去年的这个时候我就在尝试学习。不过,面对长长的公式和拗口的中文翻译最终放弃了。时隔一年,看到Andrew讲解SVM,总算对它有了较为完整的认识,总体思路是这样的:1.介绍间隔的概念并重新定义符号;2.分别介绍functional margins与geom...
分类:
系统相关 时间:
2015-07-31 14:34:46
阅读次数:
195