在竞争网络结构的基础上，学习向量化（learning vector quantization，LVQ）网络被提出来，融合竞争学习思想和有监督学习算法的特点，通过教师信号对输入样本的分配类别进行规定，从而克服自组织网络采用无监督学习算法带来的缺乏分类信息的弱点。
1. 向量量化
向量量化的思路是，将高维输入空间分成若干不同的区域，对每个区域确定一个中心向量作为聚类的中心，与其处于同一区域的...
分类：
其他好文 时间：
2015-08-15 13:31:45
阅读次数：
189
竞争学习是自组织网络中最常采用的一种学习策略。
一、基本概念
先说明几个重要的概念。
1. 模式、分类、聚类与相似性
在神经网络应用中，输入样本、输入模式和输入模式样本这样的术语基本上是等同的概念。在涉及识别、分类问题时，常用到输入模式的概念。模式是对某些感兴趣的客体的定量描述或结构描述，模式类是具有某些共同特征的模式的集合。分类是在类别知识等导师信号的指导下，将待识别的输入模式分配...
分类：
其他好文 时间：
2015-08-14 19:10:36
阅读次数：
5009
问题：K-所有值聚类是无监督学习算法设数据集。当中，。如果这个数据能够分为类。把这个问题模型化：，当中代表第类的聚点（中心点、均值）。该模型能够用EM算法进行训练：初始化，。E步：固定。最小化，显然。当中。M步：固定。最小化，，。直至收敛。——————————————————————————————...
分类：
其他好文 时间：
2015-07-30 16:53:25
阅读次数：
134
最近想研究下深度学习，一开始就看UFLDL(unsuprisedfeature learning and deep learning)教程了，特将课后习题答案放在这里，作为一个笔记。
笔记：
1：自编码算法是一个无监督学习算法，它通过学习hw,b(x) = x,
因此最后的outputlayer单元数与inputlayer单元数量相等，而中间的hiddenlayer可以很大，这是加个稀疏惩罚...
分类：
其他好文 时间：
2015-06-07 21:39:08
阅读次数：
521
【原创】Liu_LongPo 转载请注明出处
【CSDN】http://blog.csdn.net/llp1992在有监督学习中，训练样本是有类别标签的。现在假设我们只有一个没有带类别标签的训练样本集合 {x(1),x(2),x(3),...x^{(1)},x^{(2)},x^{(3)},...},其中 x(i)∈Rx^{(i)}\in R自编码神经网络是一种无监督学习算法，它使用了反向传...
分类：
编程语言 时间：
2015-05-08 14:53:35
阅读次数：
200
自去年底开始学习Andrew Ng的机器学习公开课，欲依其课件试着实现部分算法以加深理解，然在此过程中遇到部分问题，或为程序实现，或为算法理解。故而准备将此课程整理，并记录自己的理解，或对或错可共同讨论。 此课程主要包括三部分：监督学习算法、无监督学习算法以及学习理论。监督学习部分讲了回归、生...
分类：
其他好文 时间：
2015-04-08 12:27:20
阅读次数：
109
一、K-近邻算法 ????K-近邻算法是一种分类算法，分类算法是监督学习算法，监督学习算法和无监督学习算法的最大区别就是监督学习需要告诉机器一些正确的事物，也就是训练数据集，而无监督学习算法则不需要事先...
分类：
编程语言 时间：
2015-02-28 18:58:10
阅读次数：
223
笔试： 主要考察智力和数据挖掘题目表示对数据挖掘的算法基本不了解。。1）智力题目1. 小白鼠，饮料，检测有毒饮料问题？http://www.cnblogs.com/purejade/2. 立方体空间问题？3. 饮料瓶换饮料问题？最少需要多少瓶饮料？ 逆向思维。4. 无监督学习算法和监督学习算法区别，...
分类：
其他好文 时间：
2015-01-30 19:27:16
阅读次数：
139
在有监督学习中，训练样本是有类别标签的。现在假设我们只有一个没有带类别标签的训练样本集合 ，其中 。自编码神经网络是一种无监督学习算法，它使用了反向传播算法，并让目标值等于输入值，比如 。下图是一个自编码神经网络的示例。通过训练，我们使输出 接近于输入 。当我们为自编码神经网络加入某些限制，比如限定...
分类：
编程语言 时间：
2015-01-07 23:22:05
阅读次数：
1196
Sparse Autoencoder稀疏自编码器实验报告1.Sparse Autoencoder稀疏自编码器实验描述 自编码神经网络是一种无监督学习算法，它使用了反向传播算法，并让目标值等于输入值，比如 。自编码神经网络尝试学习一个 的函数。换句话说，它尝试逼近一个恒等函数，从而使得输出 接近于.....
分类：
Web程序 时间：
2014-10-17 00:19:13
阅读次数：
583
