C4.5是一系列用在机器学习和数据挖掘的分类问题中的算法。它的目标是监督学习：给定一个数据集，其中的每一个元组都能用一组属性值来描述，每一个元组属于一个互斥的类别中的某一类。C4.5的目标是通过学习，找到一个从属性值到类别的映射关系，并且这个映射能用于对新的类别未知的实体进行分类。 C4.5由J.R... ...
分类：
其他好文 时间：
2016-08-14 15:59:17
阅读次数：
168
定义符号 m:训练样本的数目 n：特征的数量 x‘s：输入变/特征值 y‘s：输出变量/目标变量 (x,y)：训练样本 ->(x(i),y(i)):训练集，第i个训练样本，i=1,2..,m 监督学习 定义：(口头表达，非正式)我们给学习算法一个数据集，这个数据集由“正确答案”组成，它的目标是给定某 ...
分类：
其他好文 时间：
2016-08-12 06:42:01
阅读次数：
161
一、自动编码器
目前为止,我们介绍了神经网络在有标签的训练样本的有监督学习中的应用.现在假设我们只有一个未标记的训练集{x(1),x(2),x(3),…},其中x是n维的.自动编码器神经网络是一种采用反向传播的无监督学习算法,让目标值和输入相等,即让y(i)=x(i).
这是一个自动编码器:
自动编码器试图学习函数hW,b(x)≈x.换句话说,它试图学习恒等函数的逼...
分类：
其他好文 时间：
2016-08-10 22:52:41
阅读次数：
336
监督学习 给出一个算法，需要部分数据集已经有正确答案。比如给定房价数据集。监督学习又叫回归问题 例子：房价预测，癌症预测 无监督学习 样本集未作标记，把一组未标记的数据分成多个聚类 例子：组织计算机集群，社交网络分析 鸡尾酒会问题 从背景噪声中提取有效信息。 [W,s,v]=svd((repmat( ...
分类：
其他好文 时间：
2016-08-02 00:50:04
阅读次数：
362
监督学习，就是人们常说的分类，通过已有的训练样本（即已知数据以及其对应的输出）去训练得到一个最优模型（这个模型属于某个函数的集合，最优则表示在某个评价准则下是最佳的），再利用这个模型将所有的输入映射为相应的输出，对输出进行简单的判断从而实现分类的目的，也就具有了对未知数据进行分类的能力。在人对事物的 ...
分类：
其他好文 时间：
2016-08-02 00:45:25
阅读次数：
157
监督学习KNNK近邻算法defclassify0(inX,dataSet,labels,k):dataSetSize=dataSet.shape[0]diffMat=tile(inX,(dataSetSize,1))-dataSetsqDiffMat=diffMat**2sqDistances=sqDiffMat.sum(axis=1)distances=sqDistances**0.5sortedDistIndicies=distances.argsort()classCount={}for..
分类：
编程语言 时间：
2016-08-01 23:25:40
阅读次数：
253
对统计学习方法中的基础概念和理论做一个总结。逐步更新。 内容摘自《统计学习方法》第一章，第一章内容基本全是重要内容，因此此篇部落格算是一个加入了自己理解思路的读书笔记。 一、统计学习方法包含哪几种？ 监督学习：用于学习的数据集都是输入\输出数据对（有标记的样本），学习的任务是找到输入与输出的对应规则 ...
分类：
其他好文 时间：
2016-07-21 06:12:09
阅读次数：
161
1.原理发现写关于非负矩阵的博文还是蛮多的，还是以自己的角度总结一下自己的最近看的若干东西以及对非负矩阵分解有用的一些资料链接。NMF，全称为non-negative matrix factorization，中文呢为“非负矩阵分解”。NMF的思想：V=WH（W权重矩阵、H特征矩阵、V原矩阵），通过计算从原矩阵提取权重和特征两个不同的矩阵出来。属于一个无监督学习的算法，其中限制条件就是W和H中的所有...
分类：
其他好文 时间：
2016-07-15 21:47:00
阅读次数：
825
机器学习学习笔记1周志华机器学习Flyu6Time: 2016-6-12基本概念的学习Learning Style(学习类型)supervised(监督学习)unsupervised(非监督学习)假设空间归纳 (induction)演绎 (deduction)归纳偏好没有免费午餐(NFL: No F... ...
分类：
其他好文 时间：
2016-07-15 09:34:41
阅读次数：
181
竞争型神经网络是基于无监督学习方法（unsupervised learning）的神经网络的一种重要类型，它经常作为基本的网络形式，构成其他一些具有组织能力的网络，如自组织映射网络、自适应共振理论网络、学习向量量化网络等。 生物神经网络存在一种侧抑制现象，即一个神经细胞兴奋后，通过它的分支会对周围其 ...
分类：
其他好文 时间：
2016-07-10 16:37:10
阅读次数：
123
