前文提到过，除了开方检验（CHI）以外，信息增益（IG，Information Gain）也是非常有效的特征选择方法。但凡是特征选择，总是在将特征的重要程度量化之后再进行选择，而怎样量化特征的重要性，就成了各种方法间最大的不同。开方检验中使用特征与类别间的关联性来进行这个量化，关联性越强，特征得分越...
分类：
其他好文 时间：
2014-10-21 22:55:49
阅读次数：
276
前文提到过，除了开方检验（CHI）以外，信息增益（IG，Information Gain）也是非常有效的特征选择方法。但凡是特征选择，总是在将特征的重要程度量化之后再进行选择，而怎样量化特征的重要性，就成了各种方法间最大的不同。开方检验中使用特征与类别间的关联性来进行这个量化，关联性越强，特征得分越...
分类：
其他好文 时间：
2014-10-16 20:39:23
阅读次数：
164
例子：分类：play or not ？（是/否） 目的：根据训练样本集S构建出一个决策树，然后未知分类样本通过决策树就得出分类。问题：怎么构建决策树，从哪个节点开始（选择划分属性的问题）方法：ID3(信息增益)，C4.5(信息增益率)，它们都是用来衡量给定属性区分训练样例的能力。1. 为了理解信息....
分类：
编程语言 时间：
2014-10-11 16:33:06
阅读次数：
256
信息熵很亮的是在你知道一个事件的结果后，平均会带给你多大的信息量，当事件的不确定性越大，那么要搞清它所需要的信息量也就越大，也就是信息熵越大，是无序性，不确定性的度量指标。
信息熵的计算：
-p[i]logp[i]，底数为2
public static double calcEntropy(int p[]) {
double entropy = 0;
// 用来计算总的样本数量，p[...
分类：
其他好文 时间：
2014-08-25 15:01:05
阅读次数：
293
前文提到过，除了开方检验（CHI）以外，信息增益（IG，Information Gain）也是非常有效的特征选择方法。但凡是特征选择，总是在将特征的重要程度量化之后再进行选择，而怎样量化特征的重要性，就成了各种方法间最大的不同。开方检验中使用特征与类别间的关联性来进行这个量化，关联性越强，特征得分越...
分类：
其他好文 时间：
2014-08-23 21:32:11
阅读次数：
230
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-08-03 23:05:56
阅读次数：
416
信息熵和信息增益
一、信息熵
信息熵是信息论中的基本概念。信息论由Shannon于1948年提出并发展起来，用于解决信息传递过程中的问题，也称统计通信理论。它认为：
1、信息传递由信源、信道和信宿组成；
2、传递系统存在于一个随机干扰环境中，因此传递系统对信息的传递是随机误差的。如果把发送信息记为U而接收到信息记 V，由信道可记为通信模型，为P(U|V)。信道模型是一个条件...
分类：
其他好文 时间：
2014-07-28 00:03:29
阅读次数：
451
前文提到过，除了开方检验（CHI）以外，信息增益（IG，Information Gain）也是非常有效的特征选择方法。但凡是特征选择，总是在将特征的重要程度量化之后再进行选择，而怎样量化特征的重要性，就成了各种方法间最大的不同。开方检验中使用特征与类别间的关联性来进行这个量化，关联性越强，特征得分越...
分类：
其他好文 时间：
2014-07-24 17:34:45
阅读次数：
184
前文提到过，除了开方检验（CHI）以外，信息增益（IG，Information Gain）也是非常有效的特征选择方法。但凡是特征选择，总是在将特征的重要程度量化之后再进行选择，而怎样量化特征的重要性，就成了各种方法间最大的不同。开方检验中使用特征与类别间的关联性来进行这个量化，关联性越强，特征得分越...
分类：
其他好文 时间：
2014-07-23 16:49:21
阅读次数：
153
