在机器学习中，特征选择主要有两个目的： 1. 减少特征数量，提高训练速度 2. 减少噪声特征从而提高模型在测试集上的准确率。一些噪声特征会导致模型出现错误的泛化，容易产生overfitting。 常用的特征选择算法有很多，这里着重介绍其中两个：卡方检验和互信息 一、卡方检验 1. 卡方分布 在说卡方 ...
分类：
其他好文 时间：
2017-05-15 19:51:52
阅读次数：
1154
Feature Selection 1. Filter: Scoring each feature, filter out good features. 1.1 Chi-Square 卡方检验 1.2 Correlation 相关检验 1.3 Information Gain 信息获取 2. Wra ...
分类：
其他好文 时间：
2017-05-12 13:16:06
阅读次数：
190
Q： 泊松分布最常见的一个应用就是，它作为了排队论的一个输入。 比如在一段时间t（比如 1 个小时）内来到食堂就餐的学生数量肯定不会是一个常数（比如一直是 200 人），而应该符合某种随机规律： 假如在 1 个小时内来 200 个学生的概率是 10%，来 180 个学生的概率是 20%……一般认为， ...
分类：
其他好文 时间：
2017-05-06 19:06:00
阅读次数：
295
卡方检验是基于卡方分布的一种检验方法，属于非参数检验，它统计样本的实际观测值与理论推断值之间的偏离程度，以此计算统计量χ2，χ2越大，二者偏差越大；卡方值越小，二者偏差越小，若两个值完全相等时，χ2值就为0，表明实测值与理论值完全吻合。 很多文献资料中都注明卡方检验适用于分类变量，而一提到分类变量的 ...
分类：
其他好文 时间：
2017-03-29 20:50:47
阅读次数：
1948
引子 首先讲一下什么是卡方检验。卡方检验按照定义来说就是：检验实际的数据分布情况与理论的分布情况是否相同.这样讲比较抽象，这里讲个具体的例子： 拿某地区的年降水天数来说明。比如一年365天中该地区有180天降水，那么该地区的降水概率近似等于50%，那么对于每个月份来讲，是否降水的概率达到了预期的50 ...
分类：
其他好文 时间：
2016-11-03 22:50:38
阅读次数：
1689
卡方检验是用途非常广的一种假设检验方法，它在分类资料统计推断中的应用，包括：两个率或两个构成比比较的卡方检验；多个率或多个构成比比较的卡方检验以及分类资料的相关分析等。 卡方检验是用途非常广的一种假设检验方法，它在分类资料统计推断中的应用，包括：两个率或两个构成比比较的卡方检验；多个率或多个构成比比 ...
分类：
其他好文 时间：
2016-07-24 13:37:01
阅读次数：
928
卡方检验-考察分类变量相关性-“交叉表”或“设定表”中进行； t检验-考察连续变量与分类变量相关性-“设定表”中进行； 线性logsitic回归-研究分类因变量与一组自变量（可连续可分类）的关系； 树结构模型-研究自变量间是否存在交互作用 广义线性模型-在更广范畴建立模型。 1、案例背景 收集脑外伤 ...
分类：
其他好文 时间：
2016-07-13 13:37:55
阅读次数：
721
卡方检验只能对两个分类变量之间是否存在联系进行检验，如果分类变量有多个水平的话，则无法衡量每个水平间的联系。对此，虽然可以使用逻辑回归进行建模，但是如果分类变量的水平非常多，就需要分别设定哑变量，这样对于操作和解释都非常繁琐。而对应分析则是专门解决上述问题的方法，它特别擅长对两个分类变量的多个水平之 ...
分类：
其他好文 时间：
2016-07-07 00:43:32
阅读次数：
1834
t检验和方差分析主要针对于连续变量，秩和检验主要针对有序分类变量，而卡方检验主要针对无序分类变量（也可以用于连续变量，但需要做离散化处理），用途同样非常广泛，基于卡方统计量也衍生出来很多统计方法。 卡方统计量是基于卡方分布的一种检验方法，根据频数值来构造统计量，是一种非参数检验方法。SPSS中在交叉 ...
分类：
其他好文 时间：
2016-06-18 11:29:15
阅读次数：
220
对于分类数据的分析，最简单也是最广泛使用的是卡方检验，但卡方检验在处理分类数据时，有两个局限： 1.卡方检验只能简单描述变量间的相关关系，而无法分析出具体的因果关系或变量间相互作用（效应）大小2.卡方检验通常用于2*2列联表，而对于高维列联表，则无法系统的评价变量间的关系，而对数线性模型则是分析高维 ...
分类：
其他好文 时间：
2016-04-13 14:34:19
阅读次数：
309
