1.模型简介：说起统计中最常用的模型，非回归莫属。在挖掘中，也只有回归能很好的解决因变量为连续型变量的预测问题，这篇文章主要对回归中一种特殊的形式：Logistic回归。Logistic回归解决的是分类问题，特别在二项分布中，Logistic是最重要的模型（没有之一）。Logistic回归根据因变量...
分类：
其他好文 时间：
2014-06-03 14:03:00
阅读次数：
338
Logistic回归主要用于医学中对流行病分析，或者对某种疾病的危险因素分析。通常用于二分类，也就是说因变量
只有两个，当然也可以用于多分类。
Logistic回归的理论内容上篇文章已经讲述过，在求解参数时可以用牛顿迭代，可以发现这种方法貌似
太复杂，今天我们介绍另一种方法，叫梯度下降。当然求最小值就是梯度下降，而求最大值相对就是梯度上升。
在Logistic回归中，由于，如果...
分类：
其他好文 时间：
2014-06-03 00:06:19
阅读次数：
353
回顾上次内容：http://blog.csdn.net/acdreamers/article/details/27365941
经过上次对Logistic回归理论的学习，我们已经推导出取对数后的似然函数为
现在我们的目的是求一个向量，使得最大。其中
对这个似然函数求偏导后得到...
分类：
其他好文 时间：
2014-06-01 04:34:43
阅读次数：
410
Logistic回归为概率型非线性回归模型，是研究二分类观察结果与一些影响因素之间关系的一种多变
量分析方法。通常的问题是，研究某些因素条件下某个结果是否发生，比如医学中根据病人的一些症状来判断它是否患
有某种病。
在讲解Logistic回归理论之前，我们先从LR分类器说起。LR分类器，即Logistic Regression Classifier。
在分类情形下，经过学习后的LR分...
分类：
其他好文 时间：
2014-05-31 17:59:42
阅读次数：
279
参考：《机器学习实战》 优点：计算复杂度不高，
输出结果易于理解，对中间值的缺失不敏感，可以处理不相关特 征数据。 缺点：可能会产生过度匹配问题。 适用数据类型：数值型和标称型。
创建分支的伪代码（createBranch)： 图1 1、信息...
分类：
其他好文 时间：
2014-05-29 16:59:42
阅读次数：
401
//====================================================决策树的构造：构造决策树时，需要解决的第一个问题是，当前数据集上那个特征在划分数据是起决定性作用。为了找到决定性特征，我们必须使用某种度量来评估每个特征。完成评估之后，找到决定性特征，使用该特...
分类：
其他好文 时间：
2014-05-21 18:05:53
阅读次数：
343
k邻近算法采用测量不同特征值之间的距离方法进行分类。优点：精度高、对异常值不敏感、没有数据输入假定；缺点：计算复杂度高、空间复杂度高（占内存）；使用数据范围：数值型和标称型。
k-邻近算法的工作原理是：存在一个训练样本集，并且每个数据都存在标签，即我们知道每个数据都对应的哪个分类。输入一个没有标签的新数据，将新数据的每个特征和样本集中的所有数据进行笔记哦啊，提取出样本集中特征最相似（邻近）的分类...
分类：
编程语言 时间：
2014-05-20 16:54:05
阅读次数：
534
SVM（支持向量机），一种二类分类器，之所以称之为向量机，是因为它本身就产生一个二值决策结果，即使一种决策“机”，支持向量机的泛化错误低（具有结构风险最小），具有很强的学习能力，因此很多人认为它是最好的监督学习算法。SVM与Logistic回归的联系：
logistic回归的目的就是从特征...
分类：
其他好文 时间：
2014-05-19 17:48:15
阅读次数：
364
具体要学习的书籍就是《机器学习实战》Machine Learning in Action，Peter Harrington
Windows下要安装3个文件，分别是;
1.Python（由于python不是向下兼容的，所以推荐2.7版本），网址:http://www.python.org
2.numpy（python的科学计算包）,网址:http://sourceforge.net/proje...
分类：
编程语言 时间：
2014-05-18 09:24:06
阅读次数：
303
1.机器学习的真实含义是利用数据来彰显数据背后的真实含义。
2.机器学习的一般用例：人脸识别、手写数字识别、垃圾邮件过滤、产品推荐等等。
3.机器学习的主要任务是分类，即将实例数据划分到合适的分类中。另一项任务是回归，主要用于预测数值型数据。分类和回归属于监督学习，之所以称为监督学习，是因为这类算法必须知道预测什么，即目标的分类信息。另一种机器学习方式是无监督学习，此时数据没有类别信息，也没有...
分类：
编程语言 时间：
2014-05-18 08:05:07
阅读次数：
320
