Logistic regression （逻辑回归）是当前业界比较常用的机器学习方法，用于估计某种事物的可能性。比如某用户购买某商品的可能性，某病人患有某种疾病的可能性，以及某广告被用户点击的可能性等。（注意这里是：“可能性”，而非数学上的“概率”，logisitc回归的结果并非数学定义中的概率值，...
分类：
其他好文 时间：
2015-04-20 20:50:07
阅读次数：
216
梯度下降法存在的问题 梯度下降法的基本思想是函数沿着其梯度方向增加最快，反之，沿着其梯度反方向减小最快。在前面的线性回归和逻辑回归中，都采用了梯度下降法来求解。梯度下降的迭代公式为：\(\begin{aligned} \theta_j=\theta_j-\alpha\frac{\partial\;....
分类：
其他好文 时间：
2015-04-20 16:26:05
阅读次数：
3950
本节将一下逻辑回归和R语言实现，逻辑回归(LR，LogisticRegression)其实属于广义回归模型，根据因变量的类型和服从的分布可以分为，普通多元线性回归模型，和逻辑回归，逻辑回归是指因变量是离散并且取值范围为{0，1}两类，如果离散变量取值是多项即变为 multi-class classification，所以LR模型是一个二分类模型，可以用来做CTR预测等。那么我们现在来引出逻辑回归如何做二分类问题。...
分类：
编程语言 时间：
2015-04-15 19:38:05
阅读次数：
737
本系列内容大部分来自Standford公开课machine learning中Andrew老师的讲解，附加自己的一些理解，编程实现和学习笔记。第一章 Logistic regression1.逻辑回归逻辑回归是一种监督学习的分类算法，相比较之前的线性回归算法，差别在于它是一个分类算法，这也意味着y不...
分类：
其他好文 时间：
2015-04-12 11:56:50
阅读次数：
225
在使用mahout之前要安装并启动hadoop集群
将mahout的包上传至linux中并解压即可
mahout下载地址：
点击打开链接
mahout中的算法大致可以分为三大类：
聚类，协同过滤和分类
其中
常用聚类算法有：canopy聚类，k均值算法（kmeans），模糊k均值，层次聚类，LDA聚类等
常用分类算法有：贝叶斯，逻辑回归，支持向量机，感知器，神经网络等
...
分类：
编程语言 时间：
2015-04-11 09:04:31
阅读次数：
328
【总目录】http://www.cnblogs.com/tbcaaa8/p/4415055.html1. 梯度下降法梯度下降法是一种用来寻找函数最小值的算法。算法的思想非常简单：每次沿与当前梯度方向相反的方向走一小步，并不断重复这一过程。举例如下：[例]使用梯度下降法，求的最小值。第一步：求解迭代格...
分类：
系统相关 时间：
2015-04-11 01:15:47
阅读次数：
199
当我们使用mllib做分类，用到逻辑回归或线性支持向量机做分类时，可能会出现下面的错误：
15/04/09 21:27:25 ERROR DataValidators: Classification labels should be 0 or 1. Found 3000000 invalid labels
Exception in thread "main" org.apache.spark.S...
分类：
Web程序 时间：
2015-04-09 23:52:01
阅读次数：
262
什么是线性分类器？
线性分类器试图通过训练集中的样本得出一个分类超平面，目标是最大程度地区分训练集中不同类别的样本，最终把这个分类超平面应用于新样本的分类。
SVM相比一般的线性分类器有什么不同？
SVM以最大化不同类别之间的间隔为优化目标。
SVM和逻辑回归有什么区别？
逻辑回归通过sigmoid函数缩小了远离分类超平面那些点的信息，而SVM直接忽略了那些点的信...
分类：
其他好文 时间：
2015-04-06 21:56:14
阅读次数：
186
在Mahout实现的机器学习算法见下表算法类算法名中文名分类算法Logistic Regression逻辑回归Bayesian贝叶斯SVM支持向量机Perceptron感知器算法Neural Network神经网络Random Forests随机森林Restricted Boltzmann Mach...
分类：
编程语言 时间：
2015-04-02 01:16:53
阅读次数：
178
