回归与梯度下降：回归在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归，回归还有很多的变种，如locally weighted回归，logistic回归，等等，这个将在后面去讲。用一个很简单的例子来说明回归，这个例...
分类：
其他好文 时间：
2014-10-16 00:32:31
阅读次数：
401
Logistic回归的理论内容上篇文章已经讲述过，在求解参数时可以用牛顿迭代，可以发现这种方法貌似太复杂，今天我们介绍另一种方法，叫梯度下降。当然求最小值就是梯度下降，而求最大值相对就是梯度上升。由于，如果，那么得到现在我们要找一组，使得所有的最接近，设现在我们要找一组，使得最小。这就是今天要介绍的...
分类：
编程语言 时间：
2014-10-15 22:52:11
阅读次数：
960
logistic回归与python实现，理论与实际结合。...
分类：
编程语言 时间：
2014-10-14 17:29:58
阅读次数：
290
参考：http://blog.csdn.net/dongtingzhizi/article/details/159627971.简述 在线性回归中，h函数的输出值为连续值，当需要进行归类时，输出的应该是离散值，如何将连续值转换成离散值？ 如果分类结果只有两个，用1,0表示。我们希望有：函数1/(1+...
分类：
编程语言 时间：
2014-10-13 19:41:28
阅读次数：
198
接着以前的《SAS编程与数据挖掘商业案例》，之前全是sas的基础知识，现在开始进入数据挖掘方面笔记，本文主要介绍数据挖掘基本流程以及应用方向，并以logistic回归为例说明。
一：数据挖掘综述
衡量一个数据挖掘模型价值的唯一标准就是商业目标，为达到一个商业目标，有很多种方法，只有高效解决商业目标的方法才是最牛的方法，即使是看似简单的方法，只要能高效解决商业目标，我们就认为是牛的方法；...
分类：
其他好文 时间：
2014-09-29 18:29:01
阅读次数：
397
信用评分卡模型在国外是一种成熟的预测方法，尤其在信用风险评估以及金融风险控制领域更是得到了比较广泛的使用，其原理是将模型变量WOE编码方式离散化之后运用logistic回归模型进行的一种二分类变量的广义线性模型。
本文重点介绍模型变量WOE以及IV原理，为表述方便，本文将模型目标标量为1记为违约用户，对于目标变量为0记为正常用户；则WOE(weight
of Evidenc...
分类：
其他好文 时间：
2014-09-26 19:39:28
阅读次数：
430
logistic回归又称logistic回归分析，主要在流行病学中应用较多，比较常用的情形是探索某疾病的危险因素，根据危险因素预测某疾病发生的概率。相关DEMO参见:混沌数学之离散点集图形DEMOlogistic的用途： 一、寻找危险因素，正如上面所说的寻找某一疾病的危险因素等。 二、预测...
分类：
其他好文 时间：
2014-09-15 12:36:58
阅读次数：
233
机器学习(4)之Logistic回归1. 算法推导 与之前学过的梯度下降等不同，Logistic回归是一类分类问题，而前者是回归问题。回归问题中，尝试预测的变量y是连续的变量，而在分类问题中，y是一组离散的，比如y只能取{0,1}。 假设一组样本为这样如图所示，如果需要用线性回归来拟合这些样本...
分类：
其他好文 时间：
2014-09-11 23:45:12
阅读次数：
348
之前我们在求Logistic回归时，用的是梯度上升算法，也就是要使得似然函数最大化，利用梯度上升算法，不断的迭代。这节课引出牛顿方法，它的作用和梯度上升算法的一样的，不同的是牛顿方法所需的迭代次数更少，收敛速度更快。红色曲线是利用牛顿法迭代求解，绿色曲线是利用梯度下降法求解。牛顿法：wiki牛顿法（...
分类：
其他好文 时间：
2014-09-10 15:30:40
阅读次数：
317
这篇日志也确实是有感而发，我对R不熟悉，但实验需要，所以简单学了一下。发现无论是网上无数的教程，还是书本上的示例，在讲Logistic Regression的时候就是给一个简单的函数及输出结果说明。从来都没有讲清楚几件事情：
1. 怎样用训练数据训练模型，然后在测试数据上进行验证（测试数据和训练数据可能有重合）？
2. 怎样计算预测的效果，也就是计算Recall，Precision，F...
分类：
其他好文 时间：
2014-09-03 22:46:07
阅读次数：
939
