Logistic回归的使用和缺失值的处理从疝气病预测病马的死亡率数据集：UCI上的数据，368个样本，28个特征测试方法：交叉测试实现细节：1.数据中因为存在缺失值所以要进行预处理，这点待会再单独谈2.数据中本来有三个标签，这里为了简单直接将未能存活和安乐死合并了3.代码中计算10次求均值缺失值的处...
分类：
其他好文 时间：
2014-11-25 01:39:42
阅读次数：
245
Logistic回归算法优缺点：1.计算代价不高，易于理解和实现2.容易欠拟合，分类精度可能不高3.适用数据类型：数值型和标称型算法思想：其实就我的理解来说，logistic回归实际上就是加了个sigmoid函数的线性回归，这个sigmoid函数的好处就在于，将结果归到了0到1这个区间里面了，并且s...
分类：
编程语言 时间：
2014-11-24 00:49:02
阅读次数：
575
今天来讨论多元函数求极值问题，在Logistic回归用牛顿迭代法求参数会提到这个，所以很有必要把它研究清楚。
回想一下，一元函数求极值问题中我们是怎样做的？比如对于凹函数，先求一阶导数，得到，
由于极值处导数一定为零，但是导数等于零的点不一定就有极值，比如。所以我们还需要进一步判断，对
函数继续求二阶导得到，现在因为在驻点处二阶导数成立，所以
在处取得极小值，二阶导数在这里的意义就是...
分类：
其他好文 时间：
2014-11-23 20:19:23
阅读次数：
279
《PRML》中Logistic回归（逻辑回归，LR）的推导...
分类：
其他好文 时间：
2014-11-12 21:16:56
阅读次数：
280
1：简单概念描写叙述如果如今有一些数据点，我们用一条直线对这些点进行拟合(改线称为最佳拟合直线)，这个拟合过程就称为回归。训练分类器就是为了寻找最佳拟合參数，使用的是最优化算法。基于sigmoid函数分类：logistic回归想要的函数可以接受全部的输入然后预測出类别。这个函数就是sigmoid函数...
分类：
其他好文 时间：
2014-11-02 16:28:04
阅读次数：
263
一、引言 本材料参考Andrew Ng大神的机器学习课程http://cs229.stanford.edu 在上一篇有监督学习回归模型中，我们利用训练集直接对条件概率p(y|x;θ)建模，例如logistic回归就利用hθ(x) = g(θTx)对p(y|x;θ)建模（其中g(z)是sigmoi.....
分类：
其他好文 时间：
2014-11-01 17:46:57
阅读次数：
202
机器学习实战python因为图像处理的原因，初步学习机器学习，选用语言python，参考书籍《机器学习实战》环境：python3.4+ windows7 +64位系统首先，今天解决的是安装numpy1）安装python，这个比较简单，去官网下载个安装包就可以了，地址：https://www.pyth...
分类：
编程语言 时间：
2014-10-29 18:36:02
阅读次数：
235
机器学习实战中也详细描述了梯度上升算法，附件里是一些笔记，再贴一个还不错的帖子转http://blog.csdn.net/wyb_009/article/details/9205151这个算法搞得 我晚上十点打电话给弟弟，问Ln(x)，1/x的导数公式。很惭愧，大学时被我用的出神入化、化成灰我都能认...
分类：
编程语言 时间：
2014-10-24 10:24:57
阅读次数：
894
