zaish上一节讲了线性回归中L2范数的应用，这里继续logistic回归L2范数的应用。 先说一下问题：有一堆二维数据点，这些点的标记有的是1，有的是0.我们的任务就是制作一个分界面区分出来这些点。如图（标记是1的样本用+表示，0的用红点表示）： 这其实是一个二分类问题，然后我们就想到了logis...
分类：
其他好文 时间：
2014-12-27 15:07:33
阅读次数：
293
回归是统计学中最有力的工具之一。回归算法用于连续型分布预测，针对的是数值型的样本，使用回归，可以在给定输入的时候预测出一个数值，这是对分类方法的提升，因为这样可以预测连续型数据而不仅仅是离散的类别标签。回归的目的就是建立一个回归方程用来预测目标值，回归的求解就是求这个回归方程的回归系数。预测的方法当然十分简单，回归系数乘以输入值再全部相加就得到了预测值。说到回归，常常指的也就是线性回归，因此本文阐述的就是多元线性回归方程的求解和应用，通过Python实现。...
分类：
编程语言 时间：
2014-12-23 14:02:03
阅读次数：
822
监督学习（supervised learning）：叫监督学习的原因是因为我们告诉了算法，我们想要预测什么。所谓监督，其实就是我们的意愿是否能直接作用于预测结果。典型代表：分类（classification）和回归（regression）。非监督学习（unsupervised learning）：在...
分类：
其他好文 时间：
2014-12-21 00:39:40
阅读次数：
232
在本节中，我们介绍Softmax回归模型，该模型是logistic回归模型在多分类问题上的推广，在多分类问题中，类标签可以取两个以上的值。 Softmax回归模型对于诸如MNIST手写数字分类等问题是很有用的，该问题的目的是辨识10个不同的单个数字。Softmax回归是有监督的，不过后面也会介绍它与...
分类：
其他好文 时间：
2014-12-18 16:54:12
阅读次数：
290
一：交叉验证（crossvalidation）（附实验的三种方法）方法简介
（1） 定义：交叉验证(Cross-validation)主要用于建模应用中，例如PCR（Principal Component Regression） 、PLS（Partial
least squares regression）回归建模中。在给定的建模样本中，拿出大部分样本进行建模型，留小部分样本用刚建立的...
分类：
其他好文 时间：
2014-12-18 11:59:28
阅读次数：
175
第一节中说了，logistic 回归和线性回归的区别是：线性回归是根据样本X各个维度的Xi的线性叠加（线性叠加的权重系数wi就是模型的参数）来得到预测值的Y，然后最小化所有的样本预测值Y与真实值y'的误差来求得模型参数。我们看到这里的模型的值Y是样本X各个维度的Xi的线性叠加，是线性的。 Y=WX ...
分类：
其他好文 时间：
2014-12-17 18:11:42
阅读次数：
8732
三、你为什么需要Spark； 你需要Spark的十大理由： 1，Spark是可以革命Hadoop的目前唯一替代者，能够做Hadoop做的一切事情，同时速度比Hadoop快了100倍以上： ? Logistic?regression?in?Hadoop?and?Spark 可...
分类：
其他好文 时间：
2014-12-16 22:48:46
阅读次数：
235
使用theano编写Logistic Regression程序，进行二分类，初学者可以参考。...
分类：
其他好文 时间：
2014-12-13 10:56:30
阅读次数：
292
普通线性回归的形式为：（之所以这么写是因为的线性才是线性的所指）线性回归模型有一下以下几个特征：1.2.x,y 通常取值连续3.y的分布为正态分布或接近正态。广义线性模型进行了如下推广：1.，h为严格单调充分光滑已知函数。（h的反函数）称为联系函数。;2.x,y可去连续或离散值，离散值比较常见。3....
分类：
其他好文 时间：
2014-12-11 01:29:30
阅读次数：
238
logistic回归一般用于二分类问题，比如判断一封邮件是否为垃圾邮件，判断照片中的人是男是女，预测一场比赛输还是赢......当然也可以用于多分类问题，比如k类别，就进行k次logistic回归。logistic回归算法之所以称作“logistic”，是因为它运用了logistic函数，即sigmoid函数。
logistic回归算法一般用于二分类问题（当然也可以多类别，后面会讲）。
logistic回归的算法思想：
重点在于怎么根据训练数据求得最佳拟合参数Θ？这可以用最优化算法来求解，比如常用的梯度上升...
分类：
编程语言 时间：
2014-12-10 14:18:25
阅读次数：
502
