LICENSE
Deep Learning Tutorials
Getting Started
Datasets
Notation
A Primer on Supervised Optimization for Deep Learning
Theano/Python Tips
Classifying MNIST digits using Logistic Regression...
分类:
其他好文 时间:
2014-06-05 03:05:05
阅读次数:
210
1.模型简介:说起统计中最常用的模型,非回归莫属。在挖掘中,也只有回归能很好的解决因变量为连续型变量的预测问题,这篇文章主要对回归中一种特殊的形式:Logistic回归。Logistic回归解决的是分类问题,特别在二项分布中,Logistic是最重要的模型(没有之一)。Logistic回归根据因变量...
分类:
其他好文 时间:
2014-06-03 14:03:00
阅读次数:
338
Logistic回归主要用于医学中对流行病分析,或者对某种疾病的危险因素分析。通常用于二分类,也就是说因变量
只有两个,当然也可以用于多分类。
Logistic回归的理论内容上篇文章已经讲述过,在求解参数时可以用牛顿迭代,可以发现这种方法貌似
太复杂,今天我们介绍另一种方法,叫梯度下降。当然求最小值就是梯度下降,而求最大值相对就是梯度上升。
在Logistic回归中,由于,如果...
分类:
其他好文 时间:
2014-06-03 00:06:19
阅读次数:
353
在线性回归中,由于对参数个数选择的问题是在问题求解之前已经确定好的,因此参数的个数不能很好的确定,如果参数个数过少可能拟合度不好,产生欠拟合(underfitting)问题,或者参数过多,使得函数过于复杂产生过拟合问题(overfitting)。因此本节介绍的局部线性回归(LWR)可以减少这样的风险。
欠拟合与过拟合
首先看下面的图
对于图中的一系列样本点,当我们采用y...
分类:
其他好文 时间:
2014-06-02 23:50:41
阅读次数:
430
回顾上次内容:http://blog.csdn.net/acdreamers/article/details/27365941
经过上次对Logistic回归理论的学习,我们已经推导出取对数后的似然函数为
现在我们的目的是求一个向量,使得最大。其中
对这个似然函数求偏导后得到...
分类:
其他好文 时间:
2014-06-01 04:34:43
阅读次数:
410
Logistic回归为概率型非线性回归模型,是研究二分类观察结果与一些影响因素之间关系的一种多变
量分析方法。通常的问题是,研究某些因素条件下某个结果是否发生,比如医学中根据病人的一些症状来判断它是否患
有某种病。
在讲解Logistic回归理论之前,我们先从LR分类器说起。LR分类器,即Logistic Regression Classifier。
在分类情形下,经过学习后的LR分...
分类:
其他好文 时间:
2014-05-31 17:59:42
阅读次数:
279
Robust regression(稳健回归) 语法 b=robustfit(X,y)
b=robustfit(X,y,wfun,tune) b=robustfit(X,y,wfun,tune,const)
[b,stats]=robustfit(...) 描述 b=robustfit(X...
分类:
其他好文 时间:
2014-05-23 12:29:59
阅读次数:
498
Generlized Linear Models 广义线性模型Linear
Regression和Logistic Regression都是广义线性模型的特例The exponential
family自然指数分布族当概率密度函数可以写成下面的形式,我们称属于自然指数分布族: η 特性[自然]参数 ...
分类:
其他好文 时间:
2014-05-23 06:30:48
阅读次数:
273
SVM(支持向量机),一种二类分类器,之所以称之为向量机,是因为它本身就产生一个二值决策结果,即使一种决策“机”,支持向量机的泛化错误低(具有结构风险最小),具有很强的学习能力,因此很多人认为它是最好的监督学习算法。SVM与Logistic回归的联系:
logistic回归的目的就是从特征...
分类:
其他好文 时间:
2014-05-19 17:48:15
阅读次数:
364
Logistic Regression
逻辑回归解决问题类型二分类问题(classification) Notation给定一个样本集T样本总数为m每个样本记做
其中为输入变量,也称为特征变量;为我们要预测的输出变量,也称为目标变量表示第个样本。 Hypothesis的作用是,对于给定的输入变量,根...
分类:
其他好文 时间:
2014-05-19 11:59:01
阅读次数:
391