引言
前面几讲，我们主要探讨了如何对 p(y|x;θ\theta) (即yy 相对于xx的条件概率)进行建模的几种学习算法，比如，logistic regression 对 p(y|x;θ\theta) 进行建模的假设函数为 hθ(x)=g(θTx)h_{\theta}(x)=g(\theta^{T}x), 其中函数 gg 为 sigmoid 函数。这一讲我们要讨论另外一类完全不同的学习算法。...
分类：
其他好文 时间：
2015-05-08 18:13:42
阅读次数：
190
内容来自ufldl，代码参考自tornadomeet的cnnCost.m1.Forward PropagationconvolvedFeatures = cnnConvolve(filterDim, numFilters, images, Wc, bc); %对于第一个箭头activationsPo...
分类：
其他好文 时间：
2015-05-08 12:32:41
阅读次数：
409
案例：从疝气病症预测病马的死亡率
准备数据时，数据中的缺失值是个非常棘手的问题。因为有时候数据相当昂贵，扔掉和重新获取都是不可取的，所以必须采用一些方法来解决这个问题。
在预处理阶段需要做两件事：第一，所有的缺失值必须用一个实数值来替换，因为我们使用的NumPy数据类型不允许包含缺失值。这里选择实数0来替换所有缺失值，恰好能适用于Logistic回归。第二，如果...
分类：
编程语言 时间：
2015-05-08 09:41:46
阅读次数：
187
,http://www.r-bloggers.com/a-weighting-function-for-nls-nlslm/ Standard nonlinear regression assumes homoscedastic(同方差的) data, that is , all respo...
分类：
其他好文 时间：
2015-05-07 23:35:59
阅读次数：
159
逻辑斯谛回归模型是研究因变量为二分类或多分类观察结果与影响因素之间的关系的一种概率型非线性回归模型。逻辑斯谛回归系数通过最大似然估计得到。Logistic函数如下： 式中x为 这里 是输入变量的n个特征，然后按照Logistic函数形式求出。 假设有n个独立变量的向量 ，设条件概率 在x条件...
分类：
其他好文 时间：
2015-05-07 21:54:16
阅读次数：
1353
1.1 逻辑回归算法
1.1.1 基础理论
logistic回归本质上是线性回归，只是在特征到结果的映射中加入了一层函数映射，即先把特征线性求和，然后使用函数g(z)将最为假设函数来预测。g(z)可以将连续值映射到0和1上。
它与线性回归的不同点在于：为了将线性回归输出的很大范围的数，例如从负无穷到正无穷，压缩到0和1之间，这样的输出值表达为“可能性”才能说服广大民众。当然了，把大值压缩到这...
分类：
编程语言 时间：
2015-05-07 18:55:51
阅读次数：
391
1、Spark MLlib
Linear Regression线性回归算法
1.1 线性回归算法
1.1.1 基础理论
在统计学中，线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。
回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条...
分类：
编程语言 时间：
2015-05-06 23:07:57
阅读次数：
669
12.4 置换检验点评除coin和lmPerm包外，R还提供了其他可做置换检验的包。perm包能实现coin包中的部分功能，因此可作为coin包所得结果的验证。corrperm包提供了有重复测量的相关性的置换检验。logregperm包提供了Logistic回归的置换检验。另外一个非常重要的包是gl...
分类：
其他好文 时间：
2015-05-05 01:14:42
阅读次数：
414
首先定义几个符号：Xivector[X]：input dataYivector[Y]：output datah(X)hypothesis function对于输入的数据给出预测值Y is continous variation？regression problem（回归问题）Y is discret...
分类：
编程语言 时间：
2015-05-04 01:15:00
阅读次数：
270
引言这一小节介绍一下支持向量回归，我们在之前介绍的核逻辑回归使用表示定理(Representer Theorem)，将逻辑回归编程Kernel的形式，这一节我们沿着这个思路出发，看看如何将回归问题和Kernel的形式结合起来。Kernel Ridge Regression上次介绍的表示定理告诉我们，如果我们要处理的是有L2的正则项的线性模型，其最优解是数据zn的线性组合。我们可以将这样的线性模型变成...
分类：
其他好文 时间：
2015-05-03 23:41:49
阅读次数：
415
