logistic distribution 设X是连续随机变量,X服从逻辑斯谛分布是指X具有下列分布函数和密度函数: 式中,μ为位置参数,γ>0为形状参数。 密度函数是脉冲函数 分布函数是一条Sigmoid曲线(sigmoid curve)即为阶跃函数 二项逻辑斯谛回归模型 二项逻辑斯谛回归模型是如...
分类:
其他好文 时间:
2015-06-12 20:39:16
阅读次数:
146
此次主要由自我学习过度到深度学习,简单记录如下:
(1)深度学习比浅层网络学习对特征具有更优异的表达能力和紧密简洁的表达了比浅层网络大的多的函数集合。
(2)将传统的浅层神经网络进行扩展会存在数据获取、局部最值和梯度弥散的缺点。
(3)栈式自编码神经网络是由多层稀疏自编码器构成的神经网络(最后一层采用的softmax回归或者logistic回归分类),采用逐层贪婪的训练方法得到初始的参数,这...
分类:
其他好文 时间:
2015-06-11 14:41:24
阅读次数:
594
逻辑分布(Logistic distribution)公式 P(Y=1│X=x)=exp(x‘β)/(1+exp(x‘β)) 其中参数β常用极大似然估计。 Logit模型是最早的离散选择模型,也是目前应用最广的模型。 Logit模型的应用广泛性的原因主要是因为其...
分类:
其他好文 时间:
2015-06-11 09:40:08
阅读次数:
133
鲁棒局部加权回归算法参考文献:(1) Robust Locally Weighted Regression and Smoothing Scatterplots (Willism_S.Cleveland)(2) 数据挖掘中强局部加权回归算法实现 (虞乐,肖基毅)R实现#Robust Locally ...
分类:
其他好文 时间:
2015-06-09 15:21:42
阅读次数:
494
线性回归容易出现过拟合或欠拟合的问题。局部加权线性回归是一种非参数学习方法,在对新样本进行预测时,会根据新的权值,重新训练样本数据得到新的参数值,每一次预测的参数值是不相同的。权值函数:t用来控制权值的变化速率(建议对于不同的样本,先通过调整t值确定合适的t)不同t值下的权值函数图像:局部加权线性回...
分类:
其他好文 时间:
2015-06-07 18:41:19
阅读次数:
4194
Linear Regression with One Variablemodel Representation以上篇博文中的房价预测为例,从图中依次来看,m表示训练集的大小,此处即房价样本数量;x表示输入变量或feature(特征),此处即房子面积;y是输出变量或目标变量,此处即房子价格。(x,y)...
分类:
系统相关 时间:
2015-06-07 06:10:54
阅读次数:
214
Example: Polynomial Curve Fitting The goal of regression is to predict the value of one or more continuous target variables t given the value of a D-d...
分类:
其他好文 时间:
2015-06-06 23:27:37
阅读次数:
369
Linear_regression与 Logistic_regression简单比较与实现
好久没写博客了,在度厂实习期间更是天天累成了狗的节奏,最近有幸蹭到隔壁组老大小黑黑关于machine learning这块的培训(以下图片均摘自小黑黑的PPT),甚是感动,决定好好学习下这块的东西。Linear_regression 和 Logistic_regression 其实是非常相似的两种算法。...
分类:
编程语言 时间:
2015-06-01 00:51:07
阅读次数:
268
转自:http://blog.csdn.net/dongtingzhizi/article/details/16884215Linear Regression总结作者:洞庭之子微博:洞庭之子-Bing(2013年11月)关于linear regression,Andrew Ng老师的课程中介绍了两种...
分类:
其他好文 时间:
2015-05-30 19:39:34
阅读次数:
136
转自:http://blog.csdn.net/dongtingzhizi/article/details/15962797Logistic回归总结作者:洞庭之子微博:洞庭之子-Bing(2013年11月)PDF下载地址:http://download.csdn.net/detail/lewsn20...
分类:
其他好文 时间:
2015-05-30 18:10:14
阅读次数:
205