指数分布族的定义: 若一类概率分布可以写成如下形式,那么它就属于指数分布族: η?-?自然参数,通常是一个实数 T(y) –?充分统计量,通常,T(y)=y,实际上是一个概率分布的充分统计量(统计学知识) 对于给定...
分类:
其他好文 时间:
2015-09-23 23:34:37
阅读次数:
529
在分类问题中我们假设:
他们都是广义线性模型中的一个例子,在理解广义线性模型之前需要先理解指数分布族。
指数分布族(The Exponential Family)
如果一个分布可以用如下公式表达,那么这个分布就属于指数分布族:
公式中y是随机变量;h(x)称为基础度量值(base measure);
...
分类:
其他好文 时间:
2015-08-17 08:50:25
阅读次数:
158
转载请注明出处:http://www.cnblogs.com/BYRans/ 前面的文章已经介绍了一个回归和一个分类的例子。在逻辑回归模型中我们假设: 在分类问题中我们假设: 他们都是广义线性模型中的一个例子,在理解广义线性模型之前需要先理解指数分布族。指数分布族(The Exponen...
分类:
其他好文 时间:
2015-08-17 06:22:23
阅读次数:
244
1. 监督学习的一种方法学,广义线性模型(GLM)的方法学【转载时请注明来源】:http://www.cnblogs.com/aria313——根据Andrew Ng 2008年课程的第1~4节,以及相关的讲义notes 1,进行总结网易公开课地址:http://study.163.com/plan...
分类:
其他好文 时间:
2015-08-16 22:42:20
阅读次数:
295
总结:由于逻辑回归假定y的条件分布(y|x)是伯努利分布,所以根据广义线性模型和指数分布簇的定义可以得到逻辑回归的假设函数是sigmoid函数。广义线性模型的三个假设——逻辑回归1、 假定服从指数分布簇的某个分布 逻辑回归中,,所以假定【即已知参数θ的情况下,给定x,y的条件概率服从参数的伯努利分....
分类:
其他好文 时间:
2015-07-22 20:17:40
阅读次数:
199
一直听闻Logistic Regression逻辑回归的大名,比如吴军博士在《数学之美》中提到,Google是利用逻辑回归预测搜索广告的点击率。因为自己一直对个性化广告感兴趣,于是疯狂google过逻辑回归的资料,但没有一个网页资料能很好地讲清到底逻辑回归是什么。幸好,在CS229第三节课介绍了逻辑...
分类:
其他好文 时间:
2015-07-16 16:22:02
阅读次数:
268
逻辑回归是广义线性模型的一种特殊情况,但是在前面这篇http://blog.csdn.net/zhangzhengyi03539/article/details/46574803 讲逻辑回归的时候没有说明为什么要采用单极型函数,这篇文章将会从浅入深的讲解一下广义线性模型。
首先来说一下指数分布族。...
分类:
其他好文 时间:
2015-07-11 09:18:34
阅读次数:
150
在前面几篇中分类问题和回归问题里涉及到的伯努利分布和高斯分布都是广义线性模型(Generative Linear Models.GLMs)的特例。下面将详细介绍广义线性模型。
1、指数族
我们可以将一些分布总结到一个指数族中。指数族可表示为:
η是指naturalparameter/canonical parameter,T (y)是指sufficientstatistic...
分类:
其他好文 时间:
2015-07-07 22:57:28
阅读次数:
246
课程2课程2
归纳
回归就是变量之间的关系
相关系数
RSS
线性回归通过R语言
多元线性模型
虚拟变量哑变量
多元线性回归模型
回归诊断
广义线性模型一元以及多元的线性回归,统计学东西比较多,统计学术语一堆堆的
《大数据的统计学基础》基础的基础
logistic回归,划入广义线性回归模型。
变量筛选,从一堆变量中求解出来,以及降维。
1.归纳拟合,一般选择直线或者次数比较低得曲线。(测试有误差,曲...
分类:
其他好文 时间:
2015-06-26 13:04:58
阅读次数:
263
R语言glm函数学习: 【转载时请注明来源】:http://www.cnblogs.com/runner-ljt/ Ljt 作为一个初学者,水平有限,欢迎交流指正。glm函数介绍:glm(formula, family=family.generator, data,control = list(.....
分类:
其他好文 时间:
2015-06-14 16:30:07
阅读次数:
1235