从指数分布族去推导出广义线性模型

标签：

指数分布族的定义：

若一类概率分布可以写成如下形式，那么它就属于指数分布族：

η - 自然参数，通常是一个实数

T(y) – 充分统计量，通常，T(y)=y，实际上是一个概率分布的充分统计量（统计学知识）

对于给定的a，b，T三个函数，上式定义了一个以η为参数的概率分布集合，即改变η可以得到不同的概率分布。极限定理得）

记录一下几个指数分布族以及它们的特征：

正态分布（高斯分布）——总体噪音（由中心极限定理得）

伯努利分布——逻辑回归（对01问题建模）

多项式分布——K种结果的事情进行建模

泊松分布——对计数过程进行建模（一个样本中放射性衰变的数目，网站的访客数目，商店的顾客数目）

伽马分布，指数分布——正数的分布，对间隔进行建模（在公交车站等车的时间）

β分布，Dirichlet分布——对小数进行分布，对概率分布进行建模

Wishart分布——协方差的分布

如何从指数分布族去推导出广义线性模型：

明天接着写

参考资料：

1. http://blog.csdn.net/pi9nc/article/details/12571657

从指数分布族去推导出广义线性模型

标签：

原文地址：http://my.oschina.net/hosee/blog/510392