指数分布族 首先需要提及下指数分布族,它是指一系列的分布,只要其概率密度函数可以写成下面这样的形式:\(\begin{aligned} p(y;\eta)=b(y)exp(\eta^TT(y)-a(\eta))\end{aligned}\) 一般的很多分布(如高斯分布,泊松分布,二项式分布,伽马.....
分类:
其他好文 时间:
2015-04-13 18:40:56
阅读次数:
152
牛顿方法本次课程大纲:1、牛顿方法:对Logistic模型进行拟合2、指数分布族3、广义线性模型(GLM):联系Logistic回归和最小二乘模型复习:Logistic回归:分类算法假设给定x以为参数的y=1和y=0的概率:求对数似然性:对其求偏导数,应用梯度上升方法,求得:本次课程介绍的牛顿方法是...
分类:
其他好文 时间:
2015-04-11 14:49:46
阅读次数:
166
Exponential family(指数分布族)是一个经常出现的概念,但是对其定义并不是特别的清晰,今天好好看了看WIKI上的内容,有了一个大致的了解,先和大家分享下。本文基本是WIKI上部分内容的翻译。 1. 几个问题 什么是指数分布族? 既然是”族“,那么族内的共同特点是什么? 为何指数分布族...
分类:
其他好文 时间:
2015-04-03 17:11:42
阅读次数:
233
在Lecture4中有3部分内容: Newton’s method 牛顿方法 Exceponential Family 指数分布族 Generalized Linear Models 广义线性模型(GLMS) 牛顿法上一篇随便中已经讲过了,是平行于梯度下降算法的另一种最优化算法。 然后,视频中证明了...
分类:
其他好文 时间:
2014-09-11 18:59:42
阅读次数:
278
Generlized Linear Models 广义线性模型Linear
Regression和Logistic Regression都是广义线性模型的特例The exponential
family自然指数分布族当概率密度函数可以写成下面的形式,我们称属于自然指数分布族: η 特性[自然]参数 ...
分类:
其他好文 时间:
2014-05-23 06:30:48
阅读次数:
273