从统计学角度来看深度学习（1）：递归广义线性模型原文链接：http://blog.shakirm.com/2015/01/a-statistical-view-of-deep-learning-i-recursive-glms/作者：Shakir Mohamed 翻译：王小宁 审校：冯凌秉 ...
分类：
其他好文 时间：
2015-05-27 11:55:30
阅读次数：
196
本系列文章允许转载，转载请保留全文！【请先阅读】【说明&总目录】http://www.cnblogs.com/tbcaaa8/p/4415055.html1. 指数分布族简介之前的文章分别介绍了因变量服从高斯分布、伯努利分布、泊松分布、多项分布时，与之对应的回归模型，本文章将阐释这些模型的共同点，并...
分类：
系统相关 时间：
2015-05-16 20:13:32
阅读次数：
232
在广告推荐系统中，利用用户和广告之间的信息作为预测的特征
预测的过程其实就是一个二分类的问题，主要就是判定一个用户对这个广告点击或者是不点击的概率是多少
而这个过程是一个伯努利函数，整个过程是一个伯努利分布
而在逻辑回归中主要是在线性回归的基础上利用了一个逻辑函数sigmod，而为什么要用这个函数，逻辑回归与线性回归之间的关系：
1 广义线性模型：
指数家...
分类：
其他好文 时间：
2015-04-26 18:25:38
阅读次数：
149
指数分布族 首先需要提及下指数分布族，它是指一系列的分布，只要其概率密度函数可以写成下面这样的形式：\(\begin{aligned} p(y;\eta)=b(y)exp(\eta^TT(y)-a(\eta))\end{aligned}\) 一般的很多分布（如高斯分布，泊松分布，二项式分布，伽马.....
分类：
其他好文 时间：
2015-04-13 18:40:56
阅读次数：
152
牛顿方法本次课程大纲：1、牛顿方法：对Logistic模型进行拟合2、指数分布族3、广义线性模型（GLM）：联系Logistic回归和最小二乘模型复习：Logistic回归：分类算法假设给定x以为参数的y=1和y=0的概率：求对数似然性：对其求偏导数，应用梯度上升方法，求得：本次课程介绍的牛顿方法是...
分类：
其他好文 时间：
2015-04-11 14:49:46
阅读次数：
166
最近一直在回顾linear regression model和logistic regression model，但对其中的一些问题都很疑惑不解，知道我看到广义线性模型即Generalized Linear Model后才恍然大悟原来这些模型是这样推导的，在这里与诸位分享一下，具体更多细节可以参.....
分类：
其他好文 时间：
2015-03-13 23:35:14
阅读次数：
166
广义线性模型
广义线性模型应满足三个假设：
第一个假设为给定X和参数theta,Y的分布服从某一指数函数族的分布。
第二个假设为给定了X，目标是输出 X条件下T(y)的均值，这个T(y)一般等于y，也有不等的情况，
第三个假设是对假设一种的变量eta做出定义。
指数函数族
前面提到了指数函数族，这里给出定义，满足以下形式的函数构成了指数函数族：...
分类：
其他好文 时间：
2015-03-12 22:33:16
阅读次数：
216
一、广义线性模型概念 在讨论广义线性模型之前，先回顾一下基本线性模型，也就是线性回归。 在线性回归模型中的假设中，有两点需要提出： （1）假设因变量服从高斯分布：$Y={{\theta }^{T}}x+\xi $，其中误差项$\xi \sim N(0,{{\sigma }^{2}})$，那么因...
分类：
其他好文 时间：
2015-01-29 14:13:11
阅读次数：
523
普通线性回归的形式为：（之所以这么写是因为的线性才是线性的所指）线性回归模型有一下以下几个特征：1.2.x,y 通常取值连续3.y的分布为正态分布或接近正态。广义线性模型进行了如下推广：1.，h为严格单调充分光滑已知函数。（h的反函数）称为联系函数。;2.x,y可去连续或离散值，离散值比较常见。3....
分类：
其他好文 时间：
2014-12-11 01:29:30
阅读次数：
238
