回头再温习一下Andrew Ng的机器学习视频课，顺便把没写完的笔记写完。本节内容
牛顿方法
指数分布族
广义线性模型
之前学习了梯度下降方法，关于梯度下降（gradient descent），这里简单的回顾下【参考感知机学习部分提到的梯度下降(gradient descent)】。在最小化损失函数时，采用的就是梯度下降的方法逐步逼近最优解，规则为θ:=θ?η?θ?(θ)\theta := \the...
分类：
其他好文 时间：
2015-10-06 16:56:25
阅读次数：
363
GLEW, GLFW和GLM介绍现在你有了工程，就让我们开始介绍下工程所用到的开源库和为啥需要这些。The OpenGL Extension Wrangler (GLEW)是用来访问OpenGL 3.2 API函数的。不幸的是你不能简单的使用#include来访问OpenGL接口，除非你想用旧版本的...
分类：
其他好文 时间：
2015-08-20 12:20:18
阅读次数：
127
1. 监督学习的一种方法学，广义线性模型（GLM）的方法学【转载时请注明来源】：http://www.cnblogs.com/aria313——根据Andrew Ng 2008年课程的第1~4节，以及相关的讲义notes 1，进行总结网易公开课地址：http://study.163.com/plan...
分类：
其他好文 时间：
2015-08-16 22:42:20
阅读次数：
295
fMRI model specifictaion GLM based包括以下步骤：①明确GLM设计矩阵；②用经典或贝叶斯方法估计GLM参数；③利用对比向量检查结果，生成统计参数图（SPMs）以及后验概率图（PPMs）。Design matrix：每行对应一个scan，每列对应一个影响变量或解释变量（...
分类：
其他好文 时间：
2015-08-09 16:58:34
阅读次数：
724
一、glm的优点glm是一个发展了十年以上的数学库，这个库很不错。很多教材，书籍，资料大量使用glm，了解glm有助于阅读这些资料。1.模仿glsl的接口这个实在是非常方便理解和记忆，你不需要在c++和glsl中使用两套完全不同的接口2.大量采用模板代码复用率非常高，而且结构可以说是..
分类：
其他好文 时间：
2015-08-02 18:29:34
阅读次数：
171
一直听闻Logistic Regression逻辑回归的大名，比如吴军博士在《数学之美》中提到，Google是利用逻辑回归预测搜索广告的点击率。因为自己一直对个性化广告感兴趣，于是疯狂google过逻辑回归的资料，但没有一个网页资料能很好地讲清到底逻辑回归是什么。幸好，在CS229第三节课介绍了逻辑...
分类：
其他好文 时间：
2015-07-16 16:22:02
阅读次数：
268
逻辑回归是广义线性模型的一种特殊情况，但是在前面这篇http://blog.csdn.net/zhangzhengyi03539/article/details/46574803 讲逻辑回归的时候没有说明为什么要采用单极型函数，这篇文章将会从浅入深的讲解一下广义线性模型。
首先来说一下指数分布族。...
分类：
其他好文 时间：
2015-07-11 09:18:34
阅读次数：
150
指数分布族形式：应用：1. logistic 回归：
logistics 回归其实是伯努利分布。p(y;θ)=θy?(1?θ)1?yp(y;\theta) = \theta^y * (1-\theta)^{1-y} . 其中θ\theta可以看做hθ(x)h_\theta(x)
伯努利分布是指数分布的一个特列：
其中：
η=log(θ1?θ)\eta = log(\frac\theta{...
分类：
其他好文 时间：
2015-06-21 13:16:24
阅读次数：
239
LR回顾
LR是机器学习入门的第一道坎，总结一下，Linear Regression 和logistic Regression都是属于GLM，套了logistic之后，输出结果就变成一个概率了，loss function和 likelihood function取反是类似的东西，都可以作为优化的目标。但我感觉 likelihood
function从概率统计上来说，更有理论支持吧。loss ...
分类：
其他好文 时间：
2015-06-15 00:19:46
阅读次数：
465
R语言glm函数学习： 【转载时请注明来源】：http://www.cnblogs.com/runner-ljt/ Ljt 作为一个初学者，水平有限，欢迎交流指正。glm函数介绍：glm(formula, family=family.generator, data,control = list(.....
分类：
其他好文 时间：
2015-06-14 16:30:07
阅读次数：
1235
