思路:
之前的线性回归都是根据特征值服从的分布猜想结果,生成算法是根据结果猜想特征值的分布。
贝叶斯公式:
GDA高斯分类器:模型:写成表达式的形式:
分离效果图:
推理:
原理:根据上述表达式的形式和最大似然原理,我们要求出这两个高斯分布,使给出的case最大限度的符合。
写成表达式的形式:原因:为什么要求p(y|x)p(y|x)的最大似然:因为我们是要求给出XX后预测YY,因此我们要求给出x下y...
分类:
编程语言 时间:
2015-06-27 09:56:38
阅读次数:
135
STANFORD机器学习公开课第4-5讲算法,文章主要介绍简单的二分类算法:线性分类器、高斯判别分析、朴素贝叶斯。...
分类:
其他好文 时间:
2015-06-04 13:56:03
阅读次数:
171
本课内容:
生成学习算法的介绍;
第一个典型的生成学习算法——高斯判别分析;
生成学习算法与之前的判别学习算法的对比;
朴素贝叶斯算法,
Laplace平滑。
1.生成学习算法学习算法分为两种:一种是判别学习算法(Discriminative Learning Algorithm),简称DLA,另一种是生成学习算法(Generative Learning Algorithm),简称GLA。DLADL...
分类:
编程语言 时间:
2015-05-31 16:57:02
阅读次数:
478
Naive Bayes
在GDA模型中,特征向量xx是连续的实数向量,在这一讲里,我们将要讨论另外一种算法用来处理特征向量xx是离散值的情况。
我们先考虑一个例子,用机器学习的方法建立一个垃圾邮件过滤器,我们希望用一种算法来甄别邮件的信息以确定该邮件是不是垃圾邮件,通过学习这个算法,我们将能建立自己的垃圾邮件过滤器帮我们对邮件进行分类,邮件分类只是一系列我们称之为\textbf{文本分类}中的...
分类:
其他好文 时间:
2015-05-21 19:41:05
阅读次数:
247
http://www.codeproject.com/Articles/630277/Generic-Data-Access-Layer-GDA-Part-Ihttp://www.codeproject.com/Articles/681565/Self-Synchronized-Data-Acces...
分类:
数据库 时间:
2015-05-06 17:23:09
阅读次数:
155
生成学习算法本次课程大纲:1、生成学习算法2、高斯判别分析(GDA,Gaussian Discriminant Analysis)-高斯分布(简要)-对比生成学习算法&判别学习算法(简要)3、朴素贝叶斯4、Laplace平滑复习:分类算法:给出一个训练集,若使用logistic回归算法,其工作方式是...
分类:
编程语言 时间:
2015-04-11 14:48:14
阅读次数:
209
近来看论文中经常看到GDA和朴素贝叶斯,并且论文中说的算法中用到的贝叶斯公式,对怎么用的原理比较困惑,今天主要看了斯坦福机器学习的关于GDA,NB和LR的讲义部分。理解了贝叶斯公式在GDA和NB中的原理,以及GDA和LR的关系。
与以前学习贝叶斯公式相比贝叶斯公式:对于目标B有不同的到达方式Ai,i=1,2,3,...,n。已知p(Ai)和p(B|Ai)的话,如果知道B发生了,可以知...
分类:
其他好文 时间:
2014-12-31 22:55:38
阅读次数:
599
参考:cs229讲义机器学习(一):生成学习算法Generative Learning algorithms:http://www.cnblogs.com/zjgtan/archive/2013/06/08/3127490.html首先,简单比较一下前几节课讲的判别学习算法(Discriminati...
分类:
编程语言 时间:
2014-12-05 07:03:54
阅读次数:
354
高斯判别分析(Gaussian discriminative analysis )是一个较为直观的模型,基本的假设是我们得到的数据是独立同分布的(IID),虽然在实际中这种假设很难达到,但有时候拥有了好的假设可以得到较好的结果。在Andrew Ng大神的CS229 Lecture notes中有.....
分类:
其他好文 时间:
2014-11-23 21:29:26
阅读次数:
944