本讲大纲:
1.生成学习算法(Generative learning algorithm)
2.高斯判别分析(GDA,Gaussian Discriminant Analysis)
3.朴素贝叶斯(Naive Bayes)
4.拉普拉斯平滑(Laplace smoothing)
1.生成学习算法
判别学习算法(discriminative learning algorithm):...
分类:
其他好文 时间:
2016-03-28 12:04:30
阅读次数:
218
朴素贝叶斯算法与上篇中写到到生成学习算法的思想是一致的。它不需要像线性回归等算法一样去拟合各种假设的可能,只需要计算各种假设的概率,然后选择概率最高的那种假设分类类别。其中还添入了一个贝叶斯假定:在给定目标值y时属性值x之间相互独立。这样的分类算法被称为朴素贝叶斯分类器(Naive Bayes classifier) 。
1、朴素贝叶斯算法
在朴素贝叶斯算法的模型里,给定的训练集为,...
分类:
编程语言 时间:
2015-07-24 13:04:49
阅读次数:
215
在前面几课里的学习算法的思路都是给定数据集以后,确定基于此数据集的最佳假设H函数,通过学习算法确定最佳假设H的各个参数,然后通过最佳假设函数H得出新的数据集的结果。在这一课里介绍了一种新的思路,它的核心思想是直接计算各种假设的最高概率,然后拟合各个假设的最高概率参数,并利用拟合得到的假设概率,计算出新的数据集的概率,选取概率最高的假设直接得出分类类别。
整个生成学习算法的精髓在于条件概率...
分类:
编程语言 时间:
2015-07-24 09:20:14
阅读次数:
130
引文:由于之前讲过了朴素贝叶斯的理论Stanford机器学习[第五讲]-生成学习算法第四部分,同时朴素贝叶斯的算法实现也讲过了,见机器学习算法-朴素贝叶斯Python实现。那么这节课打算讲解一下朴素贝叶斯算法的具体计算流程,通过一个具体的实例来讲解。PS:为了专注于某一个细节,本章节只抽取了视频的一部分来讲解,只讲解一个贝叶斯算法的计算流程,关于视频里面的具体内容请参考下面的视频链接。讲解的实例是一...
分类:
编程语言 时间:
2015-06-01 18:56:18
阅读次数:
172
本课内容:
生成学习算法的介绍;
第一个典型的生成学习算法——高斯判别分析;
生成学习算法与之前的判别学习算法的对比;
朴素贝叶斯算法,
Laplace平滑。
1.生成学习算法学习算法分为两种:一种是判别学习算法(Discriminative Learning Algorithm),简称DLA,另一种是生成学习算法(Generative Learning Algorithm),简称GLA。DLADL...
分类:
编程语言 时间:
2015-05-31 16:57:02
阅读次数:
478
PART0 判别学习算法引入:二元分类问题建模:判别学习算法(discriminative learning algorithm)直接根据P(y|x)【即给定特征x下的分类结果y】建模之前我们用的算法(如logistic回归)就是判别学习算法PART1 生成学习算法PART1.1 Definitio...
分类:
编程语言 时间:
2015-05-28 07:04:32
阅读次数:
736
转载请注明出处: http://xiahouzuoxin.github.io/notes/判别学习算法和生成学习算法高斯判别分析(Gaussian Discriminant Analysis)朴素贝叶斯算法(Naive Bayesian)拉普拉斯平滑(Laplace smoothing)判别学习算法和生成学习算法判别学习算法:直接学习p(y|x),即直接通过输入特征空间x去确定目标类型{0,1},...
分类:
其他好文 时间:
2015-04-23 17:32:17
阅读次数:
228
生成学习算法本次课程大纲:1、生成学习算法2、高斯判别分析(GDA,Gaussian Discriminant Analysis)-高斯分布(简要)-对比生成学习算法&判别学习算法(简要)3、朴素贝叶斯4、Laplace平滑复习:分类算法:给出一个训练集,若使用logistic回归算法,其工作方式是...
分类:
编程语言 时间:
2015-04-11 14:48:14
阅读次数:
209
朴素贝叶斯本次课程大纲:1、朴素贝叶斯-朴素贝叶斯事件模型2、神经网络(简要)3、支撑向量机(SVM)铺垫–最大间隔分类器复习:1、朴素贝叶斯一种生成学习算法,对p(x|y)建模。例:垃圾邮件分类以邮件输入流作为输入,输出y为{0,1},1为垃圾邮件,0为非垃圾邮件。将邮件文本表示为一个输入向量x1...
分类:
其他好文 时间:
2015-04-11 14:37:54
阅读次数:
385
参考:cs229讲义机器学习(一):生成学习算法Generative Learning algorithms:http://www.cnblogs.com/zjgtan/archive/2013/06/08/3127490.html首先,简单比较一下前几节课讲的判别学习算法(Discriminati...
分类:
编程语言 时间:
2014-12-05 07:03:54
阅读次数:
354