贝叶斯公式描述的是一组条件概率之间相互转化的关系。
在机器学习中,贝叶斯公式可以应用在分类问题上。这篇文章是基于自己的学习所整理,并利用一个垃圾邮件分类的例子来加深对于理论的理解。
这里我们来解释一下朴素这个词的含义:
1)各个特征是相互独立的,各个特征出现与其出现的顺序无关;
2)各个特征地位同等重要;
以上都是比较强的假设
下面是朴素贝叶斯分类的流程:...
分类:
其他好文 时间:
2014-10-09 21:39:17
阅读次数:
205
这两天学习了一个相对比较简单但是十分实用的分类算法——贝叶斯分类算法,与我做项目使用的svm算法相比确实有很多精妙之处,。好比撒尿牛丸——好吃又好玩,而贝叶斯分类器则是简单又强大。本文结合简单天气预报进行讲解。
贝叶斯定理:
贝叶斯定理是概率论里面一个计算条件概率的法器!为什么是法器,且看后文。先摆出计算公式:
也许乍一看这公式没什么,但是我们先将公式移项得:P(A|B)P(B)=P...
分类:
其他好文 时间:
2014-10-09 16:31:18
阅读次数:
274
朴素贝叶斯分类器一、贝叶斯定理所谓"条件概率"(Conditional probability),就是指在事件B发生的情况下,事件A发生的概率,用P(A|B)来表示。根据文氏图,可以发现同理可得,所以,即其中,P(A)称为"先验概率"(Prior probability),即在B事件发生之前,我们对...
分类:
其他好文 时间:
2014-09-30 20:38:00
阅读次数:
330
概率论是机器学习基础,为了更好的理解机器学习中的一些算法,而每个机器学习问题的背后,都有一个求最优解的问题。这里用最浅显的语言描述概率论的基础知识用于求最优解问题的应用。
首先,联合概率p(x,y)表示两个事件同时发生的概率,而条件概率p(x|y)表示在已知事件y发生的情况下,事件x发生的概率。在机...
分类:
其他好文 时间:
2014-09-28 23:53:46
阅读次数:
278
1、概率密度函数
在分类器设计过程中(尤其是贝叶斯分类器),需要在类的先验概率和类条件概率密度均已知的情况下,按照一定的决策规则确定判别函数和决策面。但是,在实际应用中,类条件概率密度通常是未知的。那么,当先验概率和类条件概率密度都未知或者其中之一未知的情况下,该如何来进行类别判断呢?其实,只要我们能收集到一定数量的样本,根据统计学的知识,可以从样本集来推断总体概率分布。这种估计方法,通常称之为...
分类:
其他好文 时间:
2014-09-10 14:13:20
阅读次数:
294
条件概率公式:P( A|B ) = P( AB ) / P( B )
表示在事件B发生的前提下,事件A发生的概率;
对本道题:
设事件E:r个人买了东西;
事件Ei:第i个人买了东西;
则要求的是P( Ei | E );
计算P( E ) 用全概率公式即可,采用递归枚举出所有r个人买东西的情况,然后计算出其总的概率;
计算P( Ei ) 就是在上面递归枚举的过程中将选上第i个人的情况...
分类:
其他好文 时间:
2014-08-12 22:18:34
阅读次数:
394
直接扣一枪没有子弹 是条件概率
转一下再扣一枪 是简单事件发生的概率
前者用00的个数除以00和01子串的总数
后者用0的个数除以所有数字的个数
然后换算一下运算方式比较即可
#include
#include
const int maxn = 105;
char s[105];
int cnt0,cnt1,cnt2,cnt3;
int main()
{
while(scan...
分类:
其他好文 时间:
2014-08-12 19:08:44
阅读次数:
237
一道条件概率题,数学烂真的伤不起,一开始都不知道怎么求条件概率。
P(e) = p(e|E)/p(E).
用e出现的情况的概率,除以所有情况出现的概率,递归枚举每个人是否买东西了。
14026058
11181
Probability|Given
Accepted
C++
0.102
2014-08-12 08:25:51
...
分类:
其他好文 时间:
2014-08-12 17:10:54
阅读次数:
194
条件概率、全概率公式与贝叶斯公式(转载)
一、背景
一个随机事件的概率,确切地说,是指在某些给定的条件下,事件发生的可能性大小的度量.但如果给定的条件发生变化之后,该事件的概率一般也随之变化.于是,人们自然提出:如果增加某个条件之后,事件的概率会怎样变化的?它与原来的概率之间有什么关系?显然这类现象是常有的.
[例1] 设有一群共人,其中个女性,个是色盲患者.
个色盲患者中女性占...
分类:
其他好文 时间:
2014-08-12 10:27:54
阅读次数:
383
当时比赛时没看这道题,后来看了下,感觉完全可以当做是条件概率之类的事情来做?其实这个是典型的隐马尔科夫模型的应用,这篇文章介绍的很不错http://blog.csdn.net/likelet/article/details/7056068
根本思想就是到第i天最优路径可以用第i-1天的最优路径推出来,也就是所谓的无后效性,其本质类似于递推,结合下概率方面的知识,递推一下就可以了
代码https...
分类:
其他好文 时间:
2014-07-26 15:06:10
阅读次数:
172