首先在贝叶斯分类器之前先说贝叶斯理论 (1)贝叶斯分类器 假设有N种可能的分类标记,即为y={c1,c2,...,cN} λij 是将一个真实的标记cj的样本误分类为ci发损失,后验概率P(ci|x)可获得样本x分类为ci的期望,则在样本x上的“条件风险”是 我们需要最小化这个风险,也就是在每个样本 ...
分类:
其他好文 时间:
2017-04-05 20:11:10
阅读次数:
207
一,本文将基于“独立重复试验 抛硬币”来解释贝叶斯理论中的先验概率、似然函数和后验概率的一些基础知识以及它们之间的关系。 本文是《A First Course of Machine Learning》的第三章的学习笔记,在使用贝叶斯方法构造模型并用它进行预测时,总体思路是:在已经先验知识(先验概率分 ...
分类:
其他好文 时间:
2017-04-01 16:23:27
阅读次数:
553
本文将叙述朴素贝叶斯算法的来龙去脉,从数学推导到计算演练到编程实战文章内容有借鉴网络资料、李航《统计学习方法》、吴军《数学之美》加以整理及补充基础知识补充:
1、贝叶斯理论–吴军数学之美
http://mindhacks.cn/2008/09/21/the-magical-bayesian-method/2、条件概率
3、联合分布
朴素贝叶斯算法
朴素贝叶斯法是基于贝叶斯定...
分类:
编程语言 时间:
2016-05-12 17:52:49
阅读次数:
486
在机器学习中,通常我们感兴趣的是在给定训练数据 D 时,确定假设空间 H 中的最佳假设。 所谓最佳假设,一种办法是把它定义为在给定数据 D 以及 H 中不同假设的先验概率的有关知识条件下的最可能(most probable)假设。 贝叶斯理论提供了计算这种可能性的一种直接的方法。更精确地讲,贝叶斯法 ...
分类:
其他好文 时间:
2016-04-21 10:04:40
阅读次数:
207
共轭是贝叶斯理论中的一个概念,一般共轭要说是一个先验分布与似然函数共轭;那么就从贝叶斯理论中的先验概率,后验概率以及似然函数说起:在概率论中有一个条件概率公式,有两个变量第一个是A,第二个是B ,A先发生,B后发生,B的发生与否是与A有关系的,那么我们要想根据B的发生情况来计算 A发生的概率就是所谓...
分类:
其他好文 时间:
2016-01-19 23:22:27
阅读次数:
318
朴素贝叶斯分类器是基于贝叶斯理论中属性独立假设而创造的一种算法。算法思路简单:只要是哪个类的后验概率大待测样本即为该类别。所谓后验概率就是在给定条件发生的情况下,该样本被判定为某个类别的概率。后验概率P(Y|X)表示在属性集合X(X1,X2,...,Xn)发生的条件下Y类别发..
分类:
编程语言 时间:
2015-09-08 20:22:07
阅读次数:
249
本节主要介绍马尔科夫的随机场模型以及其用于图像的分割算法中。基于马尔科夫的随机场(MRF)的图像分割是一种基于统计的图像分割算法,其模型参数少,空间约束性强,使用较为广泛。首先了解一下马尔科夫模型,纯粹的马尔科夫模型就是指一件事物的当前状态只与它之前的1个或者n个状态有关,而与再之前的状态没有关系,比如今天天气好坏只与昨天天气有关,而与前天乃至大前天都没有关系。符合这样的一种特性的事物认为其具有马尔...
分类:
其他好文 时间:
2015-08-06 02:02:36
阅读次数:
573
这是该课程的最后一课,作者首先总结了有关机器学习的理论、方法、模型、范式等。最后介绍了贝叶斯理论和Aggregation(聚合)方法在机器学习中的应用。...
分类:
其他好文 时间:
2015-01-25 16:40:00
阅读次数:
179