参考《机器学习实战》 朴素（naive）贝叶斯遵循以下原则： 设特征为x，y；类别为c。
在已知x、y特征的情况下，判断其类为ci的概率为： 自然， 我们选取概率较大的为对应的分类结果：
朴素贝叶斯就是根据这一原则进行分类器设计的。书中以垃圾邮件分类为例做了详述。 垃圾邮件分类的基本过程： 数据集：...
分类：
其他好文 时间：
2014-06-06 23:35:03
阅读次数：
526
本文对应公开课的第13个视频，这个视频仍然和EM算法非常相关，第12个视频讲解了EM算法的基础，本视频则是在讲EM算法的应用。本视频的主要内容包括混合高斯模型（Mixture of Gaussian, MoG）的EM推导、混合贝叶斯模型（Mixture of Naive Bayes，MoNB）的EM推导、因子分析模型（Factor Analysis Model）及其EM求解。由于本章内容较多，故而分为AB两篇，本篇介绍至混合模型的问题。...
分类：
其他好文 时间：
2014-06-05 07:01:14
阅读次数：
259
神经网络常用于机器学习中的分类，常用的分类算法有：朴素贝叶斯，遗传算法，神经网络，支持向量机等。
在互联网发达的今天，有很多东西需要进行分类，在分类之前，我们常常是有一些数据，找出这些数据符合什么样的
模型，然后根据这些已有数据来预测将来，神经网络就是用来进行这种数据建模的。
神经网络一般情况是有个输入，有个输出，在输入层和输出层之间通常还有若干个隐含层。实际上，在1989年...
分类：
其他好文 时间：
2014-06-05 02:40:25
阅读次数：
261
贝叶斯分类是统计学的一个分类方法，基于贝叶斯定理。首先贝叶斯分类的一个核心假设是一个属性值对给定类的影响独立于其他属性的值(类条件独立)。
先来看下条件概率：
设A、B是两个事件，且P(B)>0,则称 为在事件B发生的条件下,事件A的条件概率。
再来看一下贝叶斯定理：。
其中:
X 是类标识未知的数据样本（或数据元组）
如：35岁收入$4000的顾客
...
分类：
其他好文 时间：
2014-06-01 09:52:51
阅读次数：
235
贝叶斯算法是一种分类算法，它以贝叶斯公式为基...
分类：
其他好文 时间：
2014-05-22 10:49:42
阅读次数：
165
贝叶斯决策理论是主观贝叶斯派归纳理论的重要组成部分。贝叶斯决策就是在不完全情报下，对部分未知的状态用主观概率估计，然后用贝叶斯公式对发生概率进行修正，最后再利用期望值和修正概率做出最优决策。贝叶斯决策理论方法是统计模型决策中的一个基本方法，其基本思想是：★..
分类：
其他好文 时间：
2014-05-20 18:19:36
阅读次数：
650
之前忘记强调了一个重要区别：条件概率链式法则和贝叶斯网络链式法则的区别
条件概率链式法则
贝叶斯网络链式法则，如图1
图1
乍一看很容易觉得贝叶斯网络链式法则不就是大家以前学的链式法则么，其实不然，后面详述。
上一讲谈到了概率分布的因式分解
可以看到条件概率的独立性可以直接从概率分布表达式看出来。
我们已经用概率图模型把...
分类：
其他好文 时间：
2014-05-20 15:22:39
阅读次数：
250
转自
http://mindhacks.cn/2008/09/21/the-magical-bayesian-method/数学之美番外篇：平凡而又神奇的贝叶斯方法概率论只不过是把常识用数学公式表达了出来。——拉普拉斯记得读本科的时候，最喜欢到城里的计算机书店里面去闲逛，一逛就是好几个小时；有一次，...
分类：
其他好文 时间：
2014-05-19 11:22:55
阅读次数：
431
在机器学习领域，我们碰到的第一个问题就是：如何选择特征量。
可是看了一些资料，这点好像都是一笔带过，因为很多都是所谓的不可观测量，如何把不可观测量量化呢？这个或许能给机器学习带来新的契机，就像当年牛顿把力、质量、加速度等模糊的概念定义下来，经典物理出现了前所未有的发展，香农把信息量化，造就了信息革命...
分类：
其他好文 时间：
2014-05-17 23:32:17
阅读次数：
329
