朴素贝叶斯公式 Hmm隐马尔科夫 动态规划: 线性回归: 逻辑回归(sigmoid):在线性组合的基础上加了个非线性的激活函数,用于解决二分类问题,softmax,用于解决多分类问题。 集成学习(连续模型):针对错误的模型进行训练,设置多个模型,每个模型都有不同的权重,逐层进行逻辑回归、或则其他逐层 ...
分类:
编程语言 时间:
2017-04-02 11:35:31
阅读次数:
165
在 机器学习中的贝叶斯方法 先验概率、似然函数、后验概率的理解及如何使用贝叶斯进行模型预测(1) 文章中介绍了先验分布和似然函数,接下来,将重点介绍后验概率,以及先验概率、似然函数、后验概率三者之间的关系 贝叶斯公式。 在这篇文章中,我们通过最大化似然函数求得的参数 r 与硬币的抛掷次数(抛掷次数是 ...
分类:
其他好文 时间:
2017-04-01 21:53:23
阅读次数:
316
判别式模型(Discriminative Model)是直接对条件概率p(y|x;θ)建模。常见的判别式模型有 线性回归模型、线性判别分析、支持向量机SVM、神经网络等。 生成式模型(Generative Model)则会对x和y的联合分布p(x,y)建模,然后通过贝叶斯公式来求得p(yi|x),然 ...
分类:
其他好文 时间:
2017-02-23 21:11:57
阅读次数:
222
贝叶斯分类是利用概率统计知识进行分类的算法,其分类原理是贝叶斯定理。贝叶斯定理的公式如下:贝叶斯公式表明,我们可以从先验概率P(A)、条件概率P(B|A)和证据P(B)来计算出后验概率。朴素贝叶斯分类器就是假设证据之间各个条件相互独立的基础上,根据计算的后验概率选择各类..
分类:
编程语言 时间:
2017-02-06 11:23:23
阅读次数:
211
(上接第二章) 2.3 分类算法:朴素贝叶斯 2.3.1 贝叶斯公式推导(略) 分类的流程: 第一阶段:训练数据生成训练样本集:TF-IDF 第二阶段:对每个类别计算p(yi)。 第三个阶段:对每个特征属性计算所有划分的条件概率 第四个阶段:对每个类别计算P(x|yi)P(yi)。 第五个阶段:以P ...
分类:
编程语言 时间:
2016-12-29 19:24:43
阅读次数:
242
一、一些概念 互信息: 两个随机变量x和Y的互信息,定义X, Y的联合分布和独立分布乘积的相对熵。 贝叶斯公式: 贝叶斯带来的思考: 给定某些样本D,在这些样本中计算某结论出现的概率,即 给定样本D 所以可以推出,再假定p(Ai)相等,可以推出,这个就是最大似然估计做的事情,看下取哪个参数的时候,D ...
分类:
其他好文 时间:
2016-12-18 18:06:26
阅读次数:
256
认知计算,还要从贝叶斯滤波的基本思想讲起。这一部分,我们先回顾贝叶斯公式的数学基础,然后再来介绍贝叶斯滤波器。 (一). 概率基础回顾 我们先来回顾一下概率论里的基本知识: 1. \( X \): 表示一个随机变量,如果它有有限个可能的取值\( \{x_1, x_2, \cdots, x_n \} ...
分类:
其他好文 时间:
2016-10-26 09:19:26
阅读次数:
502
条件概率: B发生前提下A发生的概率 P(A|B)=P(AB)/P(B) AB相互独立,P(AB)=P(A)*P(B) 贝叶斯公式: P(A|B)=P(B|A)*P(A)/P(B) [移项] 全概率公式: 把样本空间S分成若干个不相交部分(不重复不遗漏) P(A)=P(A|B1)*P(B1)+... ...
分类:
其他好文 时间:
2016-10-26 00:41:50
阅读次数:
147
一、古典概率,几何概率,统计概率相同性质。 二、概率论三公理 三、条件概率 四、乘法定理及推广 五、全概率公式 六、贝叶斯公式 七、独立事件的推论 另注意独立事件和事件互不相容的区分。 八、二项概率公式 九、 泊松逼近 证明: ...
分类:
其他好文 时间:
2016-10-09 06:58:24
阅读次数:
257