[TOC] 概率 公式: $A∩B=?→P(A∪B)=P(A)+P(B)$ 没什么好说的. 两个集合无交集,那么他们的并集发生的概率就是两个事件发生概率的和. 如果两个集合之间有交集,利用容斥. $A∩B ≠ ? → P(A∪B) = P(A) + P(B) P(A∩B)$ 条件概率 $P(A|B) ...
分类：
其他好文 时间：
2018-09-08 22:26:44
阅读次数：
217
原文链接：https://www.mlpod.com/mlbase/23.html 三要素：方法=模型+策略+算法。 1.1 模型 在监督学习过程中，模型就是所要学习的条件概率分布或决策函数。假设空间用$\mathcal{F}$表示，假设空间可以定义为$$\mathcal{F} = \left\{ ...
分类：
其他好文 时间：
2018-09-02 02:09:13
阅读次数：
238
关键是要实现什么~，算法是用来解决实际问题的。 编码、解码、哈夫曼算法（前缀编码无损压缩算法） 前人的经验还是牛逼哈。我们都是站在巨人的肩膀上 斐波那契数列 数据结构：队列，栈，链表，二叉树，红黑树， 贝叶斯定律（条件概率） 方差和标准差 矩阵操作(lua分解，拉格朗日公式) 多线程算法（在多核心C ...
分类：
编程语言 时间：
2018-08-30 02:02:14
阅读次数：
208
贝叶斯决策 首先来看贝叶斯分类，我们都知道经典的贝叶斯公式： 其中：p(w)：为先验概率，表示每种类别分布的概率，P（X|W）：类条件概率，表示在某种类别前提下，某事发生的概率；而P（W|X）为后验概率，表示某事发生了，并且它属于某一类别的概率，有了这个后验概率，我们就可以对样本进行分类。后验概率越 ...
分类：
其他好文 时间：
2018-08-30 00:13:00
阅读次数：
165
判别模型和生成模型：统计学派和贝叶斯学派之争 判别模型： 直接对输入空间到输出空间的映射h(x)做预测，或者直接对条件概率分布P(y|x)做预测 PM，SVM，NN，KNN，LR，DT 模型一般更准确 不需要预设条件 鲁棒性更高 生成模型： 先对概率分布P(x,y)做预测，根据贝叶斯公式得到P(y| ...
分类：
其他好文 时间：
2018-08-26 13:48:12
阅读次数：
174
基本概念 样本空间：{试验所有可能结果}-->一个试验所有可能结果的集合，用 Ω 表示。所以P(Ω) = 1 事件：样本空间的一个子集。用A、B、C表示。 条件概率 其实P(A|B)与P(AB)很相似，即“A和B都会发生”。 我们换一句话来解释这个P(AB)：“在所有可能的结果下，a和b都发生的概率 ...
分类：
其他好文 时间：
2018-08-21 17:12:37
阅读次数：
129
前面我们讲到了M-H采样已经可以很好的解决蒙特卡罗方法需要的任意概率分布的样本集的问题。但是M-H采样有两个缺点：一是需要计算接受率，在高维时计算量大。并且由于接受率的原因导致算法收敛时间变长。二是有些高维数据，特征的条件概率分布好求，但是特征的联合分布不好求。因此需要一个好的方法来改进M-H采样， ...
分类：
其他好文 时间：
2018-08-16 00:57:09
阅读次数：
146
一、语言模型 旨在：给一个句子或一组词计算一个联合概率 作用： 机器翻译：用以区分翻译结果的好坏 拼写校正：某一个拼错的单词是这个单词的概率更大，所以校正 语音识别：语音识别出来是这个句子的概率更大 总结或问答系统 相关任务：在原句子的基础上，计算一个新词的条件概率，该概率与P(w1w2w3w4w5 ...
分类：
编程语言 时间：
2018-08-05 13:03:15
阅读次数：
182
1. 条件概率 条件概率（英语：conditional probability）就是事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为P（A|B），读作“在B条件下A的概率”。 已经假定事件发生在B中，与A的交集就是P(A|B)，即B发生的条件下，A发生的概率是AB同时发生概率除以B发生 ...
分类：
其他好文 时间：
2018-08-03 19:45:07
阅读次数：
158
关键词：先验概率；条件概率和后验概率；特征条件独立；贝叶斯公式；朴素贝叶斯；极大似然估计；后验概率最大化； 期望风险最小化；平滑方法 朴素贝叶斯分类的定义如下： 1. 设 x = a1,a2, ...,am为一个待分类项，而每个a是x的一个特征属性。 2.待分类项的类别集合C={y1，y2，..., ...
分类：
其他好文 时间：
2018-07-15 19:28:01
阅读次数：
451
