本文始发于个人公众号: TechFlow 上一篇文章当中我们介绍了 朴素贝叶斯模型的基本原理 。 朴素贝叶斯的核心本质是假设样本当中的变量 服从某个分布 ,从而利用条件概率计算出样本属于某个类别的概率。一般来说一个样本往往会含有许多特征,这些特征之间很有可能是有相关性的。为了简化模型,朴素贝叶斯模型 ...
分类:
其他好文 时间:
2020-01-22 11:08:14
阅读次数:
100
一、朴素的贝叶斯算法原理 贝叶斯分类算法以样本可能属于某类的概率来作为分类依据,朴素贝叶斯分类算法是贝叶斯分类算法中最简单的一种,朴素的意思是条件概率独立性。 条件概率的三个重要公式: (1)概率乘法公式: P(AB)= P(B) P(A|B) = P(A) P(B|A) =P(BA) (2)全概率 ...
分类:
编程语言 时间:
2020-01-19 17:45:08
阅读次数:
79
自然语言处理入门基础 1 数学基础 (1)线性代数 向量、 矩阵、距离计算(余弦距离、欧式距离、曼哈顿距离、明可夫斯基距离、切比雪夫距离、杰卡德距离、汉明距离、标准欧式距离、皮尔逊相关系数) (2)概率论 随机试验、条件概率、全概率、贝叶斯定理、信息论 (3)统计学 图形可视化(饼图、条形图、热力图 ...
分类:
其他好文 时间:
2020-01-19 12:39:31
阅读次数:
72
条件随机场(Conditional Random Fields, 以下简称CRF)是给定一组输入序列条件下另一组输出序列的条件概率分布模型,在自然语言处理中得到了广泛应用。 HMM引入了马尔科夫假设,即当前时刻的状态只与其前一时刻的状态有关,HMM是一种生成式概率图模型,条件随机场(CRF)与HMM ...
分类:
其他好文 时间:
2020-01-14 20:30:15
阅读次数:
77
1. 贝叶斯分类的基础——贝叶斯定理 这个定理解决了现实生活里经常遇到的问题:已知某条件概率,如何得到两个事件交换后的概率,也就是在已知P(A|B)的情况下如何求得P(B|A)。这里先解释什么是条件概率: P(A|B)表示事件B已经发生的前提下,事件A发生的概率,叫做事件B发生下事件A的条件概率。其 ...
分类:
其他好文 时间:
2020-01-13 12:44:31
阅读次数:
79
目录: 隐马尔可夫模型 Viterbi算法(必须掌握) 简述:普通领域不常用,自然语言与金融领域用的比较多,总共涉及到概率问题,求参数问题,取范围问题。 用到的知识点有全概率公式,条件概率公式,边缘概率公式,贝叶斯公式,极大似然估计 概率计算问题 直接计算法 暴力算法 前向算法 后向算法 后向算法不 ...
分类:
其他好文 时间:
2020-01-06 23:11:21
阅读次数:
119
求解A, 也是条件概率展开, 再D-separation, 化简成与 F/B, A, X相关 的表示 ...
分类:
其他好文 时间:
2020-01-03 22:57:55
阅读次数:
150
Fokker Planck方程 对于一般随机过程有条件概率公式 $$ P(y_n,t_n;y_{n 1},t_{n 1};\cdots;y_1,t_1)=P(y_n,t_n|y_{n 1},t_{n 1};\cdots;y_1,t_1)P(y_{n 1},t_{n 1};y_{n 2},t_{n 2 ...
分类:
其他好文 时间:
2019-12-08 01:11:38
阅读次数:
87
逻辑回归 sigmoid函数=$\sigma(x)=\frac{1}{1+e^{ x}}=\frac{e^{x}}{1+e^{x}}$ 二项逻辑回归模型 有如下条件概率分布,$w$内已经包含了偏置$b$: $$P(Y=1|x)=\frac{\exp(w\cdot x)}{1+\exp(w\cdot ...
分类:
其他好文 时间:
2019-11-24 15:30:55
阅读次数:
75
基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练集,首先基于特征条件独立假设学习输入/输出的联合概率分布;然后基于此模型,对于给定的输入,利用贝叶斯定理求出后验概率最大的输出$y$。 朴素贝叶斯法通过训练数据集学习联合概率分布$P(X,Y)$。具体地,学习以下先验概率分布及条件概率分布。先 ...
分类:
其他好文 时间:
2019-11-24 15:20:43
阅读次数:
67