一、啥是贝叶斯公式 1、公式定义： 贝叶斯公式是由英国数学家贝叶斯发展，用来描述两个条件概率之间的关系，比如P(A|B)和P(B|A)。 按照乘法法则，可以立刻导出：P(A∩B) = P(A)*P(B|A)=P(B)*P(A|B)。如上公式也可变形为：P(B|A) = P(A|B)*P(B) / P ...
分类：
其他好文 时间：
2019-01-22 19:12:26
阅读次数：
180
朴素贝叶斯 概述 贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。本章首先介绍贝叶斯分类算法的基础——贝叶斯定理。最后，我们通过实例来讨论贝叶斯分类的中最简单的一种: 朴素贝叶斯分类。 贝叶斯理论 & 条件概率 贝叶斯理论 我们现在有一个数据集，它由两类数据组成，数 ...
分类：
其他好文 时间：
2019-01-19 14:25:02
阅读次数：
196
二项逻辑回归模型是如下的条件概率分布： 其中x∈是输入，y∈{0，1}是输出。 为了方便，将权值向量和输入向量进行扩充，此时w = ,x = ,回归模型表示如下： 参数w未知，采用统计学中的极大似然估计来由样本估计参数w。对于0-1分布x ~ B(1 , p)，x的概率密度函数可以表示为： 其中k ...
分类：
其他好文 时间：
2019-01-14 20:08:47
阅读次数：
191
判别式模型和生成式模型主要区别是他们的构造方法不一样 判别式模型概念：直接基于条件概率来构造P(y|x)，不需要求联合概率，属于此类型的算法有逻辑回归、决策树、KMM、K_meas 生成式模型概念：基于贝叶斯公式来构造的，典型的生成式模型有贝叶斯 ...
分类：
其他好文 时间：
2019-01-04 22:34:56
阅读次数：
173
概述 条件随机场(conditional random field, CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场。 条件随机场可以用于不同的预测问题，本章主要讲述线性链(linear chain)条件随机场在标注问题的应用，这 ...
分类：
其他好文 时间：
2018-12-29 23:18:22
阅读次数：
315
[TOC] 前言 通过前面几篇系列文章，我们从分词中最基本的问题开始，并分别利用了1 gram和HMM的方法实现了分词demo。本篇博文在此基础上，重点介绍利用CRF来实现分词的方法，这也是一种基于字的分词方法，在将句子转换为序列标注问题之后，不使用HMM的生成模型方式，而是使用条件概率模型进行建模 ...
分类：
编程语言 时间：
2018-12-28 13:26:13
阅读次数：
248
知识储备 相互熵 信息增益（互信息） 条件概率： 全概率公式： 贝叶斯公式： 思考问题： 给定一个样本D，计算样本A1, A2, ...An发生的概率哪一个可能是会是最正确的呢？又怎样通过贝叶斯来解决这个问题？ 通过贝叶斯公式 选择n个样本中概率最大的那个作为最后的结论。p(D)是常数，假定p(Ai ...
分类：
其他好文 时间：
2018-12-22 19:39:46
阅读次数：
224
一、算法介绍https://www.cnblogs.com/love528/p/10125089.html 二、实现过程 实验步骤 （1）收集数据：提供文本文件。 （2）准备数据：将文本文件解析成词条向量。 （3）分析数据：检查词条确保解析的正确性。 （4）训练算法：计算不同的独立特征的条件概率。 ...
分类：
编程语言 时间：
2018-12-17 20:12:07
阅读次数：
265
（1）条件概率公式 设A,B是两个事件，且P(B)>0,则在事件B发生的条件下，事件A发生的条件概率（conditional probability)为： P(A|B)=P(AB)/P(B) （2）乘法公式 1.由条件概率公式得： P(AB)=P(A|B)P(B)=P(B|A)P(A) 上式即为乘法 ...
分类：
其他好文 时间：
2018-12-14 19:58:58
阅读次数：
173
一、条件概率公式 举个例子，比如让你背对着一个人，让你猜猜背后这个人是女孩的概率是多少？ 直接猜测，肯定是只有５０％的概率，假如现在告诉你背后这个人是个长头发，那么女的概率就变为９０％。 所以条件概率的意义就是，当给定条件发生变化后，会导致事件发生的可能性发生变化。 条件概率由文氏图出发，比较容易理 ...
分类：
其他好文 时间：
2018-12-14 19:39:58
阅读次数：
164
