1. 马尔可夫模型 如果一个系统有n个有限状态$S=\{s_{1} , s_{2} ,\dots s_{n}\}$,随着时间推移,该系统将从某一状态转移到另一状态,$Q=\{q_{1},q_{2},\dots q_{n}\}$位一个随机变量序列,该序列中的变量取值为状态集S中的某个状态,其中$q_{ ...
分类:
其他好文 时间:
2016-09-24 17:49:36
阅读次数:
292
前言在李航的《统计学方法》第十章有对隐马尔科夫模型(Hidden Markov Model,HMM)比较详细的介绍和推导公式,我参考公式结合中文分词应用实现了隐马模型观测序列的生成、前向算法、维特比算...
分类:
其他好文 时间:
2016-09-01 20:09:12
阅读次数:
219
CRF 的预测问题是给定模型参数和输入序列(观测序列)x, 求条件概率最大的输出序列(标记序列)$y^*$,即对观测序列进行标注。条件随机场的预测算法同 HMM 还是维特比算法,根据 CRF模型可得: \begin{aligned}y^* &= \arg \max_yP_w(y|x) \\&= \a... ...
分类:
编程语言 时间:
2016-08-31 18:47:59
阅读次数:
191
条件随机场的概率计算问题是给定条件随机场 P(Y|X) ,输入序列 x 和输出序列 y ,计算条件概率 $P(y_i|x)$ , $P(y_{i-1},y_i|x)$ 以及相应的数学期望的问题。为了方便起见,像 HMM 那样,引进前向-后向向量,递归地计算以上概率及期望值。这样的算法称为前向-后向算... ...
分类:
其他好文 时间:
2016-08-30 21:12:10
阅读次数:
277
这篇文章记录一下解决HMM三大问题的第二个问题的学习过程。回忆一下,第二个问题是什么来着?给定HMM模型\(lambda\)和观测序列O,求产生这个观测序列概率最大的状态序列是什么?把这个问题叫做解码问题,也是挺贴切的~ 求解这个问题,有一个经典的算法,叫做Viterbi算法。Viterbi是个了不 ...
分类:
编程语言 时间:
2016-08-28 16:16:50
阅读次数:
360
介绍 崔晓源 翻译 我们通常都习惯寻找一个事物在一段时间里的变化规律。在很多领域我们都希望找到这个规律,比如计算机中的指令顺序,句子中的词顺序和语音中的词顺序等等。一个最适用的例子就是天气的预测。 首先,本文会介绍声称概率模式的系统,用来预测天气的变化 然后,我们会分析这样一个系统,我们希望预测的状 ...
分类:
其他好文 时间:
2016-08-11 17:19:15
阅读次数:
157
摘要:写本文的初衷源于基于HMM模型序列标注的一个实验,实验完成之后,迫切想知道采用的序列标注模型的好坏,有哪些指标可以度量。于是,就产生了对这一专题进度学习总结,这样也便于其他人参考,节约大家的时间。本文依旧旨在简明扼要梳理出模型评估核心指标,重点达到实用。本文布局如下:第一章采用统计学习角度介绍... ...
分类:
其他好文 时间:
2016-07-19 20:28:08
阅读次数:
535
http://sighan.cs.uchicago.edu/bakeoff2005/
http://www.52nlp.cn/中文分词入门之资源...
分类:
其他好文 时间:
2016-07-17 16:54:19
阅读次数:
1176
http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/html_dev/viterbi_algorithm/s1_pg1.html http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/html_ ...
分类:
其他好文 时间:
2016-07-15 20:26:30
阅读次数:
263