最近研究NLP颇感兴趣,但由于比较懒,所以只好找来网上别人的比较好的博客,备份一下,也方便自己以后方便查找(其实,一般是不会再回过头来看的,嘿嘿 -_-!!) 代码自己重新写了一遍,所以就不把原文代码贴过来了。 1. 前向算法(摘自http://www.cnblogs.com/kaituorensh ...
分类:
编程语言 时间:
2017-01-14 17:17:56
阅读次数:
162
前言在李航的《统计学方法》第十章有对隐马尔科夫模型(Hidden Markov Model,HMM)比较详细的介绍和推导公式,我参考公式结合中文分词应用实现了隐马模型观测序列的生成、前向算法、维特比算...
分类:
其他好文 时间:
2016-09-01 20:09:12
阅读次数:
219
基本概念
1Markov Models
2Hidden Markov Models
3概率计算算法前向后向算法
1-3-1直接计算
1-3-2前向算法
1-3-3后向算法
4学习问题Baum-Welch算法也就是EM算法
5预测算法基本概念1.1Markov Models 处理顺序数据的最简单的方式是忽略顺序的性质,将观测看做独立同分布,然而这样无法利用观测之间的相关性。例如:预测下明天是否会下雨...
分类:
其他好文 时间:
2016-04-05 17:54:36
阅读次数:
206
直接上干货哈,其他子算法,后续补上。 1packagejxutcm.edu.cn.hmm.model;23importjxutcm.edu.cn.hmm.bean.HMMHelper;4importjxutcm.edu.cn.util.TCMMath;56/**7*【改进后的前向算法】8*【带比例因...
分类:
编程语言 时间:
2016-01-02 16:23:07
阅读次数:
360
隐马尔可夫模型的前向算法(手动实现),今天奉上,由于研究生期间,实现的时候没有多加注释,这里为了让更好的人进入自然语言处理领域,特此,将前向算法奉上,具体公式可参考52nlp的HMN系列博客。 参考了大部分网站公式和借鉴。在此表示感谢。 后向算法和维特比算法,后续更新。HMM类:1packagej....
分类:
编程语言 时间:
2015-12-30 23:38:49
阅读次数:
714
首先是前向算法前向算法demo文件:fwd_demo.m 1 %% 前向算法的demo 2 %% 验证的例子参见《统计学习方法》p177 3 %% 4 5 % (编码:红1,白2) 6 % 初始概率分布 7 pi=[0.2 0.4 0.4] 8 9 % 概率转移矩阵10 A=[ 0.5 0....
分类:
编程语言 时间:
2015-10-09 22:34:53
阅读次数:
302
隐马尔可夫模型问题有3个,即评估、解码、学习。其中评估问题描述为给定一个隐马尔可夫模型参数和一个观察序列,求该观察序列的概率。我们使用前向算法(forwardalgorith)来解决这个问题。其c代码如下:hmm.h文件#ifndef_HMM_H_#define_HMM_H_//宏定义#defineNN3#defineMM4#defi..
分类:
编程语言 时间:
2015-08-21 11:28:42
阅读次数:
205
HMM的学习笔记
HMM是关于时序的概率模型,描述由一个隐藏的马尔科夫链随机生成不可观测的状态随机序列,再由各个状态生成不可观测的状态随机序列,再由各个状态生成一个观测而产生观测的随机过程。
HMM由两个状态和三个集合构成。他们分别是观测状态序列,隐藏状态序列,转移概率,初始概率和混淆矩阵(观察值概率矩阵)。
HMM的三个假设:
1、有限历史性假设,p(si|si-1,si-2,.....
分类:
编程语言 时间:
2015-03-12 20:53:00
阅读次数:
244
看本篇文章,假设你已经知道HMM中的前向算法相关概念
如果不知道,推荐先学习HMM学习最佳范例中相关文章这个问题来自于HMM学习最佳范例五:前向算法5
只不过再手动算一下,加深一下自己的理解已知隐马尔科夫模型如下:1、隐藏状态 (天气):Sunny,Cloudy,Rainy;
2、观察状态(海藻湿度):Dry,Dryish,Damp,Soggy;
3、初始状态概率: Sunny(0.63),...
分类:
编程语言 时间:
2015-03-05 19:31:13
阅读次数:
480
自己根据算法编写了两个简单的matlab代码,应用于例子中的数据取得了正确的解,这里并没有考虑速度优化的问题,请大家不吝指教:1.模型评估HMM模型如下,试根据前向算法计算产生观察符号序列O={ABAB}的概率。状态转移概率矩阵a = [0.4 0.6 0 ; 0 0.8 0.2; 0...
分类:
其他好文 时间:
2014-12-03 23:00:28
阅读次数:
263