一 介绍 考虑一个简单的例子,我母亲在中国,而我在日本。每天下班以后,母亲会根据天气,有不同的活动。比如天气下雨会选择呆在家里,天气晴朗会出门买菜。有时候,母亲会和我说这天下班以后做了什么,我会根据她做了什么来猜测这天的天气。另外一个有用的信息是前一天的天气状况。通过综合母亲今天下班做了什么以及前一 ...
分类:
其他好文 时间:
2016-05-30 12:52:44
阅读次数:
138
七月算法-12月机器学习--第十七次课笔记-隐马尔科夫模型HMM 七月算法(julyedu.com)12月机器学习在线班学习笔记http://www.julyedu.com 隐马尔科夫模型 三个部分:概率计算,参数估计,模型预测 1,HMM定义 HMM由初始概率分布π、状态转移概率分布A以及观测概率 ...
分类:
编程语言 时间:
2016-05-13 20:36:54
阅读次数:
223
隐马尔科夫模型(HMM)是一种重要的机器学习模型,同时也是PGM中的一种。本文将通过几个例子来演示HMM可以帮我们做些什么事情。特别地,在这个过程中,我们还将向你介绍HMM中非常重要的前向(Forward)算法以及(基于动态规划思想设计的)维特比(Viterbi)算法。最后再来讨论一下HMM在自然语言处理中的一个应用举例。...
分类:
编程语言 时间:
2016-05-07 07:03:29
阅读次数:
523
隐马尔科夫模型HMM作者:樱花猪 摘要: 本文为七月算法(julyedu.com)12月机器学习第十七次课在线笔记。隐马尔可夫模型(Hidden Markov Model,HMM)是统计模型,它用来描述一个含有隐含未知参数的马尔科夫过程。其难点是从可观察的参数中确定该过程的隐含参数,然后利用这些参数... ...
分类:
其他好文 时间:
2016-05-06 00:26:37
阅读次数:
293
1、概率模型
机器学习中的很多模型可以根据概率分布形式分为生成模型和判别模型,其中生成模型以输入输出的联合分布P(X,Y)为基础建模,如朴素贝叶斯、隐马尔可夫模型;判别模型以条件概率分布P(Y|X)为基础建模,如最大熵模型、条件随机场等。这几个模型之间有一定的关系,它们的关系如下:
其中,NB表示朴素贝叶斯,ME表示最大熵,HMM表示隐马尔科夫,CRF表示条件随机场。joint联合分布,co...
分类:
其他好文 时间:
2016-04-17 23:10:02
阅读次数:
392
非常早就想看看EM算法,这个算法在HMM(隐马尔科夫模型)得到非常好的应用。这个算法公式太多就手写了这部分主体部分。 好的參考博客:最大似然预计到EM,讲了详细样例通熟易懂。 JerryLead博客非常不错 混合高斯模型算法 非常早就想看看EM算法,这个算法在HMM(隐马尔科夫模型)得到非常好的应用 ...
分类:
编程语言 时间:
2016-04-17 10:21:33
阅读次数:
177
基本概念
1Markov Models
2Hidden Markov Models
3概率计算算法前向后向算法
1-3-1直接计算
1-3-2前向算法
1-3-3后向算法
4学习问题Baum-Welch算法也就是EM算法
5预测算法基本概念1.1Markov Models 处理顺序数据的最简单的方式是忽略顺序的性质,将观测看做独立同分布,然而这样无法利用观测之间的相关性。例如:预测下明天是否会下雨...
分类:
其他好文 时间:
2016-04-05 17:54:36
阅读次数:
206
在网上看到一篇关于隐马尔科夫模型的介绍,觉得简直不能再神奇,又在网上找到大神的一篇关于如何用隐马尔可夫模型实现中文拼音输入的博客,无奈大神没给可以运行的代码,只能纯手动网上找到了结巴分词的词库,根据此训练得出隐马尔科夫模型,用维特比算法实现了一个简单的拼音输入法。githuh地址:https://g ...
分类:
编程语言 时间:
2016-04-01 01:03:16
阅读次数:
279
什么是标注?在自然语言处理中有一个常见的任务,即标注。常见的有:1)词性标注(Part-Of-Speech Tagging),将句子中的每一个词标注词性,比如名词、动词等;2)实体标注(Name Entity Tagging),将句子中的特殊词标注,比如地址、日期、人物姓名等。下图所看到的的是词性标...
分类:
编程语言 时间:
2016-01-22 14:09:00
阅读次数:
198
/***【计算维特比矩阵】*delta[t][k]=v_k(i)=log(max(P(piinstatekhassymi|pathpi)))*/publicvoidCalculateViterbiMatrix(){intT=O.length;delta=newdouble[T][N];PSI=ne....
分类:
编程语言 时间:
2016-01-05 22:46:37
阅读次数:
376