七月算法-12月机器学习--第十七次课笔记-隐马尔科夫模型HMM 七月算法（julyedu.com）12月机器学习在线班学习笔记http://www.julyedu.com 隐马尔科夫模型 三个部分：概率计算，参数估计，模型预测 1，HMM定义 HMM由初始概率分布π、状态转移概率分布A以及观测概率 ...
分类：
编程语言 时间：
2016-05-13 20:36:54
阅读次数：
223
隐马尔科夫模型（HMM）是一种重要的机器学习模型，同时也是PGM中的一种。本文将通过几个例子来演示HMM可以帮我们做些什么事情。特别地，在这个过程中，我们还将向你介绍HMM中非常重要的前向（Forward）算法以及（基于动态规划思想设计的）维特比（Viterbi）算法。最后再来讨论一下HMM在自然语言处理中的一个应用举例。...
分类：
编程语言 时间：
2016-05-07 07:03:29
阅读次数：
523
隐马尔科夫模型HMM作者：樱花猪 摘要： 本文为七月算法（julyedu.com）12月机器学习第十七次课在线笔记。隐马尔可夫模型（Hidden Markov Model，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔科夫过程。其难点是从可观察的参数中确定该过程的隐含参数，然后利用这些参数... ...
分类：
其他好文 时间：
2016-05-06 00:26:37
阅读次数：
293
1、概率模型
机器学习中的很多模型可以根据概率分布形式分为生成模型和判别模型，其中生成模型以输入输出的联合分布P(X,Y)为基础建模，如朴素贝叶斯、隐马尔可夫模型；判别模型以条件概率分布P(Y|X)为基础建模，如最大熵模型、条件随机场等。这几个模型之间有一定的关系，它们的关系如下：
其中，NB表示朴素贝叶斯，ME表示最大熵，HMM表示隐马尔科夫，CRF表示条件随机场。joint联合分布，co...
分类：
其他好文 时间：
2016-04-17 23:10:02
阅读次数：
392
非常早就想看看EM算法，这个算法在HMM（隐马尔科夫模型）得到非常好的应用。这个算法公式太多就手写了这部分主体部分。 好的參考博客：最大似然预计到EM，讲了详细样例通熟易懂。 JerryLead博客非常不错 混合高斯模型算法 非常早就想看看EM算法，这个算法在HMM（隐马尔科夫模型）得到非常好的应用 ...
分类：
编程语言 时间：
2016-04-17 10:21:33
阅读次数：
177
7号晚听了邹博一次微课，正好是自己最近正在死磕的动态规划，所以搬好小板凳听邹博讲解动态规划。现将内容整理如下： 内容主要分为两个部分： 1. 动态规划和贪心的认识——工具：马尔科夫过程 2. 动态规划，通过3个DP中的经典问题详细讲解 1）最长递增子序列LIS 2）格子取数/走棋盘问题及应用 3）找 ...
分类：
其他好文 时间：
2016-04-09 21:58:58
阅读次数：
511
前两周的作业主要是关于Factor以及有向图的构造，但是概率图模型中还有一种更强大的武器——双向图（无向图、Markov Network）。与有向图不同，双向图可以描述两个var之间相互作用以及联系。描述的方式依旧是factor.本周的作业非常有实际意义——基于马尔科夫模型的图像文字识别系统(OCR ...
分类：
其他好文 时间：
2016-04-09 18:57:30
阅读次数：
618
基本概念
1Markov Models
2Hidden Markov Models
3概率计算算法前向后向算法
1-3-1直接计算
1-3-2前向算法
1-3-3后向算法
4学习问题Baum-Welch算法也就是EM算法
5预测算法基本概念1.1Markov Models 处理顺序数据的最简单的方式是忽略顺序的性质，将观测看做独立同分布，然而这样无法利用观测之间的相关性。例如：预测下明天是否会下雨...
分类：
其他好文 时间：
2016-04-05 17:54:36
阅读次数：
206
本文用讲一下指定分布的随机抽样方法：MC(Monte Carlo), MC(Markov Chain), MCMC(Markov Chain Monte Carlo)的基本原理，并用R语言实现了几个例子： 1. Markov Chain （马尔科夫链） 2. Random Walk（随机游走） 3. ...
分类：
其他好文 时间：
2016-04-05 14:06:43
阅读次数：
240
在网上看到一篇关于隐马尔科夫模型的介绍，觉得简直不能再神奇，又在网上找到大神的一篇关于如何用隐马尔可夫模型实现中文拼音输入的博客，无奈大神没给可以运行的代码，只能纯手动网上找到了结巴分词的词库，根据此训练得出隐马尔科夫模型，用维特比算法实现了一个简单的拼音输入法。githuh地址：https://g ...
分类：
编程语言 时间：
2016-04-01 01:03:16
阅读次数：
279
