概率图模型(PGM)是一种对现实情况进行描述的模型。其核心是条件概率,本质上是利用先验知识,确立一个随机变量之间的关联约束关系,最终达成方便求取条件概率的目的。 1.从现象出发 这个世界都是随机变量 这个世界都是随机变量。 第一,世界是未知的,是有多种可能性的。 第二,世界上一切都是相互联系的。 第 ...
分类:
其他好文 时间:
2020-06-04 00:54:47
阅读次数:
133
概率图模型G(V,E)由节点V和边E构成。在之前马尔科夫模型相关的博客中,我谈到马尔科夫模型的本质是当两个人交流后,其意见(两个随机变量)同意0与不同意1的概率组合。而势函数表达的是两个意见相同或者相左的程度。 我们搞的那么麻烦,最后想要得到的不就是每个意见正确与否(随机变量取不同值的概率)吗?与其 ...
分类:
编程语言 时间:
2020-06-04 00:50:28
阅读次数:
122
实验目的: 1、学会使用SPSS的简单操作。 2、掌握假设检验。 实验内容: 1.一个总体均值的检验(小样本); 2.两个总体均值之差的检验; 3.绘制正态概率图; 4.S—W检验。 实验步骤: 1.一个总体均值的检验(小样本):单总体的Z检验和t检验。设是取自正态总体的一个样本,要检验。其中为已知 ...
分类:
其他好文 时间:
2020-05-02 18:46:56
阅读次数:
166
题意: 有一个长度为n的序列a,a[i]在[li,ri]中独立均匀随机生成。求期望的逆序对个数。 题解: 显然由于独立生成,所以可以每对逆序对单独考虑。 我们将每一块[i,i+1](i∈Z)的区间称之为“第i块”。那么假设a[i]有pi的概率选到第x块,a[j]有pj的概率选到第y块(i<j,x>y ...
分类:
其他好文 时间:
2020-03-02 09:12:04
阅读次数:
53
条件随机场(Conditional Random Fields, 以下简称CRF)是给定一组输入序列条件下另一组输出序列的条件概率分布模型,在自然语言处理中得到了广泛应用。 HMM引入了马尔科夫假设,即当前时刻的状态只与其前一时刻的状态有关,HMM是一种生成式概率图模型,条件随机场(CRF)与HMM ...
分类:
其他好文 时间:
2020-01-14 20:30:15
阅读次数:
77
系统学习机器学习书本知识--每周两章节,列表如下: 1.模式评估与选择 线性模型 2.决策树 神经网络 3.支持向量机 贝叶斯分类器 4.集成学习 聚类 5.降维与度量学习 特征选择与稀疏学习 6.计算学习理论 半监督学习 7.概率图模型 规则学习 8.强化学习 ...
分类:
其他好文 时间:
2019-12-29 18:52:15
阅读次数:
93
本科阶段学了三四遍的HMM,机器学习课,自然语言处理课,中文信息处理课;如今学研究生的自然语言处理,又碰见了这个老熟人; 虽多次碰到,但总觉得一知半解,对其了解不够全面,借着这次的机会,我想要直接搞定这个大名鼎鼎的模型,也省着之后遇到再费心。 Outline 模型引入与背景介绍 从概率图讲起 贝叶斯 ...
分类:
其他好文 时间:
2019-12-24 23:48:08
阅读次数:
103
[toc] 本文提出了一个基于神经网络的语音识别系统List, Attend and Spell(LAS),能够将语音直接转录为文字。 进步性:LAS将声学、发音和语言模型融合为一个神经模型,因此可以实现端到端。LAS只包含两部分:收听器(listener)和拼写器(speller)。收听器是一个金 ...
分类:
Web程序 时间:
2019-11-26 23:08:46
阅读次数:
144
PGM是现代信号处理(尤其是机器学习)的重要内容。 PGM通过图的方式,将多个随机变量之前的关系通过简洁的方式表现出来。因此PGM包括图论和概率论的相关内容。 PGM理论研究并解决三个问题: 1)表示(如何通过图来刻画多个随机变量之间的关系)(注:这个是PGM的基础) 2)学习(如何通过已知数据来确 ...
分类:
其他好文 时间:
2019-11-11 15:28:36
阅读次数:
103
1、9/1~10/31经典算法梳理和学习 1.1 小蓝书(第一遍已学完,等其他知识点完成后,需要再刷一遍) 1.2 西瓜书 (计算学习理论、半监督学习、概率图模型、强化学习、规则学习,课后习题;前面章节尽快完成) 2、19/11/1~20/1/31 自然语言处理基础知识 2.1 数学之美(进行中) ...
分类:
其他好文 时间:
2019-11-04 11:37:56
阅读次数:
97