LDA是什么 隐含狄利克雷分布(Latent Dirichlet Allocation，以下简称LDA)，是由Blei, David M.、Ng, Andrew Y.、Jordan于2003年提出的一种主题模型，是一种无监督机器学习技术，它可以将文档集中每篇文档的主题以概率分布的形式给出，从而通过分 ...
分类：
其他好文 时间：
2021-02-10 13:21:54
阅读次数：
0
目录 LDA概述 基础知识 LDA主题模型 总结 一句话简述：2003年提出的，LDA是一种无监督的词袋式隐含主题模型，LDA给出文档属于每个主题的概率分布，同时给出每个主题上词的概率分布。在文本主题识别、文本分类、文本相似度计算和文章相似推荐等方面都有应用。 一、LDA概述 在机器学习领域，LDA... ...
分类：
其他好文 时间：
2020-06-16 20:19:05
阅读次数：
50
LDA原理 LDA思想 这里的LDA是指Linear Discriminant Analysis，简称LDA，全称线性判别分析。要与自然语言处理领域的LDA（Latent Dirichlet Allocation）隐含狄利克雷分布区分开来。 LDA是一种监督学习降维技术，它的数据集的每个样本是有类别 ...
分类：
其他好文 时间：
2020-05-13 17:17:16
阅读次数：
76
概率分布（二） 多项式变量 二元变量表示只可能在两种可能值之中取值，若有$K$个互斥状态，则可以用$1 of K$表示法。 取$K=6$，则$\boldsymbol{x},\boldsymbol{\mu}$可以表示成： $$ \boldsymbol{x}=(0,0,1,0,0,0)^T\\ \bol ...
分类：
其他好文 时间：
2020-01-27 22:03:03
阅读次数：
256
1. Gamma函数 首先我们可以看一下Gamma函数的定义： Gamma的重要性质包括下面几条： 1. 递推公式： 2. 对于正整数n, 有 因此可以说Gamma函数是阶乘的推广。 3. 4. 关于递推公式，可以用分部积分完成证明： 2. Beta函数 B函数，又称为Beta函数或者第一类欧拉积分 ...
分类：
其他好文 时间：
2019-10-27 18:18:05
阅读次数：
113
在前面我们讲到了基于矩阵分解的LSI和NMF主题模型，这里我们开始讨论被广泛使用的主题模型：隐含狄利克雷分布(Latent Dirichlet Allocation，以下简称LDA)。注意机器学习还有一个LDA，即线性判别分析，主要是用于降维和分类的，如果大家需要了解这个LDA的信息，参看之前写的线 ...
分类：
其他好文 时间：
2018-12-04 13:22:13
阅读次数：
262
隐含狄利克雷分布（Latent Dirichlet Allocation ,简称LDA) 贝叶斯模型贝叶斯模型主要涉及“先验分布”， “数据（似然）”和“后验分布”三块，在贝叶斯学派中： 先验分布 + 数据（似然）= 后验分布可以理解为通过在现先验分布的基础上更新后验分布 二项分布$a = a -2 ...
分类：
其他好文 时间：
2018-11-28 20:30:46
阅读次数：
204
1、伯努利分布 对于二元随机变量x∈{0, 1}，即x的取值要么是0，要么是1。假设x描述的是扔一枚损坏的硬币的结果（即正反面朝上的概率不一定相等），x=1表示正面朝上，概率为参数μ，则有： p(x=1 | μ) = μ，其中0≤μ≤1 狄利克雷分布， 多项式分布，先验分布，共轭先验 ...
分类：
其他好文 时间：
2017-12-17 12:22:10
阅读次数：
122
引言 LDA(Latent Dirichlet Allocation)称为潜在狄利克雷分布，是文本语义分析中比较重要的一个模型，同时，LDA模型中使用到了贝叶斯思维的一些知识，这些知识是统计机器学习的基础。为了能够对LDA原理有清晰的认识，也为了能够对贝叶斯思维有全面的了解，在这里对基本知识以及LD ...
分类：
编程语言 时间：
2017-10-08 21:26:05
阅读次数：
246
1. 二项分布与beta分布对应 2. 多项分布与狄利克雷分布对应 3. 二项分布是什么？n次bernuli试验服从 二项分布 二项分布是N次重复bernuli试验结果的分布。 bernuli实验是什么？做一次抛硬币实验，该试验结果只有2种情况，x= 1, 表示正面。 x=0，表示反面。 bernu ...
分类：
其他好文 时间：
2017-09-10 11:15:13
阅读次数：
202
