作者：知乎用户链接：https://www.zhihu.com/question/41252833/answer/108777563来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 熵的本质是香农信息量()的期望。 现有关于样本集的2个概率分布p和q，其中p为真实分布， ...
分类：
其他好文 时间：
2017-10-27 13:27:04
阅读次数：
124
前言在之前关于聚类算法的文章中，笔者主要涉及的内容均是和参数求解相关的，如C均值（包括模糊C均值）、混合高斯模型等，而对于一些无参数密度估计的算法尚未讨论，而且一般基于参数密度估计的算法均是建立在假设的概率分布族（如高斯分布、多项式分布等）基础之上的，而在实..
分类：
编程语言 时间：
2017-10-19 19:37:37
阅读次数：
168
原帖地址：http://blog.csdn.net/pipisorry/article/details/39076957常见离散概率分布Bernoulli、Binomial、Poisson伯努利分布对单次抛硬币的建模，X~Bernoulli(p)的PDF为随机变量X只能取{0, 1}。对于所有的pd... ...
分类：
其他好文 时间：
2017-10-14 18:46:01
阅读次数：
205
一个决策决定了事情发展的方向，不在做决定就在执行决定中。 如果决策正确或较优，那结果也会更好；反之，耗费了时间，得不到期望的结果。 那么，怎样才能更快得到好的结果呢？ 1）留够决策的时间，不可急于尝试 2）理出各种执行方案，分析其利弊和耗时 3）在信息欠缺或不确定的情况下，可以使用概率分布，选择执行 ...
分类：
其他好文 时间：
2017-10-08 00:56:31
阅读次数：
122
决策树(decision tree) 是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。学习 ...
分类：
其他好文 时间：
2017-10-07 19:43:10
阅读次数：
135
朴素贝叶斯(naive Bayes) 法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。朴素贝叶斯法实现简单，学习与预测的效率都很高，是一种常用的方法。 ...
分类：
其他好文 时间：
2017-10-01 12:25:30
阅读次数：
170
文本相似性计算三个阶段： 1. 字面的匹配相似 2. 词汇的匹配相似 3. 语义的匹配相似 一、JaccardSimilarity方法 对文本进行分词，然后对每一个单词分配一个唯一的ID（token），为了计算文本之间的相似性。JaccardSimilarity方法的计算方法是： 两个集合的交集/两 ...
分类：
其他好文 时间：
2017-09-30 17:43:25
阅读次数：
190
PART 1 这个性质被叫做共轭性。共轭先验使得后验概率分布的函数形式与先验概率相同，因此使得贝叶斯分析得到了极?的简化。 V:文档集中不重复的词汇的数目 语料库共有m篇文档，； 对于文档，由个词汇组成，可重复； 是第m个文档中的第n个词。 :文档集中文档的总数 :第m个文档中包含的词汇总数 :文档... ...
分类：
其他好文 时间：
2017-09-30 15:01:49
阅读次数：
301
LDA 1 概述 LDA(Latent Dirichlet allocation)潜在狄立克雷分配模型，它是将文档集中每篇文档的主题按照概率分布的形式给出,是一种典型的概率生成性模型，能够发现语料库中潜在的主题信息，因此也称为LDA主题模型。它是一种无监督学习，可以应用于推荐系统之中，其优点在于无需... ...
分类：
其他好文 时间：
2017-09-30 13:24:22
阅读次数：
161
https://rdipietro.github.io/friendly-intro-to-cross-entropy-loss/ 【将输入转化为输出：概率分布】 When we develop a model for probabilistic classification, we aim to ...
分类：
其他好文 时间：
2017-09-26 22:24:22
阅读次数：
200
