在我重新抱起概率统计的课本之前，我一直都不清楚似然函数为什么是那样子的，只知道照着公式敲代码（那时候还没有tensorflow），于是出过各种糗：“啊？似然函数不就是交叉熵吗？”“机器学习中的似然函数怎么看起来跟概率统计课本里的不一样呢？”“学长学长，我把这个model的输出接上交叉熵后怎么报错了？”“似然函数”名字的意义已经在以前的多篇文章中提过了，更通用的定义来说，似然函数就是衡量当前模型参数
分类：
其他好文 时间：
2020-12-29 11:50:10
阅读次数：
0
高等数学基础 | 01 微积分 | 02 泰勒公式与拉格朗日乘子法 | 03 线性代数基础 | 04 特征值与矩阵分解 | 05 概率论基础 | 06 随机变量与概率统计 | 07 随机变量的几种分布 | 08 核函数变换 | 09 熵与激活函数 | 10 假设检验 | 11 相关分析 | 12 回 ...
分类：
其他好文 时间：
2020-12-15 12:46:29
阅读次数：
4
本文始发于个人公众号： TechFlow ，原创不易，求个关注 今天是 概率统计专题 的第六篇，我们来看看方差相关的概念。 方差的定义 方差在我们的日常生活当中非常常见，它主要是为了 提供样本离群程度的描述 。举个简单的例子，我们去买一包薯片，一般来说一袋薯片当中的数量是固定的。我们假设平均每袋当中 ...
分类：
其他好文 时间：
2020-05-16 10:59:29
阅读次数：
82
隐含状态解码问题的描述 上一篇我们讲完了概率估计问题，这里我们再来讲一下隐马尔科夫模型的状态解码问题。 解码 Decoding，就是给定一个已知的观测序列，求它最有可能对应的状态序列。那么用形式化的语言来说，就是已知模型λ = (A, B, π)和观测序列$O = (o_{1},o_{2},..., ...
分类：
其他好文 时间：
2020-04-02 15:52:41
阅读次数：
110
从马尔科夫链到隐马尔科夫模型 在前面几篇的内容里，我们介绍了马尔科夫链，下面我们接着来说说隐马尔科夫模型，它的英文全称是 Hidden Markov Model，也就是我们经常看到的 HMM 模型。隐马尔科夫模型是一种统计模型，它广泛地应用在语音识别、词性自动标注、概率文法等自然语言处理的各个应用领 ...
分类：
其他好文 时间：
2020-04-01 19:37:13
阅读次数：
107
楔子 从这一篇开始，我们主要来介绍基于马尔科夫链的近似采样过程。具体如何采样，以及整个采样过程中的思维过程，我们随着这篇的内容讲解而逐步展开 马尔科夫链的稳态与采样的关系 马尔科夫链的平稳分布是一个意义非凡的重要特性，我们换个角度说明一下大家就能明白它的重要意义：也就是说无论我们的起始状态是位于状态 ...
分类：
其他好文 时间：
2020-04-01 14:36:35
阅读次数：
114
回顾两类重要的随机过程 在上一篇随机过程的概述中，我们提到过两类非常非常典型且重要的随机过程，一类是：伯努利过程和泊松过程，这一类随机过程是无记忆性的，也就是说未来的状态不依赖于过去的状态——新的“成功”或“到达”不依赖于该过程过去的历史情况。 而另一类则正好相反，未来的情况会依赖于过去的情况，并且 ...
分类：
其他好文 时间：
2020-04-01 01:11:57
阅读次数：
81
统计推断的两大学派 在统计领域，有两种对立的思想学派：贝叶斯学派和经典学派（也称频率学派），它们之间最重要的区别就是如何看待被估计的未知参数。贝叶斯学派的观点是将其看成是已知分布的随机变量，而经典学派的观点是将其看成未知的待估计的常量。 贝叶斯统计推断 具体来说，贝叶斯推断方法是将未知参数看做是一个 ...
分类：
其他好文 时间：
2020-03-30 19:27:46
阅读次数：
86
楔子 前两篇我们讨论的离散型和连续型随机变量都是单一变量，然而在现实当中，一个试验常常会涉及到多个随机变量。所谓多个随机变量是指在同一个试验结果之下产生的多个随机变量。这些随机变量的取值是由试验结果确定的，因此它们的取值会存在相互关联。这里我们先以离散型随机变量为例，将离散型随机变量的分布列和期望推 ...
分类：
其他好文 时间：
2020-03-28 20:04:29
阅读次数：
67
从概率到条件概率 对于概率，相信大家都不会陌生，在各阶段的数学课上，它都是高频出现的常客，最简单的概率场景比如掷骰子：第一次掷出的点数为 5 的概率为多大？你会毫不犹豫的说出答案：1/6。 这太简单了。接下来我增加一个限定条件：已知在抛出骰子是奇数的情况下，抛掷点数为 5 的可能性有多大？ 发现了没 ...
分类：
其他好文 时间：
2020-03-27 21:54:09
阅读次数：
102
