C++通过一组协作的类来产生随机数。随机数引擎类可以生成unsigned随机数序列，随机数分布类可以生成服从特定概率分布的随机数。 ...
分类：
编程语言 时间：
2020-05-12 09:47:03
阅读次数：
58
基本要素 状态 $N$个 状态序列 $S = s_1,s_2,...$ 观测序列 $O=O_1,O_2,...$ $\lambda(A,B,\pi)$ 状态转移概率 $A = \{a_{ij}\}$ 发射概率 $B = \{b_{ik}\}$ 初始概率分布 $\pi = \{\pi_i\}$ 观测序 ...
分类：
编程语言 时间：
2020-05-11 23:54:44
阅读次数：
116
熵，条件熵，相对熵，互信息的相关定义及公式推导 熵是随机变量不确定性的度量，不确定性越大，熵值越大，若随机变量退化成定值，熵为0，均匀分布是最不确定的分布。熵其实定义了一个函数(概率分布函数)到一个值(信息熵)的映射。熵的定义公式如下： 在经典熵的定义中，底数是2，此时熵的单位是bit，若底数是e， ...
分类：
其他好文 时间：
2020-05-09 21:45:35
阅读次数：
136
From: https://www.cnblogs.com/pinard/p/6912636.html EM算法也称期望最大化（Expectation-Maximum,简称EM）算法，它是一个基础算法，是很多机器学习领域算法的基础，比如隐式马尔科夫算法（HMM）， LDA主题模型的变分推断等等。本文 ...
分类：
编程语言 时间：
2020-05-05 17:56:50
阅读次数：
76
Sigmoid Sigmoid 函数也叫 Logistic 函数，定义为 $$ Sigmoid:=\frac{1}{1+e^{ x}} $$ 它的一个优良特性就是能够把 ?? ∈ ?? 的输入压缩到 ??∈[0,1]区间，这个区间的数值在机器学习常用来表示以下含义： 1. 概率分布 [0,1] 区间 ...
分类：
其他好文 时间：
2020-05-02 19:12:06
阅读次数：
58
机器学习中的交叉熵 交叉熵的定义 概率分布p和q的交叉熵定义为： $$ {\displaystyle \mathrm {H} (p,q)=\operatorname {E} _{p}[ \log(q)]=\mathrm {H} (p)+D_{\text{KL}}(p\parallel q)} $$ ...
分类：
其他好文 时间：
2020-05-01 20:54:26
阅读次数：
97
1.简介 统计学习方法都是由模型、策略和算法构成的 2.模型 在监督学习过程中，模型就是所要学习的条件概率分布或决策函数。 模型的假设空间包含所有可能的条件概率分布或决策函数。 2.1 决策函数模型 2.2 条件概率 决策函数表示的模型为非概率模型，由条件概率表示的模型为概率模型 3 学习策略 考虑 ...
分类：
其他好文 时间：
2020-04-30 21:22:12
阅读次数：
93
1、(Bayes)贝叶斯定理 $P(A|B)=\frac{P(B|A)P(A))}{P(B)}$（“后验概率=标准似然度 先验概率”） 2、伯努利分布 伯努利分布（英语：Bernoulli distribution），又名两点分布或者0 1分布，是一个离散型概率分布。 概率质量函数：$f_{X}(x ...
分类：
其他好文 时间：
2020-04-30 19:27:03
阅读次数：
86
1 简介 决策树模型是树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型。预测时，对新的数据，利用决策 ...
分类：
其他好文 时间：
2020-04-28 13:04:22
阅读次数：
158
本文提出了一种Deep Q-Network（DQN），借助端到端(end-to-end)的强化学习方法能够直接从高维的输入中，学习一种很优的策略（policy）。输入是游戏的实时图像（当前`状态S`），借助卷积神经网络捕捉局部特征的关联性，输出所有可能采取`动作A`的概率分布。 ...
分类：
其他好文 时间：
2020-04-18 17:16:22
阅读次数：
143
