1. 微积分: 定积分与不定积分、全微分、最小二乘法、二重积分、微分方程与差分方程等... 2. 线性代数: 行列式、矩阵、向量、线性方程组、矩阵的特性和特性向量、二次型等... 3. 概率论和统计学: 期望、方差、协方差、条件概率的链式法则、全概率分布、贝叶斯公式等... ...
分类:
编程语言 时间:
2018-05-04 10:25:21
阅读次数:
250
根据《统计学习方法》一书中的描述,条件随机场(conditional random field, CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔科夫随机场。 条件随机场是一种判别式模型。 一、理解条件随机场 1.1 HMM简单介绍 HMM即 ...
分类:
其他好文 时间:
2018-05-03 19:29:38
阅读次数:
368
一、均值 定义: 设P(x)是一个离散概率分布函数自变量的取值范围是。那么其均值被定义为: 设P(x)是一个连续概率分布函数 ,那么他的均值是: 性质: 1.线性运算: 期望服从先行性质,因此线性运算的期望等于期望的线性运算: 我们可以把它推广到任意一般情况: 2.函数的期望: 设f(x)是x的函数 ...
分类:
其他好文 时间:
2018-05-01 12:27:35
阅读次数:
214
案例: 预测酸奶的日销量, 由此可以准备产量, 使得损失小(利润大),假设销量是y , 影响销量的有两个因素x1, x2, 需要预先采集数据,每日的x1,x2和销量y_, 拟造数据集X,Y_, 假设y_=x1+x2,为了更真实加一个噪声(-0.05-0.05) 1.loss优化 上述例子中, los ...
分类:
其他好文 时间:
2018-04-29 20:35:24
阅读次数:
722
经历了马尔科夫链以及平稳随机过程的虐,我突然明白概率的解题思路,其实就是首先分析“基础场景”是连续还是离散,连续就考虑概率密度,离散就考虑概率;或者如果已经概率分布函数就利用概率分布函数; 然后基于基础场景再来分析采用那种数学特征,期望,方差,均值,还是协变量,或者复杂一点的方差函数,均值函数,自相 ...
分类:
其他好文 时间:
2018-04-29 16:18:04
阅读次数:
150
sigmoid(x) 函数定义:\[\begin{align*}\sigma(x) &= \frac{1}{1+e^{-x}} \\\frac{d(\sigma(x))}{dx} &= \sigma(x)(1-\sigma(x))\end{align*}\]逻辑斯谛回归分类模型定义如下:\[\beg... ...
分类:
其他好文 时间:
2018-04-22 18:07:00
阅读次数:
131
机器学习的任务是从属性X预测标记Y,即求概率P(Y|X); 有监督学习 training data给了正确的答案即label,任务就是建立相应的模型,训练样本集外的数据进行分类预测。 生成式模型 生成模型学习一个联合概率分布P(x,y) 常见的判别方法有 k近邻法、感知机、决策树、逻辑回归、线性回归 ...
分类:
其他好文 时间:
2018-04-22 12:55:52
阅读次数:
188
一.状态估计的解释 我们知道每个方程都受噪声的影响,这里把位姿x和路标y看成服从某种概率分布的随机变量。因此我们关心的问题就变成了:当我们已知某些运动数据u和观测数据z时,如何确定状态量x,y的分布?比较常见且合理的情况下,我们假设状态量和噪声项服从高斯分布 这意味着在程序中只需存储它们的均值和协方 ...
分类:
其他好文 时间:
2018-04-12 13:42:59
阅读次数:
465
一、贝叶斯定理 机器学习所要实现的均是通过有限的训练样本尽可能的准确估计出后验概率,也就是所说的结果情况。大题分为判别式模型和生成式模型。 1. 判别式模型:直接通过建模P(结果|特征)的方式来预测结果,典型代表如决策树,BP神经网络、支持向量机等。 2. 生成式模型:先对联合概率分布P(特征,结果 ...
分类:
其他好文 时间:
2018-04-08 18:59:55
阅读次数:
1112
学习人工智能有段时间了,总结了一下人工智能的学习历程和课程表,希望对想学习的朋友有所帮助。期间也买了很多资料。可以分享给大家。 阶段一:数学基础 1.数据分析 常数e 导数 梯度 Taylor gini系数 信息熵与组合数 2.概率论 概率论基础 古典模型 常见概率分布 大数定理和中心极限定理 协方 ...
分类:
其他好文 时间:
2018-04-08 18:02:33
阅读次数:
212