一、频率派 vs 贝叶斯派 机器学习主要解决从数据中获取其概率分布的问题,通过一些机器学习的算法可以从大量数据中找到一定的规律,从而建立模型来解决实际问题,因此机器学习中主要使用数据来求解其参数: data:\(X\) $X= \left[ \begin x_1 & x_2 & \cdots & x ...
分类:
其他好文 时间:
2020-07-22 21:00:17
阅读次数:
102
一、生成模型 假设有两个类别$C_{1}、C_{2}$,$P(C_{1}|x)=\frac{P(x|C_{1})P(C_{1})}{P(x|C_{1})P(C_{1})+P(x|C_{2})P(C_{2})}$其中$P(C_{1})、P(C_{2})$为先验分布,$P(x|C_{1})、P(x|C_ ...
分类:
其他好文 时间:
2020-07-22 20:50:01
阅读次数:
76
一.背景 1.概率:在多元下,(1)联合概率:两个事件同时发生的概率P(A,B) ,(2)条件概率:在某一事件A条件下,另一事件B发生的概率P(B|A),(3)边缘概率:某一事件发生的概率P(A); 2.独立事件:两个没有任何关系的事件互为独立事件,此时两个事件的联合概率为两者概率相乘P(A,B)= ...
分类:
其他好文 时间:
2020-04-18 21:22:48
阅读次数:
116
超参数调优方法 网格搜索 通过查找搜索范围内的所有的点来确定最优值。如果采用较大的搜索范围以及较小的步长,网络搜索有很大概率找到全局最优值。然而,这种搜索方案十分消耗计算资源和时间,特别是需要调优的超参数比较多的时候,因此,在实际应用中,网格搜索法一般会使用较广的搜索范围和步长,来寻找全局最优值可能 ...
分类:
其他好文 时间:
2020-03-21 17:58:26
阅读次数:
67
概率分布(一) 参数分布 取这个名字是因为少量的参数可以控制整个概率分布。如高斯分布,我们只需要控制其期望和方差就可以得到一个特定的概率分布。 频率学家的观点:通过最优化某些准则(如似然函数)来确定参数的具体值。 贝叶斯观点:给定观察数据,先引入参数的先验分布,然后用贝叶斯定理计算对应的后验概率分布 ...
分类:
其他好文 时间:
2020-01-17 23:33:26
阅读次数:
406
Gamma分布与共轭先验 Gamma函数 对于整数$n$的阶乘,我们有$n!=n\times (n 1)...\times1$。 对于实数$x$的阶乘,计算公式为: $$ \Gamma(x)=\int_0^\infty t^{x 1}e^{ t}\,dt $$ 性质如下: 1. $\Gamma(x+ ...
分类:
其他好文 时间:
2020-01-17 23:16:16
阅读次数:
436
基本思想 生成器 从先验分布中采得随机信号,经过神经网络变换,得到模拟样本 判别器 接受来自生成器的模拟样本,也接受来自实际数据集的真实样本,并进行判断 训练过程 训练判别器:先固定生成器$G(\cdot)$,然后利用生成器随机模拟产生样本$G(z)$作为负样本,并从真实数据集采样正样本$X$;将这 ...
分类:
其他好文 时间:
2019-11-24 17:58:11
阅读次数:
89
快手AI lab 月臻 月臻 月臻 月臻 月臻 月臻 最近想出去实,快手是第一个发来的,所以就去了下。 第一 1. 介绍下NMS,并写出NMS的伪代码,和计算IOU的函数。 先介绍了一下NMS的做法,然后伪代码一时没写出来,计算IOU的函数没完全写对。当头一凉,其实之前在知乎上看到过说面试要准备的, ...
分类:
其他好文 时间:
2019-10-29 15:27:54
阅读次数:
106
,当θ的区间是无穷的时候,没办法定义一个正常的均匀分布,那广义先验分布的应用体现在哪里呢? 这里不满足 概率空间的完全性 , p(Ω)等于1 就是你对parameter的分布一点都没有把握的时候, 你知道parameter取值从负无穷到正无穷,但是并不确定它在什么时候概率更大 ...
分类:
其他好文 时间:
2019-05-19 10:25:14
阅读次数:
235
这里的频率学派,认为参数θ是一个常量 ,只有属于置信区间,或者?置信区间,没有属于这个某个置信区间的概率是0.9的说法。第一个意思是整体分布的一个参数θ,取θ的某一个先验分布,计算在该先验分布的条件下的贝叶斯估计的值不能等于该θ在整体分布下面的值。 第二个图片就是例子,第二张图片中因为先验概率取得好 ...
分类:
其他好文 时间:
2019-04-16 09:23:25
阅读次数:
155