方差： 1.样本方差为何除以n-1 2.为什么样本方差（sample variance）的分母是 n-1？ 协方差： 1.期望、方差、协方差和协方差矩阵 2.详解协方差与协方差矩阵 有详细计算例子 ...
分类：
其他好文 时间：
2019-09-18 16:02:07
阅读次数：
99
https://www.zhihu.com/question/64134994 1、增加batch size会使得梯度更准确，但也会导致variance变小，可能会使模型陷入局部最优； 2、因此增大batch size通常要增大learning rate，比如batch size增大m倍，lr增大m ...
分类：
其他好文 时间：
2019-09-13 17:10:55
阅读次数：
105
The System Boot Process Explained：https://www.webopedia.com/DidYouKnow/Hardware_Software/BootProcess.asp 操作系统是怎么启动的？BootLoader是在操作系统内核运行之前运行；->初始化硬件设备 ...
分类：
其他好文 时间：
2019-08-25 15:55:36
阅读次数：
122
基于word2vec的文档向量模型的应用 word2vec的原理以及训练过程具体细节就不介绍了，推荐两篇文档：《word2vec parameter learning explained》、和《word2vec中的数学》。 在《word2vec中的数学》中谈到了训练语言模型的一些方法：比如n gra ...
分类：
其他好文 时间：
2019-08-23 22:37:38
阅读次数：
154
当我们在机器学习领域进行模型训练时,出现的误差是如何分类的? 我们首先来看一下,什么叫偏差(Bias),什么叫方差(Variance): 这是一张常见的靶心图 可以看左下角的这一张图,如果我们的目标是打靶子的话,我们所有的点全都完全的偏离了这个中心的位置,那么这种情况就叫做偏差 再看右上角这张图片, ...
分类：
其他好文 时间：
2019-08-19 13:17:38
阅读次数：
138
个人感觉理解误差、偏置、方差的一个好的解释，感谢分享：https://baijiahao.baidu.com/s?id=1601092478839269810&wfr=spider&for=pc 该作者写的我感觉已经很容易懂了。 Error：反映的模型的准确度。误差越大，模型越不准确。 Bias：反 ...
分类：
其他好文 时间：
2019-08-18 15:21:35
阅读次数：
55
If you are a fan of Harry Potter, you would know the world of magic has its own currency system -- as Hagrid explained it to Harry, "Seventeen silver ...
分类：
其他好文 时间：
2019-08-03 10:27:47
阅读次数：
102
CNN中最重要的就是参数了，包括W,b。 我们训练CNN的最终目的就是得到最好的参数，使得目标函数取得最小值。参数的初始化也同样重要，因此微调受到很多人的重视，那么tf提供了哪些初始化参数的方法呢，我们能不能自己进行初始化呢？ 所有的初始化方法都定义在tensorflow/python/ops/in ...
分类：
其他好文 时间：
2019-07-14 15:02:29
阅读次数：
86
一.写在前面 本节所讲的内容主要是讨论如何进一步提高通过机器学习获得fbest的准确度使其更进一步接近ftrue，为了解决这个问题我们必须先明确我们学习得到的fbest的误差来自于哪里。这里先提一下误差的主要两个来源分别是bias和variance,即偏差和方差，换句话说当你想进一步提高你模型的精确 ...
分类：
其他好文 时间：
2019-06-30 14:13:12
阅读次数：
101
