下图为四种不同算法应用在不同大小数据量时的表现，可以看出，随着数据量的增大，算法的表现趋于接近。即不管多么糟糕的算法，数据量非常大的时候，算法表现也可以很好。 数据量很大时，学习算法表现比较好的原理： 使用比较大的训练集（意味着不可能过拟合），此时方差会比较低；此时，如果在逻辑回归或者线性回归模型中 ...
分类：
编程语言 时间：
2018-01-22 01:20:13
阅读次数：
223
一般来说，召回率和查准率的关系如下：1、如果需要很高的置信度的话，查准率会很高，相应的召回率很低；2、如果需要避免假阴性的话，召回率会很高，查准率会很低。下图右边显示的是召回率和查准率在一个学习算法中的关系。值得注意的是，没有一个学习算法是能同时保证高查准率和召回率的，要高查准率还是高召回率，取决于 ...
分类：
编程语言 时间：
2018-01-21 21:29:16
阅读次数：
271
上篇文章提到了误差分析以及设定误差度量值的重要性。那就是设定某个实数来评估学习算法并衡量它的表现。有了算法的评估和误差度量值，有一件重要的事情要注意，就是使用一个合适的误差度量值，有时会对学习算法造成非常微妙的影响。这类问题就是偏斜类（skewed classes）的问题。什么意思呢。以癌症分类为例 ...
分类：
系统相关 时间：
2018-01-21 19:03:15
阅读次数：
199
针对高偏差、高方差问题的解决方法： 1、解决高方差问题的方案：增大训练样本量、缩小特征量、增大lambda值 2、解决高偏差问题的方案：增大特征量、增加多项式特征（比如x1*x2,x1的平方等等）、减少lambda值 隐藏层数的选择对于拟合效果的影响： 隐藏层数过少，神经网络简单，参数少，容易出现欠 ...
分类：
移动开发 时间：
2018-01-14 19:31:45
阅读次数：
172
绘制学习曲线非常有用，比如你想检查你的学习算法，运行是否正常。或者你希望改进算法的表现或效果。那么学习曲线就是一种很好的工具。学习曲线可以判断某一个学习算法，是偏差、方差问题，或是二者皆有。 为了绘制一条学习曲线，通常先绘制出训练集数据的平均误差平方和（Jtrain），或者交叉验证集数据的平均误差平 ...
分类：
移动开发 时间：
2018-01-14 18:36:52
阅读次数：
282
https://barefootnetworks.com/ 2005年秋季，Clean State项目已经在斯坦福成立，作为项目主管的Nick Mckeown教授和他的学生Martin Casado，来自伯克利的Scott Shenker教授，来自Princeton的Larry Peterson教授 ...
分类：
其他好文 时间：
2018-01-13 23:41:07
阅读次数：
4362
算法正则化可以有效地防止过拟合, 但正则化跟算法的偏差和方差又有什么关系呢？下面主要讨论一下方差和偏差两者之间是如何相互影响的、以及和算法的正则化之间的相互关系 假如我们要对高阶的多项式进行拟合，为了防止过拟合现象，我们要使用图下所示的正则化。因此我们试图通过下面的正则化项，来让参数的值尽可能小。正 ...
分类：
移动开发 时间：
2018-01-13 18:42:30
阅读次数：
271
Paxos自1990年提出以后，相当长时间内几乎已成为分布式一致性算法的代名词。但因其难以理解和实现，目前知名实现仅有Chubby、Zookeeper、libpaxos几种，其中Zookeeper使用的ZAB对Paxos做了大量改进。为此，2013年斯坦福的Diego Ongaro、John Ousterhout，提出了新的更易理解和实现的一致性算法，即Raft。
分类：
编程语言 时间：
2018-01-10 11:39:24
阅读次数：
195
JAVA基础知识 Java 是SUN（Stanford University Network，斯坦福大学网络公司）1995年推出的一门面向 Internet 的高级编程语言。 Java 虚拟机（JVM:Java Virtual Machine） JRE（Java Runtime Environmen ...
分类：
编程语言 时间：
2018-01-07 20:03:26
阅读次数：
202
逻辑回归（logistic sinmoid）：将线性函数的输出压缩进区间(0,1)。 逻辑回归 机器学习算法与Python实践之（七）逻辑回归（Logistic Regression） 支持向量机（support vector machine）：和逻辑回归类似，但不输出概率，只输出类别。 支持向量机 ...
分类：
其他好文 时间：
2017-12-19 01:25:02
阅读次数：
122
