有下面代码可以看出torch层函数(nn.Module)用法，使用超参数实例化层函数类(常位于网络class的__init__中)，而网络class实际上就是一个高级的递归的nn.Module的class。 通常 torch.nn的核心数据结构是Module，它是一个抽象概念，既可以表示神经网络中的 ...
分类：
其他好文 时间：
2018-02-26 16:26:12
阅读次数：
540
应用ML是一个高度迭代的过程 Idea Code Experment ... 去不断地调整超参数。 Train/Dev/Test sets 通常将数据集划分为Train/Dev/Test集。 Training set: 用于模型的训练 Hold out cross validation set/De ...
分类：
移动开发 时间：
2018-01-29 20:13:22
阅读次数：
656
Spark中的CrossValidation Spark中采用是k折交叉验证 （k-fold cross validation）。举个例子，例如10折交叉验证(10-fold cross validation)，将数据集分成10份，轮流将其中9份做训练1份做验证，10次的结果的均值作为对算法精度的估 ...
分类：
其他好文 时间：
2018-01-18 17:12:27
阅读次数：
206
https://arimo.com/data-science/2016/bayesian-optimization-hyperparameter-tuning/ 贝叶斯优化：使用高斯过程作为代理函数，并且通常优化提升幅度的期望Expected Improvement(新试验相对当前最好观测的提升的期 ...
分类：
其他好文 时间：
2017-12-17 22:15:08
阅读次数：
175
Initialization Welcome to the first assignment of the hyper parameters tuning(超参数调整) specialization. It is very important that you regularize your mod ...
分类：
Web程序 时间：
2017-12-15 00:46:35
阅读次数：
344
记录cousera上ng讲的deep learning课的笔记，第8课：Hyperparameter tuning, Batch Norm and softmax ...
分类：
其他好文 时间：
2017-11-22 00:50:00
阅读次数：
279
这一周的主体是调参。 1. 超参数：No. 1最重要，No. 2其次，No. 3其次次。 No. 1学习率α：最重要的参数。在log取值空间随机采样。例如取值范围是[0.001, 1]，r = -4*np.random.rand(), α = 10r。 No. 2 Momentum β：0.9是个不 ...
分类：
其他好文 时间：
2017-11-11 15:27:39
阅读次数：
285
VectorIndexer： 倘若所有特征都已经被组织在一个向量中，又想对其中某些单个分量进行处理时，Spark ML提供了VectorIndexer类来解决向量数据集中的类别性特征转换。 通过为其提供maxCategories超参数，它可以自动识别哪些特征是类别型的，并且将原始值转换为类别索引。它 ...
分类：
其他好文 时间：
2017-10-31 22:19:51
阅读次数：
196
sklearn参数优化方法 http://www.cnblogs.com/nolonely/p/7007961.html 学习器模型中一般有两个参数：一类参数可以从数据中学习估计得到，还有一类参数无法从数据中估计，只能靠人的经验进行指定，后一类参数就叫超参数 比如，支持向量机里的C，Kernel，g ...
分类：
其他好文 时间：
2017-10-13 22:29:16
阅读次数：
227
