一、高斯核函数、高斯函数 μ:期望值,均值,样本平均数;(决定告诉函数中心轴的位置:x = μ) σ2:方差;(度量随机样本和平均值之间的偏离程度:, 为总体方差, 为变量, 为总体均值, 为总体例数) σ:标准差;(反应样本数据分布的情况:σ 越小高斯分布越窄,样本分布越集中;σ 越大高斯分布越宽 ...
分类:
其他好文 时间:
2018-08-13 19:38:54
阅读次数:
2933
1.激活函数: 2.超参数:是在开始学习过程之前设置值的参数,而不是通过训练得到的参数数据。通常情况下,需要对超参数进行优化,给学习机选择一组最优超参数,以提高学习的性能和效果 3.特征提取: 特征工程:若出现特征为字符串类型则使用独热编码 良好特征具备的特性:1.特征值应以非零值的形式在数据集中多 ...
分类:
编程语言 时间:
2018-07-26 18:48:57
阅读次数:
152
1. 引言 当我们跑机器学习程序时,尤其是调节网络参数时,通常待调节的参数有很多,参数之间的组合更是繁复。依照注意力>时间>金钱的原则,人力手动调节注意力成本太高,非常不值得。For循环或类似于for循环的方法受限于太过分明的层次,不够简洁与灵活,注意力成本高,易出错。本文介绍sklearn模块的G ...
分类:
编程语言 时间:
2018-07-23 11:18:30
阅读次数:
535
如何用textgenrnn处理中文 1. 什么是textgenrnn? textgenrnn是建立在Keras和TensorFlow之上的,可用于生成 和`词级别`文本。网络体系结构使用注意力加权来加速训练过程并提高质量,并允许调整大量超参数,如RNN模型大小、RNN层和双向RNN。对细节感兴趣的读 ...
分类:
其他好文 时间:
2018-07-22 19:20:16
阅读次数:
278
No.1. kNN算法中需要传入一个参数k,这个参数k的作用之前提到过,它就是指距离待预测数据最近的前k个数据,这个参数k的具体大小应该如何选择?超参数问题就是描述的这类问题。 No.2. 所谓"超参数",就是指在算法运行之前需要进行指定的参数;与"超参数"向对应的是"模型参数","模型参数"是在算 ...
分类:
其他好文 时间:
2018-07-18 23:33:57
阅读次数:
190
3.1调试处理 (1)不同超参数调试的优先级是不一样的,如下图中的一些超参数,首先最重要的应该是学习率α(红色圈出),然后是Momentum算法的β、隐藏层单元数、mini-batch size(黄色圈出)、再之后是Layer、learning rate decay(紫色圈出)、最后是Adam算法中 ...
分类:
其他好文 时间:
2018-07-14 14:48:34
阅读次数:
169
序 SVM支持向量机作为统计分类和回归分析中的重要方法,其理论推导难度较大,根据自己查阅的相关资料,按照问题理解、待处理数据是否可分的判断、主要推导过程、核函数的选择及推导、核函数的选择原则、python实现的相关方法、超参数调优等内容,以粗线条的方式,总结如下要点,方便查阅和易于理解: 1.问题分 ...
分类:
其他好文 时间:
2018-07-06 12:20:36
阅读次数:
149
KNN 算法介绍: 缺点: 对一个算法的掌握无非知其然,也知其所以然 使用scikit中的KNN: 自己实现KNN 分类器: 调用: 超参数和模型参数: 如何寻找好的超参数 明可夫斯基距离 当p的值为1时,则是曼哈顿距离,当p为2时则是欧拉距离 数据归一化: 测试数据归一化 使用StandardSc ...
分类:
其他好文 时间:
2018-07-06 01:32:46
阅读次数:
236
流程:模型族->算法族->深度网络->深度学习 模型族:模型中含有超参数,给予不同的参数对应不同的模型,就形成了模型族 算法族:每一个模型对应一个完整算法,整个模型族对应了一个算法族 将算法族展开成一个深度网络,网络层数代表迭代次数,模型的超参数成为网络中的参数(如权重等)。利用少量标记数据就可以训 ...
分类:
Web程序 时间:
2018-06-16 16:18:21
阅读次数:
2380
一 、超参数和模型参数 超参数:在算法运行前需要决定的参数 模型参数:算法运行过程中学习的参数 - kNN算法没有模型参数- kNN算法中的k是典型的超参数 寻找好的超参数 领域知识 经验数值 实验搜索 二、通过sklearn中的数据集进行测试 输出结果:0.9888888888888889 三、考 ...
分类:
其他好文 时间:
2018-06-07 14:03:56
阅读次数:
212