1.了解不同优化器 2.书写优化器代码3.Momentum4.二维优化，随机梯度下降法进行优化实现5.Ada自适应梯度调节法6.RMSProp7.Adam8.PyTorch种优化器选择 梯度下降法： 1.标准梯度下降法：GD每个样本都下降一次，参考当前位置的最陡方向迈进容易得到局部最优，且训练速度慢 ...
分类：
其他好文 时间：
2019-08-18 19:49:45
阅读次数：
94
第4章 训练模型 写在前面 参考书 《机器学习实战——基于Scikit Learn和TensorFlow》 工具 python3.5.1，Jupyter Notebook, Pycharm 线性回归算法比较 | 算法 | m很大 | 是否支持核外 | n很大 | 超参数 | 是否需要缩放 | skl ...
分类：
其他好文 时间：
2019-08-16 14:31:57
阅读次数：
78
https://www.cnblogs.com/lliuye/p/9451903.html 梯度下降法作为机器学习中较常使用的优化算法，其有着三种不同的形式：批量梯度下降（Batch Gradient Descent）、随机梯度下降（Stochastic Gradient Descent）以及小批量 ...
分类：
其他好文 时间：
2019-07-14 11:19:49
阅读次数：
100
梯度下降算法的大家族： ①批量梯度下降：有N个样本，求梯度的时候就用了N个样本的梯度数据 优点：准确 缺点：速度慢 ②随机梯度下降：和批量梯度下降算法原理相似，区别在于求梯度时没有用所有的N歌样本数据，而是仅仅选取1个来求梯度 优点：速度快 缺点：准去率地 ③小批量梯度下降：批量梯度下降算法和随机梯 ...
分类：
编程语言 时间：
2019-06-12 18:05:34
阅读次数：
144
学习率 learning_rate：表示了每次参数更新的幅度大小。学习率过大，会导致待优化的参数在最 小值附近波动，不收敛；学习率过小，会导致待优化的参数收敛缓慢。 在训练过程中，参数的更新向着损失函数梯度下降的方向。 参数的更新公式为： 𝒘𝒏+𝟏 = 𝒘𝒏 ? 𝒍𝒆𝒂𝒓𝒏𝒊? ...
分类：
其他好文 时间：
2019-06-01 21:17:11
阅读次数：
121
SGD 梯度下降法根据每次更新参数时使用的样本数量分为Stochastic Gradient Descent(随机梯度下降法，SGD)、mini-batch Gradirnt Descent(小批量梯度下降法，mBGD)和Batch Gradient Descent(批量梯度下降法，BGD)三种。通... ...
分类：
其他好文 时间：
2019-04-11 10:41:24
阅读次数：
184
2019年4月1日21:32:02 今天阅读了Charu C . Aggarwal 著作《推荐系统-原理与实践》，主要内容包括 矩阵分解 1、无约束矩阵分解 a) ,满足U和V上无约束 b) 预测矩阵R的（i，j）位置的值 c) d) 梯度求导需要对同时求导 2、随机梯度下降 a) 对矩阵中是数据进 ...
分类：
其他好文 时间：
2019-04-02 10:30:29
阅读次数：
311
一般线性回归函数的假设函数为： 对应的损失函数为： （这里的1/2是为了后面求导计算方便）下图作为一个二维参数（，）组对应能量函数的可视化图： 下面我们来比较三种梯度下降法 批量梯度下降法BGD （Batch Gradient Descent） 我们的目的是要误差函数尽可能的小，即求解weights ...
分类：
其他好文 时间：
2019-03-17 14:11:58
阅读次数：
237
梯度下降： 1，批量梯度（BGD），随机梯度下降法（SGD），小批量梯度下降法（MBGD）的区别 2，和最小二乘比较 1，梯度下降法需要选择步长，而最小二乘法不需要。 2，梯度下降法是迭代求解，最小二乘法是计算解析解。 3，最小二乘仅适用数据量较小的情况下 3，和牛顿法比较 1，梯度下降法是梯度求解 ...
分类：
其他好文 时间：
2019-02-22 10:39:45
阅读次数：
184
梯度下降是机器学习中用来使模型逼近真实分布的最小偏差的优化方法。 在普通的随机梯度下降和批梯度下降当中，参数的更新是按照如下公式进行的： W = W - αdW b = b - αdb 其中α是学习率，dW、db是cost function对w和b的偏导数。 随机梯度下降和批梯度下降的区别只是输入的 ...
分类：
编程语言 时间：
2019-01-28 01:12:48
阅读次数：
810
