梯度下降

时间：2015-09-08 15:09:20 阅读：142 评论：0 收藏：0 [点我收藏+]

标签：

梯度下降原理：将函数比作一座山，我们站在某个山坡上，往四周看，从哪个方向向下走一小步，能够下降的最快；

当然解决问题的方法有很多，梯度下降只是其中一个，还有一种方法叫Normal Equation（标准方程）；

方法：

(1)先确定向下一步的步伐大小，我们称为Learning rate；

(2)任意给定一个初始值：技术分享

；

(3)确定一个向下的方向，并向下走预先规定的步伐，并更新技术分享

；

(4)当下降的高度小于某个定义的值，则停止下降；

标签：

原文地址：http://www.cnblogs.com/iathena/p/92a4e10546725e096c25a8705ce49766.html

踩

(0)

评论一句话评论（0）

分享档案

更多>

周排行