码迷,mamicode.com
首页 > 其他好文 > 详细

为什么常使用梯度下降,很少用最小二乘法

时间:2019-07-30 21:27:04      阅读:90      评论:0      收藏:0      [点我收藏+]

标签:技术   http   情况下   html   矩阵   无法   com   lan   image   

  1. 最小二乘法需要计算XTX的逆矩阵,有可能它的逆矩阵不存在。
  2. 当样本特征n非常的大的时候,计算XTX的逆矩阵是一个非常耗时的工作(nxn的矩阵求逆),甚至不可行。
  3. 如果拟合函数不是线性的,这时无法使用最小二乘法。
  4. 其他特殊情况下也不适合使用最小二乘法。

参考刘建平Pinard的最小二乘法总结

为什么常使用梯度下降,很少用最小二乘法

标签:技术   http   情况下   html   矩阵   无法   com   lan   image   

原文地址:https://www.cnblogs.com/guesswhy/p/11272829.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!