为了求得参数θ，也可以不用迭代的方法（比如梯度下降法），可以采用标准方程法一次性就算出了θ。 标准方程法介绍： （1） 这里面，X的第一列是人为添加的，为了方便运算的，都置为1，后面才是真正的特征。 （2） 下面是样本对应的输出： （3） 设拟合函数为： h(x) = θ0 * x0 + θ1 * ...
分类：
其他好文 时间：
2019-04-21 13:02:47
阅读次数：
1096
SGD 梯度下降法根据每次更新参数时使用的样本数量分为Stochastic Gradient Descent(随机梯度下降法，SGD)、mini-batch Gradirnt Descent(小批量梯度下降法，mBGD)和Batch Gradient Descent(批量梯度下降法，BGD)三种。通... ...
分类：
其他好文 时间：
2019-04-11 10:41:24
阅读次数：
184
数据 32.502345269453031,31.70700584656992 53.426804033275019,68.77759598163891 61.530358025636438,62.562382297945803 47.475639634786098,71.5466322335677 ...
分类：
其他好文 时间：
2019-04-02 12:47:57
阅读次数：
230
一般线性回归函数的假设函数为： 对应的损失函数为： （这里的1/2是为了后面求导计算方便）下图作为一个二维参数（，）组对应能量函数的可视化图： 下面我们来比较三种梯度下降法 批量梯度下降法BGD （Batch Gradient Descent） 我们的目的是要误差函数尽可能的小，即求解weights ...
分类：
其他好文 时间：
2019-03-17 14:11:58
阅读次数：
237
写在前面的话： 在第一学期做项目的时候用到过相应的知识，觉得挺有趣的，就记录整理了下来，基于C/C++语言 原贴地址：https://helloacm.com/cc-linear-regression-tutorial-using-gradient-descent/ 前言 在机器学习和数据挖掘处理等 ...
分类：
其他好文 时间：
2019-02-24 10:17:06
阅读次数：
185
梯度下降： 1，批量梯度（BGD），随机梯度下降法（SGD），小批量梯度下降法（MBGD）的区别 2，和最小二乘比较 1，梯度下降法需要选择步长，而最小二乘法不需要。 2，梯度下降法是迭代求解，最小二乘法是计算解析解。 3，最小二乘仅适用数据量较小的情况下 3，和牛顿法比较 1，梯度下降法是梯度求解 ...
分类：
其他好文 时间：
2019-02-22 10:39:45
阅读次数：
184
1.梯度下降法 先是将需要调整的参数以字典形式存储到param_grid列表中，梯度下降法可调整参数，可参考以下链接 https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.SGDClassifier.html#s ...
分类：
其他好文 时间：
2019-02-02 14:12:00
阅读次数：
286
1.对某些线性回归问题，正规方程给出了更好的解决方法，来求得参数θ，截止到目前我们一直使用线性回归算法是梯度下降法，为了最小化代价函数J(θ)，我们使用梯度下降多次迭代，来收敛得到全局的最小值。与此相反的正规方程提供了一种求θ的解析方法，我们不需要再去运用迭代的方法，而是可以直接一次性的求解θ最优值 ...
分类：
其他好文 时间：
2019-01-22 17:27:53
阅读次数：
181
算法杂货铺——分类算法之贝叶斯网络(Bayesian networks) 2.1、摘要 在上一篇文章中我们讨论了朴素贝叶斯分类。朴素贝叶斯分类有一个限制条件，就是特征属性必须有条件独立或基本独立（实际上在现实应用中几乎不可能做到完全独立）。当这个条件成立时，朴素贝叶斯分类法的准确率是最高的，但不幸的 ...
分类：
Web程序 时间：
2019-01-17 15:56:24
阅读次数：
310
