逻辑回归 一、什么是逻辑回归 是用于处理因变量为分类变量的回归问题,常见的是二分类或二项分布问题,也可以处理多分类问题,它实际上是属于一种分类方法。主要思想是用最大似然概率方法构造方差,为最大化方差,利用牛顿梯度上升求解方差参数。 优缺点如下: 1 优点:计算代价不高,易于理解和实现。 2 缺点:容 ...
分类:
其他好文 时间:
2020-08-07 12:31:57
阅读次数:
64
本程序使用的是Jupyte Notebook ...
分类:
其他好文 时间:
2020-04-05 22:36:08
阅读次数:
81
目录 简述 梯度下降与梯度上升 梯度下降法算法详解 梯度下降法大家族(BGD,SGD,MBGD) 梯度下降法和其他无约束优化算法的比较 总结 在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(Gradient Descent)是最常采用的方法之一,另一种常用的方法是最小二乘法(在【2】中已... ...
分类:
其他好文 时间:
2020-02-23 21:50:51
阅读次数:
65
主成分分析(Principal Component Analysis) 1. 一个非监督的机器学习算法 2. 主要用于数据的降维 3. 通过降维,可以发现更便于人类理解的特征 4. 其他应用:可视化、去噪 通过映射,我们可以把数据从二维降到一维: 显然,右边的要好一点,因为间距大,更容易看出差距。 ...
分类:
其他好文 时间:
2019-10-06 00:13:33
阅读次数:
101
Logistics回归:实战,有两个特征X0,X1.100个样本,进行Logistics回归 1.导入数据 2. Logistics回归梯度上升优化算法 3. 画出决策边界,即画出数据集合Logistics回归最佳拟合直接的函数 4. 测试数据,画图 5. 结果如下 另外,还有 ...
分类:
其他好文 时间:
2019-07-20 13:00:08
阅读次数:
110
import numpy as np from sklearn import datasets# 载入数据包 import numpy as np from sklearn import datasets# 载入数据包 import numpy as np from sklearn import d ...
分类:
编程语言 时间:
2019-05-05 11:57:29
阅读次数:
176
logistic回归 梯度上升法 做图 随机梯度上升 随机梯度上升改进 从疝气病预测病马的死亡率 ...
分类:
其他好文 时间:
2019-03-06 14:56:59
阅读次数:
184
梯度下降是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(GradientDescent)是最常采用的方法之一,另一种常用的方法是最小二乘法。在求解损失函数的最小值时,可以通过梯度下降法来一步步的迭代求解,得到最小化的损失函数和模型参数值。反过来,如果我们需要求解损失函数的最大值,这时就需要用梯度上升法来迭代了。在机器学习中
分类:
编程语言 时间:
2018-12-12 17:38:25
阅读次数:
180
DeepDream是一种艺术性的图像修改技术,它用到了卷积神经网络学到的表示,DeepDream由Google于2015年发布。这个算法与卷积神经网络过滤器可视化技术几乎相同,都是反向运行一个卷积神经网络:对卷积神经网络的输入做梯度上升,以便将卷积神经网络靠顶部的某一层的某个过滤器激活最大化。但有以 ...
分类:
其他好文 时间:
2018-11-24 16:34:38
阅读次数:
384
θ不一定完全可求出 那么需要让机器一步一步的去试验 比如下图,目前在一个中间点 梯度下降:得到一个目标函数后,如何进行求解?(不一定能够直接求解出来,线性回归只是一个特例) 对θ求偏导得到最陡的一个方向 得到的偏导数,就是一个梯度 正常的梯度是向上的,现在需要向下方向 也就是梯度上升的反方向 每次走 ...
分类:
其他好文 时间:
2018-09-15 10:08:19
阅读次数:
170