一、定义： 监督学习主要包括分类和回归 当输出被限制为有限的一组值(离散数值)时使用分类算法 当输出可以具有范围内的任何树值(连续数值)时使用回归算法 相似度学习是和回归和分类都密切相关的一类监督学习，它的目的是使用相似函数从样本中学习，这个函数可以度量两个对象之间的相似度或关联度 二、监督学习三要 ...
分类：
其他好文 时间：
2019-09-03 09:55:35
阅读次数：
104
1、GBDT模型介绍； 2、GBDT回归算法 3、GBDT分类算法 4、GBDT的损失函数 5、正则化 6、GBDT的梯度提升与梯度下降法的梯度下降的关系； 7、GBDT的优缺点 1、GBDT模型介绍； GBDT(Gradient Boosting Decision Tree) 又名：MART（Mu ...
分类：
其他好文 时间：
2019-09-01 14:45:08
阅读次数：
697
在应用机器学习算法时，我们通常采用梯度下降法来对采用的算法进行训练。其实，常用的梯度下降法还具体包含有三种不同的形式，它们也各自有着不同的优缺点。 下面我们以线性回归算法来对三种梯度下降法进行比较。 一般线性回归函数的假设函数为： 对应的代价函数为： 下图作为一个二维参数（，）组对应能量函数的可视化 ...
分类：
其他好文 时间：
2019-08-30 23:05:52
阅读次数：
97
第4章 训练模型 写在前面 参考书 《机器学习实战——基于Scikit Learn和TensorFlow》 工具 python3.5.1，Jupyter Notebook, Pycharm 线性回归算法比较 | 算法 | m很大 | 是否支持核外 | n很大 | 超参数 | 是否需要缩放 | skl ...
分类：
其他好文 时间：
2019-08-16 14:31:57
阅读次数：
78
一、V1.0(sklearn版) 1.1简易API 1.2复杂API 目的是尽量全。 1.3API资料 目的是前面不满足使用或不太理解可以从这里获得灵感。 ...
分类：
编程语言 时间：
2019-08-13 20:52:08
阅读次数：
98
机器学习概论 目录 模式识别 计算机视觉 数据挖掘 语言识别 统计学习 自然语言处理 学习过程 工具库 Numpy: 科学计算库 Pandas: 数据分析处理库 Matplotlib: 数据可视化库 Scikit learn: 机器学习库 分类 有监督类算法 无监督类算法 有监督是进行标记 回归算法 ...
分类：
其他好文 时间：
2019-08-10 09:19:59
阅读次数：
97
逻辑不逻辑，回归非回归。 回想当年初次学习逻辑回归算法时，看到”逻辑回归“这个名字，第一感觉是这是一个与线性回归类似的回归类别的算法，只不过这个算法突出”逻辑“，或者与某个以”逻辑“命名的知识点有关。可后来却发现，这是一个坑死人不偿命的名字——逻辑回归算法不是回归算法，是分类算法，也与逻辑无关，要... ...
分类：
其他好文 时间：
2019-07-30 22:02:46
阅读次数：
214
1. 线性回归 1.1 算法原理 （1）情景：给定一定数量的数据点，通过拟合得到其回归直线，使得所有点到这个直线的距离之和（损失函数）最小。 即：已知各个点的坐标，反求直线表达式的最优系数解。 假定直线参数为θ，则直线表达式为： 得到的直线（平面）表达式应使得损失函数最小，其中损失函数表达式： （2 ...
分类：
其他好文 时间：
2019-07-23 15:32:54
阅读次数：
113
scikit-learn对于线性回归提供了比较多的类库，这些类库都可以用来做线性回归分析，本文就对这些类库的使用做一个总结，重点讲述这些线性回归算法库的不同和各自的使用场景。 线性回归的目的是要得到输出向量\(\mathbf{Y}\)和输入特征\(\mathbf{X}\)之间的线性关系，求出线性回归... ...
分类：
编程语言 时间：
2019-07-19 19:13:49
阅读次数：
96
逻辑回归是一个分类算法，它可以处理二元分类以及多元分类。虽然它名字里面有“回归”两个字，却不是一个回归算法。那为什么有“回归”这个误导性的词呢？个人认为，虽然逻辑回归是分类模型，但是它的原理里面却残留着回归模型的影子，本文对逻辑回归原理做一个总结。# 一、从线性回归到逻辑回归 我们知道，线性回归的模... ...
分类：
其他好文 时间：
2019-07-19 19:07:37
阅读次数：
107
