前面的文章对线性回归做了一个小结，文章在这：?线性回归原理小结。里面对线程回归的正则化也做了一个初步的介绍。提到了线程回归的L2正则化 Ridge回归，以及线程回归的L1正则化 Lasso回归。但是对于Lasso回归的解法没有提及，本文是对该文的补充和扩展。以下都用矩阵法表示，如果对于矩阵分析不熟悉 ...
分类：
编程语言 时间：
2019-07-19 18:37:32
阅读次数：
99
在《机器学习 逻辑回归（一）（Machine Learning Logistic Regression I）》一文中，我们讨论了如何用逻辑回归解决二分类问题以及逻辑回归算法的本质。现在来看一下多分类的情况。 现实中相对于二分类问题，我们更常遇到的是多分类问题。多分类问题如何求解呢？有两种方式。一种是 ...
分类：
系统相关 时间：
2019-06-23 20:48:12
阅读次数：
170
线性回归算法在选自变量会遇到两个问题：一是去掉多重共线性干扰，二是选择最优自变量组合。 线性回归步骤 1.选择自变量 注意点 去掉多重共线性干扰，选择最优自变量组合。这里需要理解决定系数：R^。它是理解选自变量两个问题的基础。 2.创建线线回归模型 3.分析模型 R^ 表示因变量波动中被模型拟合的百 ...
分类：
其他好文 时间：
2019-06-08 13:16:58
阅读次数：
120
机器学习是实现人工智能的一种途径，它和数据开掘有一定的相似性，也是一门多领域交叉学科，触及概率论、核算学、逼近论、凸剖析、核算复杂性理论等多门学科。对比于数据开掘从大数据之间找互相特性而言，机器学习愈加注重算法的设计，让核算机可以白动地从数据中“学习”规则，并利用规则对不知道数据进行猜测。因为学习算 ...
分类：
编程语言 时间：
2019-05-22 12:38:51
阅读次数：
186
在介绍岭回归算法与Lasso回归算法之前，先要回顾一下线性回归算法。根据线性回归模型的参数估计公式可知可知，得到的前提是矩阵可逆。换句话说就是样本各个特征（自变量）之间线性无关。然而在实际问题中，常常会出现特征之间出现多重共线性的情况，使得行列式的值接近于0，最终造成回归系数无解或者无意义。 为了解 ...
分类：
编程语言 时间：
2019-05-12 18:27:21
阅读次数：
351
线性回归算法 线性回归算法 线性回归算法 In [ ]: import numpy as np import matplotlib.pyplot as plt from sklearn import datasets In [ ]: import numpy as np import matplot ...
分类：
编程语言 时间：
2019-04-19 13:19:24
阅读次数：
163
来自：刘建平 逻辑回归是分类算法，可以处理二元分类和多元分类。 名字里有“回归”二字，但不是回归算法。为什么名字有“回归”这个误导词？因为它的原理有回归模型的影子。 1. 从线性回归到逻辑回归 线性回归模型是求Y和X之间的线性关系系数Θ，满足Y= XΘ。此时Y是连续的，所以是回归模型。 Y是离散的话 ...
分类：
其他好文 时间：
2019-03-10 20:55:39
阅读次数：
750
scikit learn中SVM的算法库分为两类，一类是分类的算法库，包括SVC， NuSVC，和LinearSVC 3个类。另一类是回归算法库，包括SVR， NuSVR，和LinearSVR 3个类。相关的类都包裹在sklearn.svm模块之中。 对于SVC， NuSVC，和LinearSVC ...
分类：
其他好文 时间：
2019-03-02 10:34:19
阅读次数：
273
分类问题的评价指标是准确率，那么回归算法的评价指标就是MSE，RMSE，MAE、R-Squared。下面一一介绍 1、MSE（Mean Squared Error）均方误差 这里的y是测试集上的。 用 真实值-预测值 然后平方之后求和平均。 猛着看一下这个公式是不是觉得眼熟，这不就是线性回归的损失函 ...
分类：
其他好文 时间：
2019-02-21 23:17:30
阅读次数：
1112
1 #线性回归：用线性模型y=Wx+b拟合sin 2 import numpy as np 3 import matplotlib.pyplot as plt 4 import tensorflow as tf 5 6 #数据，标签 7 x_data = np.li... ...
分类：
编程语言 时间：
2019-02-10 23:39:45
阅读次数：
352
