一、前述 L1正则，L2正则的出现原因是为了推广模型的泛化能力。相当于一个惩罚系数。 二、原理 L1正则：Lasso Regression L2正则：Ridge Regression 总结： 经验值 MSE前系数为1 ，L1 , L2正则前面系数一般为0.4~0.5 更看重的是准确性。 L2正则会整 ...
分类：
其他好文 时间：
2018-01-23 18:26:26
阅读次数：
228
最小二乘法可以从Cost/Loss function角度去想，这是统计（机器）学习里面一个重要概念，一般建立模型就是让loss function最小，而最小二乘法可以认为是 loss function = （y_hat -y )^2的一个特例，类似的像各位说的还可以用各种距离度量来作为loss fu ...
分类：
其他好文 时间：
2017-12-18 18:46:01
阅读次数：
165
Roadmap Kernel Ridge Regression Support Vector Regression Primal Support Vector Regression Dual Summary of Kernel Models Map of Linear Models Map of K ...
分类：
其他好文 时间：
2017-10-30 17:05:00
阅读次数：
137
在函数中加入一个正则项： 三种方式： 一、Ridge回归（岭回归）： 优点：具有较高的准确性、鲁棒性以及稳定性 缺点：求解速度慢 二、Lasso回归： 优点：求解速度快（原理降维计算，把数据维度中存在的噪音和冗余去除） 缺点：相比Ridge回归没有较高的准确性、鲁棒性以及稳定性 三、弹性网络： 特点 ...
分类：
其他好文 时间：
2017-10-29 11:20:40
阅读次数：
452
#coding=utf8 import numpy as np import pandas as pd from sklearn.linear_model import Ridge from sklearn.model_selection import cross_val_score import ... ...
分类：
其他好文 时间：
2017-10-23 21:39:16
阅读次数：
351
#coding=utf8 import numpy as np import pandas as pd from sklearn.linear_model import Ridge from sklearn.model_selection import cross_val_score import ... ...
分类：
其他好文 时间：
2017-10-23 18:29:13
阅读次数：
262
边框修饰：border >top，bottom，left，right上下左右边框 分为：color，类型style{ groove，dashed，ridge，solid}一个值 >四个边 二个值 >上下 左右 三个值 >上 左右 下 四个值 >上 右 下 左(顺时针) 文本修饰： 1，文字修饰：fo ...
分类：
Web程序 时间：
2017-10-21 17:11:43
阅读次数：
186
一、简单的多元线性回归： data.txt 回归代码： 简单的得到一个变换的公式 y=b(1)+b(2)*x1+b(3)*x2+b(3)*x3; 二、ridge regression岭回归 其实就是在回归前对数据进行预处理，去掉一些偏差数据的影响。 1、一般线性回归遇到的问题 在处理复杂的数据的回归 ...
分类：
其他好文 时间：
2017-10-20 16:05:22
阅读次数：
258
一、普通的线性模型 二、加入正则化的模型 Ridge回归 Lasso回归 ...
分类：
其他好文 时间：
2017-10-05 20:56:10
阅读次数：
241
【 biased regression methods to reduce variance 通过偏回归来减小方差】 https://onlinecourses.science.psu.edu/stat857/node/137 Introducing biased regression method ...
分类：
其他好文 时间：
2017-09-29 19:31:58
阅读次数：
162
