前文：Lasso linear model实例 | Proliferation index | 评估单细胞的增殖指数 参考：LASSO回歸在生物醫學資料中的簡單實例 - 生信技能树 两篇经典文章： Prediction of clinical outcome in glioblastoma usin ...
分类：
其他好文 时间：
2018-04-05 22:02:02
阅读次数：
173
前面的文章对线性回归做了一个小结，文章在这： 线性回归原理小结。里面对线程回归的正则化也做了一个初步的介绍。提到了线程回归的L2正则化-Ridge回归，以及线程回归的L1正则化-Lasso回归。但是对于Lasso回归的解法没有提及，本文是对该文的补充和扩展。以下都用矩阵法表示，如果对于矩阵分析不熟悉 ...
分类：
编程语言 时间：
2018-02-06 23:07:54
阅读次数：
223
在之前的相关文章中笔者给出了一般回归的补充，即岭回归和LASSO回归，它们都是为了解决在回归过程中的过拟合问题，其具体解决方案就分别是在目标函数后增加2范数和1范数以限定参数的表现，对于岭回归而言，由于2使用范数的原因，这个目标函数仍是可导的，但对于LASSO回归而言，..
分类：
其他好文 时间：
2017-11-02 18:22:33
阅读次数：
254
在函数中加入一个正则项： 三种方式： 一、Ridge回归（岭回归）： 优点：具有较高的准确性、鲁棒性以及稳定性 缺点：求解速度慢 二、Lasso回归： 优点：求解速度快（原理降维计算，把数据维度中存在的噪音和冗余去除） 缺点：相比Ridge回归没有较高的准确性、鲁棒性以及稳定性 三、弹性网络： 特点 ...
分类：
其他好文 时间：
2017-10-29 11:20:40
阅读次数：
452
前言在之前的关于回归问题的讨论中，笔者主要给出了一般原始的线性回归模型（主要以最小二乘法形式进行的）以及其它两种主流的线性回归模型的补充内容，它们主要是为了解决样本之间存在线性相关性的问题，包括岭回归和LASSO回归。一般而言，对于多分类问题，我们希望能将样本的..
分类：
其他好文 时间：
2017-10-17 12:40:19
阅读次数：
188
一、普通的线性模型 二、加入正则化的模型 Ridge回归 Lasso回归 ...
分类：
其他好文 时间：
2017-10-05 20:56:10
阅读次数：
241
回归和分类是机器学习算法所要解决的两个主要问题。分类大家都知道，模型的输出值是离散值，对应着相应的类别，通常的简单分类问题模型输出值是二值的，也就是二分类问题。但是回归就稍微复杂一些，回归模型的输出值是连续的，也就是说，回归模型更像是一个函数，该函数通过不同的输入，得到不同的输出。 那么，什么是线性 ...
分类：
其他好文 时间：
2017-07-28 23:47:47
阅读次数：
311
函数名称均为sklearn库中的函数 1.线性回归算法：LinearRegression： 其中常用的有：Ridge:岭回归算法，MultiTaskLasso:多任务LASSO回归算法，ElasticNet:弹性网眼算法，LassoLars:LARS套索算法，OrthogonalMatchingPu ...
分类：
编程语言 时间：
2017-07-17 22:04:28
阅读次数：
695
笔记︱范数正则化L0、L1、L2-岭回归&Lasso回归（稀疏与特征工程） 一、正则化背景 监督机器学习问题无非就是“minimizeyour error while regularizing your parameters”，也就是在规则化参数的同时最小化误差。最小化误差是为了让我们的模型拟合我们 ...
分类：
其他好文 时间：
2017-02-19 18:21:35
阅读次数：
403
尽管有些内容还是不懂，先截取的摘录。1.变量选择问题：从普通线性回归到lasso 使用最小二乘法拟合的普通线性回归是数据建模的基本方法。其建模要点在于误差项一般要求独立同分布（常假定为正态）零均值。t检验用来检验拟合的模型系数的显著性，F检验用来检验模型的显著性（方差分析）。如果正态性不成立，...
分类：
其他好文 时间：
2015-11-08 19:25:44
阅读次数：
1650
