L1和L2在不同领域的不同叫法机器学习领域：正则化项统计学领域：惩罚项数学领域：范数Lasso和Ridge回归在Lasso回归中正则化项是用的L1，L1是绝对值距离也叫做哈曼顿距离。Lasso回归可以压缩一些系数，把一些系数变为0，是一种处理具有复共线性数据的有偏估计。在Ridge回归中正则化项是用... ...
分类：
其他好文 时间：
2018-12-23 15:28:23
阅读次数：
147
范数 范数的一般化定义：设$p\geq 1$的实数，p norm定义为： $$ || x ||_{p}\; :=\; (\sum_{i=1}^{n}{\left| x_{i} \right|^{p}})^{\frac{1}{p}} $$ L0范数 $$\left| \left| x \right| ...
分类：
其他好文 时间：
2018-12-22 13:07:36
阅读次数：
242
表的限制项 表(Table)设计规范 表设计主要目标 表设计的影响 表设计步骤 表数据存储规范 按数据分层规范数据生命周期 按数据的变更和历史规范数据的保存 数据导入通道与表设计 分区设计与逻辑存储的对应 表和分区设计基本规则 分区设计
分类：
其他好文 时间：
2018-12-19 17:57:29
阅读次数：
174
I. 范数(Norm) 定义: 向量空间$V$上的范数(norm)是如下函数: $$ \begin{align} ||·||:V→R, \\ x→||x|| \end{align} $$ 该函数会赋予每个向量$x$自身的长度$||x||∈R$,并且对于$\lambda∈R,\,\,x,y∈V$满足如 ...
分类：
其他好文 时间：
2018-12-18 02:26:29
阅读次数：
211
逻辑回归，相对于线性回归是用来处理目标函数是离散数值的情况。它的映射函数和损失函数分别为： （1） （2） 使用梯度下降法进行求解，得到迭代公式： 逻辑回归的优缺点： 简单， 易于并行、速度快，需要复杂的特征工程， 输入特征需要离散化 SGD算法 对于如上LR的迭代公式来说，我们可以得到GD（Gra ...
分类：
其他好文 时间：
2018-12-14 13:00:31
阅读次数：
361
向量2范数是对应元素平方和：矩阵2范数是：其中是矩阵的最大特征值. 除此之外，矩阵有一个F范数（Frobenius范数）倒是跟向量的2范数比较相似，是矩阵内所有元素平方和： 矩阵的2范数是向量二范数对应的诱导范数。给定某一种向量范数 ，它所对应的矩阵范数定义为： 左边的范数是矩阵范数，而右边分子分母 ...
分类：
其他好文 时间：
2018-12-12 23:42:53
阅读次数：
280
正则化 L1范数 蓝色的是范数的解空间,红色的是损失函数的解空间.L2范数和损失函数的交点处一般在坐标轴上,会使$\beta=0$,当然并不一定保证交于坐标轴,但是通过实验发现大部分可以得到稀疏解. L2范数 蓝色的是范数的解空间;红色的是损失函数的解空间.当两个空间相交时得到目标函数的一个解. 增 ...
分类：
其他好文 时间：
2018-12-10 20:48:42
阅读次数：
1161
使用list生成dict（可指定单条长度和数据类型，splen为4即为list中每4行组成dict中一条） 计算两个list的距离（注意不能用numpy的linalg.norm，因为用numpy的linalg.norm的话如果两个list相等就会报错（因为求了0向量的范数）） 比较按行存的label ...
分类：
编程语言 时间：
2018-12-01 20:21:00
阅读次数：
167
所有的视线思路我都清楚，但是，不会写代码。。。（其实可以写伪代码） 因为对函数、方法不了解不熟悉，对数据结构的规范不清楚。 得花时间去了解，其实是体力活。 但是时间对我来说又很宝贵。 唉。。。 ...
分类：
其他好文 时间：
2018-12-01 13:07:38
阅读次数：
225
数据库表字段命名规范 注：SQL命名类型采用Oracle 注：黄色部分为争议部分 数据库命名规范 采用英文单词命名，多个单词使用_拼接，避免使用数字 命名简单明了，避免生僻单词 数据表命名规范 数据库字段命名规范 电话： 手机： 开始时间： 结束时间： 生效时间： 删除标识： … … SQL规范 数 ...
分类：
数据库 时间：
2018-11-28 12:17:34
阅读次数：
287
