@[TOC] "A pure L1 norm principal component analysis" 虽然没有完全弄清楚其中的数学内涵，但是觉得有趣，记录一下. 问题 众所周知，一般的PCA(论文中以$L_2 PCA$表示)利用二范数构造损失函数并求解，但是有一个问题就是会对异常值非常敏感. 所 ...
分类：
其他好文 时间：
2019-08-31 21:03:36
阅读次数：
59
错误示范 1. 直接交换 输出结果： 2. 包装类交换 输出结果： 正确示范 1. 数组交换 输出结果： 2. 通过加减计算交换 输出结果： 3. 通过异或运算交换 输出结果： 通过异或运算交换的原理 按位异或运算是指两个相应的二进制相同时结果为0，否则为1。 a ^ b ^ b 、 (a^b)^b ...
分类：
编程语言 时间：
2019-08-20 18:47:32
阅读次数：
90
逻辑斯蒂回归主要用于二分类，推广到多分类的话是类似于softmax分类。求 上述问题可以通过最大化似然函数求解。 上述问题可以采用最小化logloss进行求解。 一般地，我们还需要给目标函数加上正则项，参数w加上l1或者l2范数。 LR适合大规模数据，数据量太小的话可能会欠拟合（考虑到数据通常比较稀 ...
分类：
其他好文 时间：
2019-08-18 17:52:13
阅读次数：
157
引文 本文主要介绍如何使用mybatis插件实现拦截数据库操作并根据不同需求进行数据对比分析，主要适用于系统中需要对数据操作进行记录、在更新数据时准确记录更新字段 核心：mybatis插件（拦截器）、mybatis-Plus实体规范、数据对比 1、相关技术简介 mybatis插件： mybatis插 ...
分类：
编程语言 时间：
2019-08-06 00:32:54
阅读次数：
203
作用：正则化是一种有效的防止过拟合、提高模型泛化能力方法，在机器学习和深度学习算法 中应用非常广泛，在早期的机器学习领域一般只是将范数惩罚叫做正则 化技术，而在深度学习领域认为：能够显著减少方差，而不过度增加偏差的策略都可以认为 是正则化技术，故此推广的正则化技术还有：扩增样本集、早停止、Dropo ...
分类：
其他好文 时间：
2019-07-25 21:48:17
阅读次数：
113
最近搞算法，觉得超级吃力的，一直以为数学好的，数学可以考试满分，算法一定没什么问题，贱贱地，我发现我自己想多了，还是自己的基础薄弱吧，今天我来补补最基础的知识。 算法（Algorithm）是指解题方案的准确而完整的描述，是一系列解决问题的清晰指令，算法代表着用系统的方法描述解决问题的策略机制。也就是 ...
分类：
编程语言 时间：
2019-07-24 00:25:43
阅读次数：
123
范数在深度学习中的应用是作为损失函数正则化选项，从而减少模型的过拟合情况。在继续讲解正则化之前，我们先介绍欠拟合、过拟合的概念。 1 范数要解决的问题 过拟合现象 &n ...
分类：
其他好文 时间：
2019-07-21 13:27:03
阅读次数：
77
n = norm(v) 返回向量 v 的欧几里德范数。此范数也称为 2-范数、向量模或欧几里德长度。 例1： K>> norm([3 4]) ans = 5 ...
分类：
其他好文 时间：
2019-07-16 10:55:53
阅读次数：
121
原文：https://blog.csdn.net/zouxy09/article/details/2497199 今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大，为了不吓到大家 ...
分类：
其他好文 时间：
2019-07-08 23:45:26
阅读次数：
121
