参考博客：https://www.cnblogs.com/king-lps/p/9497836.html 在yolov3中可以使用focal loss，这是什么东西呢，这个loss主要是解决正负样本不均衡的问题的，该损失函数降低了大量简单负样本在训练中所占的权重，也可理解为一种困难样本挖掘。 原来的 ...
分类：
其他好文 时间：
2020-07-06 20:17:23
阅读次数：
67
Reference：李航 --《统计学习方法》 10 种主要的统计学习方法概括总结 方法 适用问题 模型特点 模型类型 学习策略 学习的损失函数 学习算法 感知机 二类分类 分离超平面 判别模型 极小化误分点到超平面距离 误分点到超平面距离 随机梯度下降 k 近邻 多类分类，回归 特征空间，样本点 ...
分类：
其他好文 时间：
2020-07-06 14:36:46
阅读次数：
104
统计学习三要素（模型，策略，算法）： 模型：假设空间，假设输入到输出之间的关系，获得一个参数向量 策略：按照什么准则（损失函数，风险函数，经验风险函数=>结构风险函数）选择最好的模型 算法：学习模型的具体计算方法 统计学习三要素 统计学习三要素个人理解 卷积神经网络CNN 卷积神经网络--输入层、卷 ...
分类：
其他好文 时间：
2020-07-05 23:25:17
阅读次数：
111
一、感知机 原理参考https://www.cnblogs.com/pinard/p/6042320.html#!comments $sign(x)= \begin{cases} -1& {x<0}\\ 1& {x\geq 0} \end{cases}$ 在推导出损失函数的时候，简化运算不考虑分母 ...
分类：
其他好文 时间：
2020-07-05 18:54:34
阅读次数：
59
知识蒸馏：Teacher Model产生soft label作为student model的一项指引；关联通过损失函数构建，即包含teacher model产生的标签 q，也包含真值标签y；teacher model产生的soft label相较于真值标签会多一层类别之间相似性的信息，而不仅仅是真值... ...
分类：
其他好文 时间：
2020-07-04 14:59:54
阅读次数：
185
这篇cvpr2019的论文主要提出了一个损失函数Class-Balanced Loss用来处理数据长尾问题 长尾问题是由于分类问题中数据集每类的数据量不同，导致分类准确度下降。举个极端点的例子有助于理解：A、B二分类问题，数据集中，A、B数据量比例为999：1，为了减少损失值，网络很自然的将所有图片 ...
分类：
其他好文 时间：
2020-07-03 19:11:00
阅读次数：
71
torch.nn 实现 模型的定义，网络层的定义，损失函数的定义。 import torch # N is batch size; D_in is input dimension; # H is hidden dimension; D_out is output dimension. N, D_in ...
分类：
其他好文 时间：
2020-07-03 15:53:09
阅读次数：
74
1.为什么学习pytorch 日益增长的发展速度和深度学习的需要 在谷歌搜索频次和期刊论文引用频次上pytorch也是一直增长，TF比较稳或者说有点下降，尤其在学术界pytorch已经成为主流。 2.学哪类知识 pytorch：深度学习框架 01.数据模块 02.模型模块、网络层 03.损失函数 0 ...
分类：
其他好文 时间：
2020-07-01 16:08:21
阅读次数：
68
Pytorch框架快速入门 前言 找数据定义、找model定义、(找损失函数、优化器定义)，主循环代码逻辑 Pytorch框架编写深度学习模型，无非就是按照四步，从这四步出发去剖析和书写代码，可以比较好的提高我们的效率。 基本思想和步骤 四大步骤 1、输入处理模块 (X 输入数据，变成网络能够处理的 ...
分类：
其他好文 时间：
2020-06-27 14:39:46
阅读次数：
69
标题&作者团队 【Happy导语】这是今年CVPR2020中关于图像超分的文章，不同于其他方法在网络架构或者数据增广方面进行改进，该文另辟蹊径从“损失函数”入手，针对已有GAN系列的损失函数展开并未并提出了改进点。所提方法取得了NTIRE2020感知极限超分竞赛LPIPS指标亚军、PI指标冠军。所以 ...
分类：
其他好文 时间：
2020-06-26 22:03:48
阅读次数：
123
