均方误差个交叉熵误差都是常用的损失函数之一。 首先简要介绍下损失函数： 损失函数是用来表示神经网络性能的“恶劣程度”的指标。即当前神经网络对监督数据在多大程度上不拟合，在多大 程度上不一致。说白了，即所创建的神经网络对输入数据的预测输出值与监督数据(实际输出值)的差距。 均方误差： 上面是计算公式， ...
分类：
其他好文 时间：
2020-12-11 12:25:24
阅读次数：
3
上篇讲解了神经网络最容易被忽视的基础知识一干货|神经网络最容易被忽视的基础知识一1为什么在人工神经网络中的神经元需要激活函数？上图可看做普通的线性分类器，也就是线性回归方程。这个比较基础，效果如右图。当然有时候我们发现这样的线性分类器不符合我们要求时，我们很自然的想到那我们就加多一层，这样可以拟合更加复杂的函数，如下图a：但同时当我们动笔算下,就会发现,这样一个神经网络组合起来,输出的时候无论如何
分类：
其他好文 时间：
2020-11-30 15:16:02
阅读次数：
12
为什么梯度的方向与等高线切线方向垂直在三维曲面上的梯度更新过程中，很多地方出现梯度的下降方向是如下这样走的：图片来源于百度百科从图上能够看出，也经常听老师同学说起，梯度下降的方向与等高线的切线方向垂直。那么为什么会垂直呢？其实是一个高数问题。解释假设我们的损失函数为z=f(x,y)，在几何上表示是一个曲面，该曲面被平面c（c为常数）所截得的曲线l方程为：这条曲线l在xoy轴面上的投影是一条平面曲线
分类：
其他好文 时间：
2020-11-27 11:25:25
阅读次数：
11
在应用机器学习算法时，我们通常采用梯度下降法来对采用的算法进行训练。其实，常用的梯度下降法还具体包含有三种不同的形式，它们也各自有着不同的优缺点。下面我们以线性回归算法来对三种梯度下降法进行比较。一般线性回归函数的假设函数为：对应的损失函数为：（这里的1/2是为了后面求导计算方便）下图作为一个二维参数（theta0，theta1）组对应能量函数的可视化图：下面我们来分别讲解三种梯度下降法1批量梯度
分类：
其他好文 时间：
2020-11-27 10:49:35
阅读次数：
5
深度学习测试题（1）答案和解析1.损失函数的定义预测值与真实值之间的差距。选A。题中给出的是一个sigmoid函数极限的是在（0,1），这里问的是它的导数S‘(x)=S(x)(1-S(x))，所以应该是0。选B。根据复合函数求二阶导数，容易得出答案1/4。选A。首先被计算的是激活函数的梯度，选C。我们回顾下之前介绍的VGG网络结构，VGG中根据卷积核大小和数目的不同，可以分为A、A-LRN
分类：
其他好文 时间：
2020-11-16 13:28:27
阅读次数：
7
YOLODet-PyTorchYOLODet-PyTorch是端到端基于pytorch框架复现yolo最新算法的目标检测开发套件，旨在帮助开发者更快更好地完成检测模型的训练、精度速度优化到部署全流程。YOLODet-PyTorch以模块化的设计实现了多种主流YOLO目标检测算法，并且提供了丰富的数据增强、网络组件、损失函数等模块。目前检测库下模型均要求使用PyTorch1.5及以上版本或适当的de
分类：
其他好文 时间：
2020-11-04 18:07:11
阅读次数：
14
1.单层感知机 单层感知机的主要步骤： 1.对数据进行一个权重的累加求和，求得∑ 2.将∑经过一个激活函数Sigmoid，得出值O 3.再将O，经过一个损失函数mse_loss，得出值loss 4.根据loss，以及前边所求得的值，求得loss对各个w的偏导数 5.更新w值 # 单层感知机梯度的推导 ...
分类：
其他好文 时间：
2020-10-09 20:26:54
阅读次数：
20
https://mp.weixin.qq.com/s/sRwjpW8cYxd2lw2yZD-MtwBy超神经场景描述：风靡各大直播平台的美妆博主，凭借高超的化妆技术吸金无数。而人工智能也已经开始学习这一本领。利用深度学习与计算机视觉技术，仅仅根据人的眼睛特征，就能给出适合用户的美妆搭配。关键词：几何变换triplet损失函数迁移学习近年来，网络上涌现出越来越多的美妆博主，他们讲解美妆技巧，分享化妆
分类：
其他好文 时间：
2020-09-21 11:41:38
阅读次数：
38
梯度下降算法是求解最优化问题 梯度下降是优化一个损失函数L(y,f(x))，处理的粒度是更新参数w，使得最后的损失函数最小 ...
分类：
其他好文 时间：
2020-09-17 22:31:00
阅读次数：
19
郑重声明：原文参见标题，如有侵权，请联系作者，将会撤销发布！ NeurIPS, (2018) Abstract 我们提出了一种元学习方法，用于学习基于梯度的RL算法。这个想法是要逐步形成一种可微的损失函数，这样智能体就可以通过优化其策略以最大程度地减少这种损失，获得较高的奖励。损失是通过代理经验的时 ...
分类：
其他好文 时间：
2020-09-17 17:24:54
阅读次数：
23
