最近在做试验中遇到了一些深度网络模型加载以及存储的问题，因此整理了一份比较全面的在 PyTorch 框架下有关模型的问题。首先咱们先定义一个网络来进行后续的分析： 1、本文通用的网络模型 import torch import torch.nn as nn ''' 定义网络中第一个网络模块 Net1 ...
分类：
其他好文 时间：
2021-07-01 17:35:47
阅读次数：
0
人工智能学习梳理和总结今天笔者专门做一期发文的目录，算是对之前的学习的回顾、梳理和总结吧！入门篇人工智能学习心得人工智能入门书籍推荐深度学习框架的比较（1）深度学习的框架比较（2）深度学习框架比较（3）Python篇1.Python基础自测题(上）2.Python基础自测题答案和基础知识梳理（上）3.Python基础自测题（下）4.Python基础自测题答案解析（下）5.用Python快速实现图片
分类：
其他好文 时间：
2020-11-16 13:21:09
阅读次数：
2
上一讲笔者和大家简单介绍了强化学习的相关概念，了解了Q-Learning算法及其简单实现实例。本节笔者将在上一讲的基础上，将强化学习回归到深度学习的主题上。 深度强化学习 强化学习+深度学习的一个结果就是形成了深度强化学习这样的新领域，本节我们先简单介绍一下深度强化学习，然后来看一下深度神经网络是如 ...
分类：
其他好文 时间：
2020-08-05 14:24:05
阅读次数：
68
##深度网络模型压缩综述 文献来源:雷杰,高鑫,宋杰,王兴路,宋明黎.深度网络模型压缩综述[J].软件学报,2018,29(02):251-266. 摘要： 深度网络近年来在计算机视觉任务上不断刷新传统模型的性能,已逐渐成为研究热点.深度模型尽管性能强大,然而由于参数数量庞大、存储和计算代价高,依然 ...
分类：
其他好文 时间：
2020-07-03 12:10:19
阅读次数：
81
问题背景 训练深度学习模型往往需要大规模的数据集，这些数据集往往无法直接一次性加载到计算机的内存中，通常需要分批加载。数据的I/O很可能成为训练深度网络模型的瓶颈，因此数据的读取速度对于大规模的数据集（几十G甚至上千G）是非常关键的。例如：https://discuss.pytorch.org/t/ ...
分类：
数据库 时间：
2020-06-25 19:36:16
阅读次数：
148
1.百面机器学习中的讲解 Dropout是指在深度网络的训练中， 以一定的概率随机地 “临时丢弃”一部分神经元节点。 相当于每次迭代都在训练不同结构的神经网络。 类比于Bagging方法， Dropout可被认为是一种实用的大规模深度神经网络的模型集成算法。 因此， 对于包含N个神经元节点的网络， ...
分类：
其他好文 时间：
2020-06-21 22:54:25
阅读次数：
60
神经网络的超参数有： 1. 学习率 2. 迭代次数 iteration 3. 隐藏层数 L 4. 激活函数 5. momentum 6. mini batch 7. 正则化参数 …… 1. 看training集的误差 考虑 1.是否需要加深网络 2.加长训练时间 3.尝试更先进的optimize算法... ...
分类：
其他好文 时间：
2020-05-20 21:40:04
阅读次数：
68
? 出处 ： 2019ICIP 作者： 摘要 ： 提出一个检测人脸图像拼接的深度网络。把输入图像转换为illumination map (IM)，然后比较面部区域的 pairs 来检测拼接篡改。先在外部的训练集上训练孪生网络来区分来自相似或不同光照环境illumination environment ...
分类：
其他好文 时间：
2020-04-27 09:31:05
阅读次数：
64
摘要： 模型效率在计算机视觉中的地位越来越重要。本文系统地研究了目标检测的神经网络体系结构设计选择，并提出了几种提高效率的关键优化方法。首先，我们提出了一种加权双向特征金字塔网络（BiFPN），该网络允许简单快速的多尺度特征融合；其次，我们提出了一种复合尺度方法，该方法可以同时均匀地对所有骨干网、特 ...
分类：
其他好文 时间：
2020-04-26 01:07:51
阅读次数：
127
BN的作用。 可以看到，如果不使用gamma和beta，激活值基本上会在[0.1 0.9]这个近似线性的区域中，这与深度神经网络所要求的“多层非线性函数逼近任意函数”的要求不符，所以引入gamma和beta还是有必要的，深度网络会自动决定使用哪一段函数（这是我自己想的，其具体作用欢迎讨论）。 对于R ...
分类：
其他好文 时间：
2020-04-15 17:55:33
阅读次数：
90
