1. GoogLeNet背景 GoogLeNet和AlexNet/VGGNet这类依靠加深网络结构的深度的思想不完全一样。GoogLeNet在加深度的同时做了结构上的创新，引入了一个叫做Inception的结构来代替之前的卷积加激活的经典组件。GoogLeNet在ImageNet分类比赛上的Top- ...
分类：
Web程序 时间：
2021-05-25 17:46:30
阅读次数：
0
神经网络的超参数有： 1. 学习率 2. 迭代次数 iteration 3. 隐藏层数 L 4. 激活函数 5. momentum 6. mini batch 7. 正则化参数 …… 1. 看training集的误差 考虑 1.是否需要加深网络 2.加长训练时间 3.尝试更先进的optimize算法... ...
分类：
其他好文 时间：
2020-05-20 21:40:04
阅读次数：
68
最初目的：搞清楚网络深度与模型的识别精度和准确率之间的关系。 获得的结果：不能无限制的加深网络，在网络加深到一定层数之后就会出现训练效果褪化、梯度消逝或者梯度爆炸等问题。 主要的贡献： 1、提出用多层3 x 3的卷积层来替换大尺寸的卷积核，从而提升网络深度。 2、使用1 x 1的卷积核进行各通道的特 ...
分类：
其他好文 时间：
2020-04-01 16:25:19
阅读次数：
91
原始residual论文 "Deep Residual Learning for Image Recognition" 1. 训练深度神经网络的难处： 梯度爆炸/梯度消失 batchnorm等一系列方法较好的解决了这个问题 加深网络，模型退化（degradation） 2. residual着重要解 ...
分类：
其他好文 时间：
2019-11-24 15:56:01
阅读次数：
66
进程之间通信与线程同步是一个历久弥新的话题，对编程稍有了解应该都知道，但是细说又说不清。一方面除了工作中可能用的比较少，另一方面就是这些概念牵涉到的东西比较多，而且相对较深。网络编程，服务端编程，并发应用等都会涉及到。其开发和调试过程都不直观。由于同步通信机制的原理都是想通的，本文希通过望借助pyt ...
分类：
编程语言 时间：
2019-08-11 13:17:57
阅读次数：
101
深度学习经典网络总结 最近看的4篇经典深度学习的paper，总结一下。 一、AlexNet （一）成绩 多伦多大学alex团队ILSVRC-2012冠军网络 （二）网络结构 5层卷积 + 3层全连接 （三）网络特色 1、局部响应归一化（LRN：Local Response Normalization ...
分类：
其他好文 时间：
2019-05-02 15:56:47
阅读次数：
473
本文浅谈下对Tomcat和Servlet总体的理解，初学时有用过一段时间，但当时疲于应对如何xml配置和使用，对他们的理解就像是一个黑匣子。现在回顾一下帮助自己加深网络的理解。开始还是先推荐我看的文章和书。 以下都是IBM Developer上的文章，该网站上还是有很多优质文章。 https://w ...
分类：
其他好文 时间：
2019-04-01 13:00:39
阅读次数：
192
cnn发展史 这是imageNet比赛的历史成绩 可以看到准确率越来越高，网络越来越深。 加深网络比加宽网络有效的多，这已是公认的结论。 cnn结构演化图 AlexNet 诞生于2012年，因为当时用了两个GPU（硬件设备差），所以结构图是2组并行 网络结构总共8层，5个卷积层，3个全连接层，最后输 ...
分类：
其他好文 时间：
2019-03-31 11:06:57
阅读次数：
214
洛神是阿里云飞天系统的虚拟网络系统核心，而在11月15日的GNTC 云专场峰会上，阿里云资深网络技术专家宗志刚先生首先分享了“驱动阿里云的高性能网络引擎- 飞天洛神”主题演讲，深度探寻了洛神系统关键技术能力及未来应用方向。
分类：
其他好文 时间：
2018-12-06 20:42:47
阅读次数：
212
