[toc] 最近看了些关于attention的文章。Attention是比较好理解的人类视觉机制,但怎么用在计算机问题上并不简单。 实际上15年之前就已经有人将attention用于视觉任务,但为什么17年最简单的SENet取得了空前的成功?其中一个原因是,前人的工作大多考虑空间上的(spatial ...
分类:
Web程序 时间:
2019-12-01 21:23:58
阅读次数:
119
PooledByteBufAllocator buffer分配 buffer分配的入口: io.netty.buffer.PooledByteBufAllocator.newDirectBuffer(int, int) netty实际应用时分配调用栈: CLASS_NAMEMETHOD_NAMELI ...
分类:
Web程序 时间:
2019-12-01 21:08:39
阅读次数:
128
创新点(小卷积核、小池化核、层数更深、全连接变卷积) 对AlexNet改进,在第一个卷积层中使用了更小的卷积核和卷积stride 多尺度(训练和测试时,采用图片的不同尺度(当然是按各向同性缩放的最小边划定标准)) 层数深 测试阶段,将三个全连接变为三个卷积层,以适应任何大小的图片输入(最后那里是sc ...
分类:
其他好文 时间:
2019-11-22 09:14:19
阅读次数:
101
为什么要用线程池?什么是线程池?怎么使用?素质三连!!! 为什么要用线程池? 节约系统资源。避免反复创建销毁线程 提供异步操作。提高响应速度 方便管理线程 什么是线程池? 多线程使用的一种管理方式。池化技术能有效的利用和管理一些资源 怎么使用? 当然是配合springboot使用。皮一下😂 整个过 ...
分类:
编程语言 时间:
2019-11-20 19:42:14
阅读次数:
88
#验证码识别# 解决办法:将验证码切割成单个字符训练 遇到问题:验证码字符大小不一或重叠 对上述问题的解决:通过CNN(卷积神经网络)直接就是端到端不分割的识别方式 处理验证码:将图片二值化 输入验证码的信息:图片大小、最大字母、表示方法 选2*2(3个卷积层和1个全连接层)的最大池化层和dropo ...
分类:
编程语言 时间:
2019-11-13 19:12:54
阅读次数:
121
讲授卷积神经网络面临的挑战包括梯度消失、退化问题,和改进方法包括卷积层、池化层的改进、激活函数、损失函数、网络结构的改 进、残差网络、全卷机网络、多尺度融合、批量归一化等 大纲: 面临的挑战梯度消失问题退化问题改进的总体思路卷积层的改进用矩阵乘法实现卷积运算池化层的改进激活函数的改进损失函数的改进高 ...
分类:
其他好文 时间:
2019-11-11 23:08:20
阅读次数:
166
1 简介 本文将主要讲解一下String.intern()方法的原理、特点,并介绍一个新奇的应用。 2 String的池化 方法intern()的作用就是将String池化,这个池是String的常量池。不同版本的JDK有不同的实现。 2.1 不同实现与不同内存空间 JDK 6:intern()方法 ...
分类:
编程语言 时间:
2019-11-10 17:51:24
阅读次数:
74
1. LeNet(1998) 2.AlexNet(2012):层数更深,同时第一次引入了激活层ReLU,在全连接层引入了Dropout层防止过拟合 3.VGGNet(2014):有16~19层网络,使用了3*3的卷积滤波器和2*2的池化层。只是对网络层进行不断的堆叠,并没有太大的创新,增加深度缺失可 ...
分类:
其他好文 时间:
2019-10-28 21:18:55
阅读次数:
108
本篇论文的主要内容来自于斯坦福大学的博士生Rex Ying,论文名称为:Hierarchical Graph Representation Learning withDifferentiable Pooling。论文地址:[点击下载](
https://github.com/vcjmhg/Test... ...
分类:
其他好文 时间:
2019-10-27 17:06:36
阅读次数:
146
Attentional Pooling for Action Recognition 简介 这是一篇NIPS的文章,文章亮点是对池化进行矩阵表示,使用二阶池的矩阵表示,并将权重矩阵进行低秩分解,从而使分解后的结果能够自底向上和自顶向下的解释,并巧用attention机制来解释,我感觉学到了很多东西, ...
分类:
其他好文 时间:
2019-10-27 14:42:56
阅读次数:
341