讲授卷积神经网络核心思想、卷积层、池化层、全连接层、网络的训练、反向传播算法、随机梯度下降法、AdaGrad算法、RMSProp算法、AdaDelta算法、Adam算法、迁移学习和fine tune等。 大纲： 卷积神经网络简介 视觉神经网络的核心思想 卷积神经网络的核心思想 卷积运算 卷积层的原理 ...
分类：
其他好文 时间：
2019-10-25 13:37:25
阅读次数：
104
为了加深对卷积神经网络底层原理的理解，本文通过使用numpy来搭建一个基础的包含卷积层、池化层、全连接层和Softmax层的卷积神经网络，并选择relu作为我们的激活函数，选择多分类交叉熵损失函数，最后使用了mnist数据集进行了训练和测试。 关于卷积网络的详细原理和实现可参考下列文章： "刘建平P ...
分类：
其他好文 时间：
2019-10-24 00:16:55
阅读次数：
83
什么是fine tuning？ 概述 在实践中，由于数据集不够大，很少有人从头开始训练网络。常见的做法是使用预训练的网络（例如在ImageNet上训练的分类1000类的网络）来重新fine tuning（也叫微调），或者当做特征提取器。 以下是常见的两类迁移学习场景： 1. 卷积网络当做特征提取器。 ...
分类：
其他好文 时间：
2019-10-19 14:40:52
阅读次数：
99
一、对象池 运用对象池化技术可以显著地提升性能，尤其是当对象的初始化过程代价较大或者频率较高。下面是ObjectPool源码中涉及的几个类。当你看过.Net Core源码很多时，你会发现，微软的开发很多都是这种模式，通过Policy构建Provider，通过Provider创建最终的类。 二、使用 ...
分类：
Web程序 时间：
2019-10-19 09:27:52
阅读次数：
108
netty 可以学习的不仅是网络库，还包含了线程模型、如何写java异步交互、定制的缓存模型、对于直接内存的池化管理、内部类的巧妙用法、优秀的设计模式、以及对于一些罕见网络通信的bug的处理、跨平台的思考。 注： 堆外内存：堆内存容易受GC影响导致网络传输下因GC的影响导致内存地址变化，内存泄漏,减 ...
分类：
Web程序 时间：
2019-10-02 13:06:45
阅读次数：
140
神经网络中还有一些激活函数，池化函数，正则化和归一化函数等。需要详细看看，啃一啃吧。。 1. 激活函数 1.1 激活函数作用 在生物的神经传导中，神经元接受多个神经的输入电位，当电位超过一定值时，该神经元激活，输出一个变换后的神经电位值。而在神经网络的设计中引入了这一概念，来增强神经网络的非线性能力 ...
分类：
其他好文 时间：
2019-09-26 23:30:51
阅读次数：
140
一、简介 jdk1.5 版本新增了JUC并发编程包，大大的简化了传统的多线程开发。前面文章中介绍了线程池的使用，链接地址：https://www.cnblogs.com/eric-fang/p/9004020.html Java线程池，是典型的池化思想的产物，类似的还有数据库的连接池、redis的连 ...
分类：
编程语言 时间：
2019-09-25 14:07:37
阅读次数：
118
SSM框架搭建之数据库连接池(三)Spring提供了两个这样的数据源（都位于org.springframework.jdbc.datasource程序包里）：DriverManagerDataSource：这个类实现了javax.sql.DataSource接口，但它并没有提供池化连接的机制，每次调用getConnection()获取新连接时，只是简单地创建一个新的连接。因此，这个数据源类比较适合
分类：
数据库 时间：
2019-09-25 09:14:21
阅读次数：
116
根据MatConvNet的官网介绍，MatConvNet是一个基于适用在Matlab的卷积神经网络(CNN)的工具包，支持CPU和GPU。 事实上，这个工具包并不仅仅支持CNN，同时也支持一些其它的一些网络如RNN, LSTM等。 这个工具包包含了一些深度学习的基本操作如卷积，隔空卷积，池化，非线性... ...
分类：
Web程序 时间：
2019-09-24 17:52:15
阅读次数：
160
http://www.sohu.com/a/134347664_642762 Lenet，1986年 https://github.com/BVLC/caffe/blob/master/examples/mnist/lenet_train_test.prototxt 介绍： 结构：由两个卷积层，两个 ...
分类：
其他好文 时间：
2019-09-16 00:51:36
阅读次数：
172
