1、引言 最近一段时间在对卷积神经网络进行量化的过程中，阅读了部分论文，其中对于谷歌在CVPR2018上发表的论文“Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference ...
分类：
其他好文 时间：
2021-02-18 13:53:35
阅读次数：
0
数值稳定性和模型初始化 目标：深度学习模型的数值稳定性问题以及模型参数的初始化方法。 深度模型有关数值稳定性的典型问题是衰减（vanishing）和爆炸（explosion）。 衰减和爆炸 当神经网络的层数较多时，模型的数值稳定性容易变差。假设一个层数为$L$的多层感知机的第$l$层$\boldsy ...
分类：
其他好文 时间：
2021-02-17 15:10:01
阅读次数：
0
Paddle Inference原生推理库 深度学习一般分为训练和推理两个部分，训练是神经网络“学习”的过程，主要关注如何搜索和求解模型参数，发现训练数据中的规律，生成模型。有了训练好的模型，就要在线上环境中应用模型，实现对未知数据做出推理，这个过程在AI领域叫做推理部署。用户可以选择如下四种部署应 ...
分类：
其他好文 时间：
2021-02-16 11:43:17
阅读次数：
0
Tensor基础实践 飞桨（PaddlePaddle，以下简称Paddle）和其他深度学习框架一样，使用Tensor来表示数据，在神经网络中传递的数据均为Tensor。 Tensor可以将其理解为多维数组，其可以具有任意多的维度，不同Tensor可以有不同的数据类型 (dtype) 和形状 (sha ...
分类：
其他好文 时间：
2021-02-15 12:07:56
阅读次数：
0
1. 使用八股搭建神经网络 1.1 、 用Tensorflow API: tf.keras 搭建神经网络八股 六步法： import import相关模块，比如 import tensorflow as tf train, test 告知要喂入网络的训练集和测试集是什么 也就是要指定训练集的输入特征 ...
分类：
其他好文 时间：
2021-01-27 13:05:18
阅读次数：
0
LSTM原理 CNN卷积神经网络 应用：图像，视频 RNN 递归神经网络 应用：NLP 1RNN结构 one to one 比如输入一张图片，它会给我们输出是猫还是狗 one to many 比如输入一张图片，给出一些列图片描述 many to one 比如文本分析，给出文本是积极还是消极的 man ...
分类：
其他好文 时间：
2021-01-26 12:10:00
阅读次数：
0
#参考链接 https://cloud.google.com/blog/products/ai-machine-learning/what-makes-tpus-fine-tuned-for-deep-learning #CPU、GPU、TPU区别 ##CPU CPU的最大好处是它的灵活性。凭借其冯 ...
分类：
其他好文 时间：
2021-01-25 11:32:10
阅读次数：
0
1、激活函数的概念 神经网络中的每个神经元节点接受上一层神经元的输出值作为本神经元的输入值，并将输入值传递给下一层，输入层神经元节点会将输入属性值直接传递给下一层（隐层或输出层）。在多层神经网络中，上层节点的输出和下层节点的输入之间具有一个函数关系，这个函数称为激活函数Activation Func ...
分类：
其他好文 时间：
2021-01-16 11:47:27
阅读次数：
0
主要介绍GCN-Tree模型中依存树的内容。论文中使用的工具来自Standford Parser。 http://nlp.stanford.edu:8080/parser/ 这是可以体验功能。 工具包：https://nlp.stanford.edu/software/stanford-depend ...
分类：
其他好文 时间：
2021-01-14 11:25:39
阅读次数：
0
Learning to Zoom: a Saliency-Based Sampling Layer for Neural Networks Abstract 我们为卷积神经网络引入了一个基于显著性的扭曲（distortion）层，这有助于改善给定任务的输入数据的空间采样。我们的可微层可以作为预处理块 ...
分类：
Web程序 时间：
2021-01-04 11:35:00
阅读次数：
0
