torch.nn (1)用于搭建网络结构的序列容器:torch.nn.Sequential (2)线性层:torch.nn.Linear (3)激活函数:torch.nn.ReLU (4)损失函数:torch.nn.MSELoss(均方误差函数),troch.nn.L1Loss(平均绝对误差函数), ...
分类:
其他好文 时间:
2019-09-04 13:05:16
阅读次数:
122
前提 神经网络中有合适的权重和偏置,调整权重和偏置以便拟合训练数据的过程称为学习。神经网络的学习分为下面4 个步骤。 步骤1(mini-batch) 从训练数据中随机选择一部分数据。步骤2(计算梯度) 计算损失函数关于各个权重参数的梯度。步骤3(更新参数) 将权重参数沿梯度方向进行微小的更新。步骤4 ...
分类:
其他好文 时间:
2019-06-24 21:14:50
阅读次数:
115
1.神经网络工具箱概述 Matlab神经网络工具箱几乎包含了现有神经网络的最新成果,神经网络工具箱模型包括感知器、线性网络、BP网络、径向基函数网络、竞争型神经网络、自组织网络和学习向量量化网络、反馈网络。本文只介绍BP神经网络工具箱。 2.BP神经网络工具箱介绍 BP神经网络学习规则是不断地调整神 ...
分类:
其他好文 时间:
2019-04-12 00:46:04
阅读次数:
252
基于AI专用的APiM架构,无需外部缓存的模块化深度神经网络学习加速器,用于高性能边缘计算领域,可作为基于视觉的深度学习运算和AI算法加速。外形小巧,极低功耗,拥有着强劲算力,配套完整易用的模型训练工具、网络训练模型实例,搭配专业硬件平台,可快速应用于人工智能行业中。 5.6Tops强劲算力 NCC ...
分类:
其他好文 时间:
2018-11-26 13:38:06
阅读次数:
426
import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data mnist = input_data.read_data_sets('MNIST_data', one_hot=True) sess ... ...
分类:
其他好文 时间:
2018-08-08 23:19:42
阅读次数:
220
人工神经网络(Artificial Neural Networks,简写为ANNs)也简称为神经网络(NNs)或称作连接模型(Connection Model),它是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系 ...
分类:
其他好文 时间:
2018-07-25 01:10:48
阅读次数:
220
启蒙时期( 1890-1969) 1890年,心理学家William James出版了第一部详细论述人脑结构及功能的专著《心理学原理》,他认为一个神经细胞受到刺激激活后可以把刺激传播到另一个神经细胞,并且神经细胞激活是细胞所有输入叠加的结果。 1943年,神经病学家和神经元解剖学家McCulloch ...
分类:
其他好文 时间:
2018-07-25 01:04:06
阅读次数:
218
一、卷积的物理意义 卷积的重要的物理意义是:一个函数(如:单位响应)在另一个函数(如:输入信号)上的加权叠加。 在输入信号的每个位置,叠加一个单位响应,就得到了输出信号。这正是单位响应是如此重要的原因。 二、卷积的另外解释 比如说你的老板命令你干活,你却到楼下打台球去了,后来被老板发现,他非常气愤, ...
分类:
其他好文 时间:
2018-06-26 00:51:23
阅读次数:
212
一、基础知识(一) filter: padding:在图像卷积操作之前,沿着图像边缘用0进行图像填充。padding会影响输出图像大小。 stride(卷积步长):卷积步长是指过滤器在图像上滑动的距离 input: n*n, filter: f*f, stride: s, padding: p ou ...
分类:
其他好文 时间:
2018-06-25 22:50:54
阅读次数:
271
反向传播 如何让多层神经网络学习呢?我们已了解了使用梯度下降来更新权重,反向传播算法则是它的一个延伸。以一个两层神经网络为例,可以使用链式法则计算输入层-隐藏层间权重的误差。 要使用梯度下降法更新隐藏层的权重,你需要知道各隐藏层节点的误差对最终输出的影响。每层的输出是由两层间的权重决定的,两层之间产 ...
分类:
其他好文 时间:
2018-04-27 18:07:13
阅读次数:
239