前言： CNN作为DL中最成功的模型之一，有必要对其更进一步研究它。虽然在前面的博文Stacked CNN简单介绍中有大概介绍过CNN的使用，不过那是有个前提的：CNN中的参数必须已提前学习好。而本文的主要目的是介绍CNN参数在使用bp算法时该怎么训练，毕竟CNN中有卷积层和下采样层，虽然和MLP的 ...
分类：
其他好文 时间：
2017-09-21 11:28:24
阅读次数：
280
摘要 本文是对 Andrew Ng 在 Coursera 上的机器学习课程中 Backpropagation Algorithm 一小节的延伸。文章分三个部分：第一部分给出一个简单的神经网络模型和 Backpropagation（以下简称 BP）算法的具体流程。第二部分以分别计算第一层和第二层中的第 ...
分类：
编程语言 时间：
2017-08-06 21:50:10
阅读次数：
311
神经网络非线性能力即原理1. 感知器与逻辑门2. 强大的空间非线性切分能力3. 网络表达能力与过拟合问题4. BP算法与SDG Café主要是用于图像的主流框架Tensflow框架，灵活的网络，工程上做训练，常用库TF-learning，TensorLayerKreas框架 搭建常用网络深度学习应用 ...
分类：
其他好文 时间：
2017-07-14 20:27:34
阅读次数：
914
上次写完粗浅的BP算法 介绍 本来应该继续把 卷积神经网络算法写一下的 但是最近一直在踩 TensorFlow的坑。所以就先跳过算法介绍直接来应用场景，原谅我吧。 TensorFlow 介绍 TF是google开源出来的人工智能库，由python语言写的 官网地址：http://www.tensor ...
分类：
其他好文 时间：
2017-06-28 23:05:19
阅读次数：
321
总结： 一、研究内容 本文研究了CAL-BP（基于隐层的竞争学习与学习率的自适应的改进BP算法）在症状证型分类预测中的应用。 二、算法思想 1、隐层计算完各节点的误差后，对有最大误差的节点的权值进行正常修正， 而对其它单元的权值都向相反方向修正，用 δ表示隐层节点的权值修正量， 则修正量的调整公式具 ...
分类：
编程语言 时间：
2017-06-27 21:17:00
阅读次数：
202
office组件中的viso是一款十分强大的绘图工具，在绘制流程图、结构框图时显得十分方便，这里将我自己绘制的一些viso图（大部分都是用在我自己的论文中的）与大家分享一把。 1、深度学习训练流程图 这个框图表示深度学习训练的基本流程，这里面是以基于bp算法的卷积神经网络为例的。 2、LeNet-5 ...
分类：
其他好文 时间：
2017-06-24 21:01:21
阅读次数：
265
BP算法细节 参数说明：假设有n层。J表示代价函数，和上面的E是同样的意思，只不过用不同的字母写而已。 分析：要想知道第l层的第i个结点的残差，必须知道该节点所连接的下一层的各个结点的权值，以及这些结点的残差，幸亏第l+1层已经计算出来了残差，你只要把后面一层的每个结点j的残差乘以该结点与这一层的结 ...
分类：
其他好文 时间：
2017-06-05 19:24:34
阅读次数：
252
什么是反向传播 作者:韩小雨 类别:①反向传播算法 ②反向传播模型 反向传播算法（英：Backpropagation algorithm，简称：BP算法） 算法简介:是一种监督学习算法，常被用来训练多层感知机。 于1974年，Paul Werbos[1]首次给出了如何训练一般网络的学习算法，而人工神 ...
分类：
其他好文 时间：
2017-05-31 10:20:43
阅读次数：
265
原文摘要：深度学习可以让那些拥有多个处理层的计算模型来学习具有多层次抽象的数据的表示。这些方法在很多方面都带来了显著的改善，包含最先进的语音识别、视觉对象识别、对象检測和很多其他领域，比如药物发现和基因组学等。深度学习可以发现大数据中的复杂结构。它是利用BP算法来完毕这个发现过程的。BP算法可以指导 ...
分类：
其他好文 时间：
2017-05-16 20:45:54
阅读次数：
458
