minimize.m:共轭梯度法更新BP算法权值 作者：凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/ Carl Edward Rasmussen在高斯机器学习的MATLAB代码中写到一个优化类的函数：minimize.m，同时，Geoff Hinton在用 ...
分类：
编程语言 时间：
2019-09-26 21:18:16
阅读次数：
130
反向传播算法 参考：[http://neuralnetworksanddeeplearning.com/chap2.html][0] BP 算法所关注的是损失函数 C 关于神经网络每一个权重 _w_ 和偏置 _b_ 的偏导。BP 算法向我们展示权值和偏置对损失值的影响。BP 不仅仅是一个快速的算法， ...
分类：
编程语言 时间：
2019-08-25 19:54:21
阅读次数：
298
误差反向传播算法（error back propagtion training），BP。BP神经网络具有任意复杂的模式分类能力和优良的多维函数映射能力。解决了简单感知不能解决异或和一些其他问题。从结构上讲，BP网络具有输入层、隐藏层和输出层。本质上，BP算法就是以网络误差平方为目标函数，采用梯度下降 ...
分类：
其他好文 时间：
2019-07-11 19:58:18
阅读次数：
125
前向传播模型 一般我们使用的公式是： $$ a=\frac{1}{1+\exp \left( \left(w^{T} x+b\right)\right)} = \frac{1}{1+\exp \left( \left[w^{T} \quad b\right] \cdot[x \quad 1]\rig ...
分类：
编程语言 时间：
2019-05-04 11:43:09
阅读次数：
156
原文链接：https://yq.aliyun.com/topic/111 08 反向传播(Back Propagation，简称BP) 算法 在神经网络（甚至深度学习）参数训练中，BP算法占据举足轻重的地位。 实际上BP算法是一个典型的双向算法，但通常强调的是反向传播。 工作流程分两大步： 1. 正 ...
分类：
其他好文 时间：
2019-03-06 01:23:53
阅读次数：
277
一 RNN概述 前面我们叙述了BP算法, CNN算法, 那么为什么还会有RNN呢?? 什么是RNN, 它到底有什么不同之处? RNN的主要应用领域有哪些呢?这些都是要讨论的问题. 1) BP算法,CNN之后, 为什么还有RNN? 细想BP算法,CNN(卷积神经网络)我们会发现, 他们的输出都是只考虑 ...
分类：
其他好文 时间：
2019-01-20 19:56:21
阅读次数：
632
BP 算法推导过程 一.FP过程(前向 计算预测值) 定义sigmoid激活函数 输入层值和 标签结果 初始化 w,b 的值 计算隐层的结果 $$ h1 = Sigmod( Net_{h1}) =Sigmod(w1 l1+ w2 l2+b1 1) $$ [0.9129342275597286, 0. ...
分类：
编程语言 时间：
2019-01-12 13:17:52
阅读次数：
221
https://blog.csdn.net/weixin_38206214/article/details/81143894 在深度学习的路上，从头开始了解一下各项技术。本人是DL小白，连续记录我自己看的一些东西，大家可以互相交流。本文参考：本文参考吴恩达老师的Coursera深度学习课程，很棒的课 ...
分类：
编程语言 时间：
2018-12-28 17:19:07
阅读次数：
221
"github博客传送门" "csdn博客传送门" 本章所需知识: 1. "numpy" 2. "matplotlib" 资料下载链接: 1. "深度学习基础网络模型(mnist手写体识别数据集)" 梯度下降 BP 算法手动实现 python import numpy as np import ma ...
分类：
编程语言 时间：
2018-11-03 01:48:50
阅读次数：
187
