注：由于自己画图实在太难画，本文中基本所有插图来源于算法团子机器学习班，请勿转载
1.普通的机器学习模型：
其实，基本上所有的基本机器学习模型都可以概括为以下的特征：根据某个函数，将输入计算并输出。图形化表示为下图：
当我们的g(h)为sigmoid函数时候，它就是一个逻辑回归的分类器。当g(h)是一个只能取0或1值的函数时，它就是一个感知机。那么问题来了，这一类模型有明显缺陷：当模...
分类：
编程语言 时间：
2015-06-03 17:47:51
阅读次数：
10752
深度学习允许由多个处理层组成的计算模型来学习多个抽象层数据的表示。这些方法大大提高了目前最先进的语音识别，可视对象识别，目标检测和其他诸多领域如药物发现和基因组。深度学习发现大数据集结构很复杂，该结构使用BP算法来指示机器应该如何改变内部参数，这些参数是用于从前一层的表示来计算每层的表示。深度卷积网已经在处理图像，视频，语音和音频方面取得了突破，而递归网已经触及到连续数据，如文本和语音。机器学习技术...
分类：
其他好文 时间：
2015-05-29 23:16:36
阅读次数：
245
本文的目的是学习和掌握BP神经网络的原理及其学习算法。在MATLAB平台上编程构造一个3-3-1型的singmoid人工神经网络，并使用随机反向传播算法和成批反向传播算法来训练这个网络，这里设置不同的初始权值，研究算法的学习曲线和训练误差。...
分类：
其他好文 时间：
2015-05-29 06:16:10
阅读次数：
677
神经网络训练中的Tricks之高效BP（反向传播算法）神经网络训练中的Tricks之高效BP（反向传播算法）zouxy09@qq.comhttp://blog.csdn.net/zouxy09 Tricks！这是一个让人听了充满神秘和好奇的词。对于我们这些所谓的尝试应用机器学习技术解决某些问题的.....
分类：
编程语言 时间：
2015-05-05 23:27:36
阅读次数：
178
机器学习是计算机科学和统计学的边缘交叉领域，R关于机器学习的包主要包括以下几个方面： 1）神经网络（Neural Networks）： nnet、AMORE以及neuralnet，nnet提供了最常见的前馈反向传播神经网络算法。AMORE包则更进一步提供了更为丰富的控制参数，并可以增加多个隐...
分类：
其他好文 时间：
2015-04-28 11:32:25
阅读次数：
667
神经网络训练中的Tricks之高效BP（反向传播算法）zouxy09@qq.comhttp://blog.csdn.net/zouxy09 Tricks！这是一个让人听了充满神秘和好奇的词。对于我们这些所谓的尝试应用机器学习技术解决某些问题的人，更是如此。曾记得，我们绞尽脑汁，搓手顿足，大喊“为什么我跑的模型不work？”，“为什么我实现的效果那么差？”，“为什么我复现的结果没有他论...
分类：
编程语言 时间：
2015-04-26 15:16:43
阅读次数：
234
为什么要使用Theano？深度学习最好使用一些库，比如Theano。主要是因为反向传播调整参数时，需要求导。链式求导本身没有难处。但是深度学习的神经网络架构设计的比较复杂，层数又多（15层不是梦）。在基本BP网络的三层结构里，链式的长度已经到了5，推导公式已经不忍直视，人工求导显然不是明智的。The...
分类：
其他好文 时间：
2015-03-17 15:43:31
阅读次数：
482
机器学习Machine Learning - Andrew NG
courses学习笔记
Cost Function代价函数
Backpropagation Algorithm BP反向传播算法
Backpropagation Intuition反向传播直觉知识
Implementation Note_ Unrolling Parameters执行节点展开参...
分类：
Web程序 时间：
2015-03-07 21:22:47
阅读次数：
376
这是一个非常漂亮的三层反向传播神经网络的python实现，下一步我准备试着将其修改为多层BP神经网络。下面是运行演示函数的截图，你会发现预测的结果很惊人！提示：运行演示函数的时候，可以尝试改变隐藏层的节点数，看节点数增加了，预测的精度会否提升 1 import math 2 import ran.....
分类：
编程语言 时间：
2015-02-28 06:42:12
阅读次数：
323
这一篇是整个第五章的精华了，会重点介绍一下Neural Networks的训练方法——反向传播算法（backpropagation，BP），这个算法提出到现在近30年时间都没什么变化，可谓极其经典。也是deep learning的基石之一。还是老样子，下文基本是阅读笔记（句子翻译+自己理解），把书里的内容梳理一遍，也不为什么目的，记下来以后自己可以翻阅用。...
分类：
编程语言 时间：
2015-02-07 23:03:19
阅读次数：
313
