神经网络中的方向传播算法讲得复杂难懂。简单地说明它的原理： 神经网络：输入层，隐藏层，输出层。根据线性关系，激活函数，并最终根据监督学习写出误差表达式。此时，误差函数可写成，那么权值w和它之间存在什么关系？求偏导分析之间的变化关系 不过如此。
分类：
编程语言 时间：
2015-08-03 19:04:53
阅读次数：
122
一、批量学习 在监督学习的批量方法中，多层感知器的突出权值的调整在训练样本集合的所有N个例子都出现后进行，这构成了训练的一个回合。换句话说，批量学习的代价函数是由平均误差能量定义的。多层感知器的突触权值的调整是以回合-回合为基础的。相应地，学习曲线的一种实现方式是通过描绘平均误差能量对回合数的图形....
分类：
其他好文 时间：
2015-08-03 18:52:59
阅读次数：
427
http://songshuhui.net/archives/76501作 者:rickjin(靳志辉??)校 对: 汤涛，香港浸会大学数学讲座教授神说，要有正态分布，就有了正态分布。神看正态分布是好的，就让随机误差就服从了正态分布。创世纪-数理统计一、正态分布，熟悉的陌生人学过基础统计学的同学大都...
分类：
其他好文 时间：
2015-08-02 21:30:52
阅读次数：
200
http://songshuhui.net/archives/77386作 者: rickjin(靳志辉??)校 对: 汤涛，香港浸会大学数学讲座教授正态分布的前世今生（上）六、开疆扩土，正态分布的进一步发展19世纪初，随着拉普拉斯中心极限定理的建立与高斯正态误差理论的问世，正态分布开始崭露头角，逐...
分类：
其他好文 时间：
2015-08-02 21:23:12
阅读次数：
223
1 import numpy as np 2 3 def SumSquareError(dataset,A): 4 # 输入目标数据集与假设曲线函数，计算误差平方和 5 # 数据形式 dataset[i] = [x,y]，y = hypfunc(x) 6 # A： 多项式...
分类：
编程语言 时间：
2015-07-31 23:26:16
阅读次数：
678
快速数论变化(NTT)是的原理其实和快速傅里叶变换是一样的原理。 对于形如m= c*2^n+1的费马素数，假设其原根为g。那么瞒住g^(m-1)==1 而且正好（m-1）能整除2^n的。所所以可以在模p域进行NTT变换。旋转因子为 g^((m-1)/n)。其他的原理都和FFT的原理相同。这样可以解决特殊情况下FFT的浮点误差。
/*
* Author: islands
* Create...
分类：
其他好文 时间：
2015-07-31 22:03:42
阅读次数：
169
提升树是以决策树为基分类器的提升方法，通常使用CART树。针对不同问题的提升树学习算法，主要区别在于使用的损失函数不同。1）分类问题：指数损失函数。可以使用CART分类树作为AdaBoost的基分类器，此时为分类提升树。2）回归问题：平方误差损失函数。3）决策问题：一般损失函数。1、提升树算法提升树...
分类：
编程语言 时间：
2015-07-31 21:44:07
阅读次数：
371
CART：Classification and regression tree，分类与回归树。（是二叉树）CART是决策树的一种，主要由特征选择，树的生成和剪枝三部分组成。它主要用来处理分类和回归问题，下面对分别对其进行介绍。1、回归树：使用平方误差最小准则训练集为：D={(x1,y1), (x2,...
分类：
其他好文 时间：
2015-07-30 10:51:21
阅读次数：
310
版权声明：本文为原创文章，转载请注明来源。1.原理1.1 概念交叉验证(Cross-validation)主要用于模型训练或建模应用中，如分类预测、PCR、PLS回归建模等。在给定的样本空间中，拿出大部分样本作为训练集来训练模型，剩余的小部分样本使用刚建立的模型进行预测，并求这小部分样本的预测误差或者预测精度，同时记录它们的加和平均值。这个过程迭代K次，即K折交叉。其中，把每个样本的预测误差平方加和...
分类：
其他好文 时间：
2015-07-28 21:15:20
阅读次数：
1786
当我们使用正则化的线性回归方法预测房价时，发现得到的模型应用于新的数据上时有很大误差，这时，我们可以选择一些解决方案，例如：
上图中的这六种解决方案都有相应的条件，如图中蓝色字体所示。【一、回归模型选择】我们引入一类数据集，叫做cross validation set，即交叉验证数据集。将所有数据按6：2：2
分为training set , cross validation set , t...
分类：
其他好文 时间：
2015-07-27 23:05:00
阅读次数：
389
