最近自己接触到的知识有些杂乱。最近涉及到了PLC的自动化控制、煤气柜位预测等方面的内容。PLC的学习目前中断了一阵子，最近接触了柜位预测的相关算法——神经网络、最小二乘法等相关的算法。今天先简单介绍一下，自己做的一个煤气柜位曲线显示的小demo，相关的算法的实现将在以后学习研究介绍吧。
1、界面曲线显示
我选择采用C#来进行实时曲线的显示，C#报表控件有很多，经过比较，在实时显示曲线上C#的开...
分类：
其他好文 时间：
2014-11-18 00:23:19
阅读次数：
246
对于见得多了的东西，我往往就习以为常了，慢慢的就默认了它的存在，而不去思考内在的一些道理。总体最小二乘是一种推广最小二乘方法，本文的主要内容参考张贤达的《矩阵分析与应用》。1. 最小二乘法 最小二乘法，大家都很熟悉，用在解决一超定方程。最小“二”乘的“二”体现在准则上——令误差的平方和最小，等价于 ...
分类：
其他好文 时间：
2014-11-15 21:42:01
阅读次数：
430
最近学习了一种叫做 Factorization Machines（简称 FM）的通用算法，它可对任意的实值向量进行预测。其主要优点包括: 1) 可用于高度稀疏数据场景; 2) 具有线性的计算复杂度。本文将对 FM 框架进行简单介绍，并对其训练算法 — 随机梯度下降（SGD） 法和交替最小二乘法（ALS）法进行详细推导。...
分类：
系统相关 时间：
2014-10-28 12:21:35
阅读次数：
333
第二个故事的主角是欧拉(Euler)，拉普拉斯(Lapalace)，勒让德(Legendre)和高斯(Gauss)，故事发生的时间是十八世纪中到十九世纪初。十七、十八世纪是科学发展的黄金年代，微积分的发展和牛顿万有引力定律的建立，直接的推动了天文学和测地学的迅猛发展。当时的大科学家们都在考虑许多天文...
分类：
其他好文 时间：
2014-10-22 21:51:13
阅读次数：
285
在机器学习或者是模式识别当中有一种重要的分类器叫做：SVM 。这个被广泛的应用于各个领域。但是其计算的复杂度以及训练的速度是制约其在实时的计算机应用的主要原因。因此也很很多的算法被提出来，如SMO，Kernel的方法。
但是这里要提到的 Regularized
least-squares classification 是一个和他有着同样的效果的分类器。比较而言计算却比较的简单（We ...
分类：
其他好文 时间：
2014-10-16 16:55:33
阅读次数：
268
设（x1, y1), (x2,y2), ...(xk,yk)为输入样本，注意这里的xi本身是一个向量。
假设拟合多项式为：
则通过使用下面的最小平方差拟合方法：
可得：
拟合过程变成求上式的最小值，相信学过高数的童鞋应该都知道怎么求，对的以此对系数a0,a1....求偏导数，使其为零，最后可得K+1组方程：
.......................
...
分类：
其他好文 时间：
2014-10-08 18:22:55
阅读次数：
180
在我们研究两个变量(x, y)之间的相互关系时，通常能够得到一系列成对的数据(x1, y1、x2, y2... xm , ym)；将这些数据描绘在x -y直角座标系中(如图1), 若发现这些点在一条直线附近，能够令这条直线方程如(式1-1)。Y计= a0 + a1 X ...
分类：
其他好文 时间：
2014-10-06 12:02:30
阅读次数：
317
常用的机器学习&数据挖掘知识(点）
声明：想做机器学习&数据挖掘的学弟学妹，可以看看，转载请说明出处...
常用的机器学习知识(点)
Basis(基础)：
MSE(Mean Square Error 均方误差)，LMS(LeastMean
Square 最小均方)，LSM(Least Square Methods 最小二乘法)，MLE(MaximumLikelihoo...
分类：
其他好文 时间：
2014-09-15 22:51:09
阅读次数：
340
机器学习(3)之最小二乘法的概率解释在前面梯度下降以及正规方程组求解最优解参数Θ时，为什么选择最小二乘作为计算参数的指标，使得假设预测出的值和真正y值之间面积的平方最小化？我们提供一组假设，证明在这组假设下最小二乘是有意义的，但是这组假设不唯一，还有其他很多方法可以证明其有意义。（1）假设1：假设输...
分类：
其他好文 时间：
2014-09-11 01:02:41
阅读次数：
291
