1、标准正交矩阵
假设矩阵Q有列向量q1,q2,...,qn表示，且其列向量满足下式：
则
若Q为方阵，由上面的式子则有
我们举例说明上述概念：
2、标准正交矩阵的好处
上面我们介绍了标准正交矩阵，那么标准正交矩阵的用处在哪？下面以两方面来说明标准正交矩阵的用处：
求解Ax=b
在前面文章《正交...
分类：
其他好文 时间：
2014-12-06 15:26:25
阅读次数：
391
前一篇文章《正交投影》中我们讲述了正交投影，现在我们来从正交投影的角度来看看我们熟悉的最小二乘法。我记得最早知道最小二乘法是在大一上高数课的时候，我们首先回顾一下什么是最小二乘法。
1、最小二乘法
最近机器学习比较火，机器学习中的许多算法都是对信息进行分类，比如说支持向量机就是根据已知信息来分类，神经网络可以找到输入输出的关系（当然，不能给出具体的数学表达式），这两种算法都能找...
分类：
其他好文 时间：
2014-12-05 12:42:01
阅读次数：
274
我们在初中就应该学过投影，那么什么是投影呢？形象点说，就是将你需要投影的东西上的每一点向你要投影的平面作垂线，垂线与平面的交点的集合就是你的投影。注意这里我们的投影是向量的投影，几何的投影(并不一定是垂直投影的)可见度娘百科。同样的，我们从简单的二维投影来开始讨论。
1、二维投影
上图表示的是，向量b在向量a上的投影。显然有如下表达式：
其中，P为投影矩阵，由P的表...
分类：
其他好文 时间：
2014-11-16 18:44:27
阅读次数：
604
在前面文章《矩阵的四个基本子空间》中提到：
一个秩为r，m*n的矩阵A中，其行空间和列空间的维数为r，零空间和左零空间的维数分别为n-r，m-r，并且有行空间与零空间正交，列空间与左零空间正交。
“掌握上面的这个结论就掌握了线性代数的半壁江山！”，MIT教授如是说。那么什么是正交子空间呢？我们首先从我们熟悉的正交向量说起。
1、正交向量...
分类：
其他好文 时间：
2014-11-16 12:06:59
阅读次数：
252
数学基础（2节课）微积分极限，e，导数，微分，积分偏导数，方向导数，梯度极值，多元函数极值，多元函数泰勒展开无约束优化，约束优化拉格朗日乘子，对偶问题线性代数矩阵，行列式，初等变换线性相关，线性无关秩，特征值，特征向量正交向量、正交矩阵矩阵分解概率随机变量，概率密度函数，分布函数条件概率，全概率公式...
分类：
其他好文 时间：
2014-10-30 10:16:09
阅读次数：
185
