假设矩阵如下：
对矩阵A进行高斯消元得到上三角矩阵U，继续化简得到最简矩阵R：
由于方程Ax=0的右侧是零向量，所以只对矩阵A进行消元不会影响解,因此不需要增广矩阵，所以有：
从上面的高斯消元的结果可以看出，矩阵A的秩为2，其中第1，3列为主元列，2，4列为自由列，对应于方程主来说，形式转变如下：
从上式可以看出，x2,x4是自由变量，我们可以随意赋值，x2=0,x4=1；x2=1,x4=0可以分别得到两个特解（几个自由变量就有几个特解）：
然后我们将两组特解进行线性组合就得到了矩阵A的零空间：
我们可以对方程式作如下变形：
我们之所以进行上述变换，是为了有更好的表示形式（不进行列变换也行，但是要记住哪一列是单位矩阵I中的，哪一列是自由变量矩阵F中的）：
这样我们代入方程式可以得到零空间矩阵：
由于R本来就具有很好的形式，就不用进行列变换了：
于是通过解方程得到零空间矩阵：
注：最简矩阵R和零空间矩阵x在MATLAB中可以分别用命令rref(A)，null(A,‘r‘)得到
原文地址：http://blog.csdn.net/tengweitw/article/details/40039373
