Y = A * X --> DY/DX = A'Y = X * A --> DY/DX = AY = A' * X * B --> DY/DX = A * B'Y = A' * X' * B --> DY/DX = B * A'于是把以前学过的矩阵求导部分整理一下：1. 矩阵Y对标量x求导：相当于每...
分类：
其他好文 时间：
2015-07-01 23:30:27
阅读次数：
189
自己学习矩阵微分的笔记，包含了迹函数、行列式函数以及逆矩阵的求导方法。主要是练习求导的链式法则；以及利用微分求导数。更具体的参见引用：张贤达,矩阵分析与应用,清华大学出版社,2004Note:向量用加粗的小写字母表示，行向量表示为，列向量表示为Note:矩阵用加粗的大写字母..
分类：
其他好文 时间：
2015-06-04 06:20:30
阅读次数：
1070
对于$D$维数据集$X$，若其样本$\boldsymbol{x}$服从$\mathcal{N} (\boldsymbol{x} | \boldsymbol{\mu}, \boldsymbol{A})$，那么用极大似然法对协方差矩阵$\boldsymbol{A}$进行估计时，则不可避免会遇到\be.....
分类：
其他好文 时间：
2014-10-12 04:37:17
阅读次数：
286
今天推导公式，发现居然有对矩阵的求导，狂汗--完全不会。不过还好网上有人总结了。吼吼，赶紧搬过来收藏备份。基本公式：Y = A * X --> DY/DX = A'Y = X * A --> DY/DX = AY = A' * X * B --> DY/DX = A * B'Y = A' * X' ...
分类：
其他好文 时间：
2014-10-08 14:37:05
阅读次数：
270
机器学习(2)之线性回归上一章介绍了梯度下降算法的线性回归，本章将介绍另外一种线性回归，它是利用矩阵求导的方式来实现梯度下降算法一样的效果。1. 矩阵的求导首先定义表示m×n的矩阵，那么对该矩阵进行求导可以用下式表示，可以看出求导后的矩阵仍然为m×n这里要用到矩阵迹的特性，trace. 对于一个n阶...
分类：
其他好文 时间：
2014-09-09 11:49:28
阅读次数：
182
