一,引言 我们知道,在实际生活中,采集到的数据大部分信息都是无用的噪声和冗余信息,那么,我们如何才能剔除掉这些噪声和无用的信息,只保留包含绝大部分重要信息的数据特征呢? 除了上次降到的PCA方法,本次介绍另外一种方法,即SVD。SVD可以用于简化数据,提取出数据的重要特征,而剔除掉数据中的噪声和冗余 ...
分类:
其他好文 时间:
2018-11-18 15:07:34
阅读次数:
163
function [a,b,c,d]=get_LS_plane(data) % a*x + b*y + c*z + d = 0 planeData=data; % 协方差矩阵的SVD变换中,最小奇异值对应的奇异向量就是平面的方向 xyz0=mean(planeData,1); centeredPla... ...
分类:
其他好文 时间:
2018-10-28 22:03:48
阅读次数:
270
目标函数: $ J = \frac{1}{2} \left\| R - PQ \right\|^{2} + \lambda \left( \left\|P \right\|^{2} +\left\| Q \right\|^{2} \right) $ 矩阵R为$ m \times n$的稀疏矩阵(sp ...
分类:
其他好文 时间:
2018-10-13 15:43:02
阅读次数:
847
一. 引子——高维空间与西瓜 这学期选课有一门“网络数据挖掘”,原来特别担心与本学期选的一门“模式识别与数据挖掘”在一定程度上相重复,不过还好,这个老师讲课不是照本宣科,讲得更多的是个人的理解还有从业经验。 今天讲得挺有意思的一点是,在讲到聚类的时候,老师有些嗤之以鼻,说在高维空间内,聚类算法可能并 ...
分类:
其他好文 时间:
2018-10-12 23:55:52
阅读次数:
224
一、奇异值与特征值基础知识: 特征值分解和奇异值分解在机器学习领域都是属于满地可见的方法。两者有着很紧密的关系,我在接下来会谈到,特征值分解和奇异值分解的目的都是一样,就是提取出一个矩阵最重要的特征。先谈谈特征值分解吧: 1)特征值: 如果说一个向量v是方阵A的特征向量,将一定可以表示成下面的形式: ...
分类:
其他好文 时间:
2018-10-05 21:31:35
阅读次数:
176
一. 矩阵分解: 矩阵分解 (decomposition, factorization)是将矩阵拆解为数个矩阵的乘积,可分为三角分解、满秩分解、QR分解、Jordan分解和SVD(奇异值)分解等,常见的有三种:1)三角分解法 (Triangular Factorization),2)QR 分解法 ( ...
分类:
其他好文 时间:
2018-09-26 11:41:19
阅读次数:
594
1.奇异值分解(SVD) 应用讲解 推导过程 ...
分类:
其他好文 时间:
2018-09-13 12:12:02
阅读次数:
160
特征分解 奇异值分解(Singular Value Decomposition, SVD) ...
分类:
其他好文 时间:
2018-08-28 13:11:49
阅读次数:
157
头文件 源文件 C++ include "svd.h" void print_matrix(const vector & vec){ if(vec.empty()){ return; } for ( auto row: vec){ if(row.empty()){ return; } for ( a ...
分类:
其他好文 时间:
2018-08-20 16:42:22
阅读次数:
912