由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Computation版 - 高维 PCA
相关主题
[求教]请各位推荐解大型矩阵的子程序 (转载)where to find C++ codes for PCA and CA?
求教PCA[转载] 提个线性代数的问题,肯请热心人指教
求助: 3*3 matrix eigenvalue problem[合集] Matlab 求助:如何把一个高维矩阵中的一维赋值给一个向量
问个matlab的eigs的问题对任意mXn的矩阵M,能否找到两个对角阵P,Q,使PMQ=I, QM'P=I (转载)
我也有一个对角化的问题Question
如何用CUDA同时计算几百个实对称矩阵的eigenvalues/eigenvecot关于超大型矩阵的算法
线性代数一问Matlab计算精度请教
Singular Value DecompositionMathematica的bug?
相关话题的讨论汇总
话题: pca话题: 10话题: eigenvalue话题: 1200话题: svd
进入Computation版参与讨论
1 (共1页)
j*****n
发帖数: 1545
1
有一个向量是1200维的,有10个data。 怎么做PCA啊? 维数我觉得太高了。
看见有个人是这样做的, 本来是x*x',他用的是x'*x,这样的自相关矩阵只有10×10
维的,用这个去做 PCA, 得到的10*1的eigen_vector再用x去乘,又得到一个1200×1的
玩意。
这样有道理吗?eigenvalue最多就10个,很奇怪。
r****y
发帖数: 1437
2
PCA can be done to either dimension.
In your case, because you only have 10 data points, so
all trash for eigen values lower than the 10th one.
In another word, only 10-dimension is need to span your space
1200 is nothing. It seems you have not get the essence of PCA.

10

【在 j*****n 的大作中提到】
: 有一个向量是1200维的,有10个data。 怎么做PCA啊? 维数我觉得太高了。
: 看见有个人是这样做的, 本来是x*x',他用的是x'*x,这样的自相关矩阵只有10×10
: 维的,用这个去做 PCA, 得到的10*1的eigen_vector再用x去乘,又得到一个1200×1的
: 玩意。
: 这样有道理吗?eigenvalue最多就10个,很奇怪。

j*****n
发帖数: 1545
3
昨天研究了一下PCA.
10维并不能把不在这10个data里面的一个1200维的data表达出来啊。
eigenvector 应该是1200维的,两种方法的主要的10个eigenvalue是一样的.rank是10
,但是那个10维的eigenvector要通过某种变换(乘一个什么)得到正确的1200的
eigenvector.
我现在的问题是 我有一个1200维的数据 要投影到这个PCA上面去。如果只用10个
eigenvalue的话,投影之后再重建和原是数据差别太大。 如果用1200维的eigenvalue
就能投影之后正确的重建。 就是维数太高了。
r****y
发帖数: 1437
4
hehe, you still have not got it right.

10
eigenvalue

【在 j*****n 的大作中提到】
: 昨天研究了一下PCA.
: 10维并不能把不在这10个data里面的一个1200维的data表达出来啊。
: eigenvector 应该是1200维的,两种方法的主要的10个eigenvalue是一样的.rank是10
: ,但是那个10维的eigenvector要通过某种变换(乘一个什么)得到正确的1200的
: eigenvector.
: 我现在的问题是 我有一个1200维的数据 要投影到这个PCA上面去。如果只用10个
: eigenvalue的话,投影之后再重建和原是数据差别太大。 如果用1200维的eigenvalue
: 就能投影之后正确的重建。 就是维数太高了。

c********g
发帖数: 530
5
try try the SVD of X,
plug the SVD of X into XX' and X'X, and make some comparison.

10

【在 j*****n 的大作中提到】
: 有一个向量是1200维的,有10个data。 怎么做PCA啊? 维数我觉得太高了。
: 看见有个人是这样做的, 本来是x*x',他用的是x'*x,这样的自相关矩阵只有10×10
: 维的,用这个去做 PCA, 得到的10*1的eigen_vector再用x去乘,又得到一个1200×1的
: 玩意。
: 这样有道理吗?eigenvalue最多就10个,很奇怪。

c***r
发帖数: 63
6
sample size too small
at most 10 vectors suffice to span the sample space

10
eigenvalue

【在 j*****n 的大作中提到】
: 昨天研究了一下PCA.
: 10维并不能把不在这10个data里面的一个1200维的data表达出来啊。
: eigenvector 应该是1200维的,两种方法的主要的10个eigenvalue是一样的.rank是10
: ,但是那个10维的eigenvector要通过某种变换(乘一个什么)得到正确的1200的
: eigenvector.
: 我现在的问题是 我有一个1200维的数据 要投影到这个PCA上面去。如果只用10个
: eigenvalue的话,投影之后再重建和原是数据差别太大。 如果用1200维的eigenvalue
: 就能投影之后正确的重建。 就是维数太高了。

1 (共1页)
进入Computation版参与讨论
相关主题
Mathematica的bug?我也有一个对角化的问题
请教一个问题如何用CUDA同时计算几百个实对称矩阵的eigenvalues/eigenvecot
GSL里面的例子是不是有的不对阿?线性代数一问
这个方程该怎么解?Singular Value Decomposition
[求教]请各位推荐解大型矩阵的子程序 (转载)where to find C++ codes for PCA and CA?
求教PCA[转载] 提个线性代数的问题,肯请热心人指教
求助: 3*3 matrix eigenvalue problem[合集] Matlab 求助:如何把一个高维矩阵中的一维赋值给一个向量
问个matlab的eigs的问题对任意mXn的矩阵M,能否找到两个对角阵P,Q,使PMQ=I, QM'P=I (转载)
相关话题的讨论汇总
话题: pca话题: 10话题: eigenvalue话题: 1200话题: svd