为什么LDA降维最多降到类别数k-1?
1个回答
LDA算法中需要计算类间散度矩阵$S_b$和类内散度矩阵$S_w$。
现在原数据降维到矩阵$W$,有$n$行和$d$列,而矩阵$W$的列是$S_w^{-1}S_b$的特征向量。
而$S_b$的秩最大为$k-1$,所以最多有$k-1$个特征向量。所以$W$最多只有$k-1$列。
相关博客:线性判别分析LDA原理总结
SofaSofa数据科学社区DS面试题库 DS面经LDA算法中需要计算类间散度矩阵$S_b$和类内散度矩阵$S_w$。
现在原数据降维到矩阵$W$,有$n$行和$d$列,而矩阵$W$的列是$S_w^{-1}S_b$的特征向量。
而$S_b$的秩最大为$k-1$,所以最多有$k-1$个特征向量。所以$W$最多只有$k-1$列。
相关博客:线性判别分析LDA原理总结
SofaSofa数据科学社区DS面试题库 DS面经