协方差矩阵一定是满秩的吗？

协方差的秩是独立变量的个数。比如有n个独立变量，再把所有变量的和作为n+1个变量。协方差矩阵是（n+1）x（n+1），但是秩只有n。

-----------------------------------------------------------------

数据矩阵$X$是mxn，m是数据点个数，n是数据维度。当不知道每个维度的均值，用采样均值代替总体均值时，去均值后的数据

$Z=\begin{bmatrix}1-1/m& -1/m& ... & -1/m \\-1/m& 1-1/m& ... & -1/m \\... & ... & ... \\-1/m & -1/m &... & 1-1/m \end{bmatrix}X=RX$

其中$R$是mxm的去均值矩阵,$rank(R)=m-1$。

$Cov(X)=Z^TZ$

$rank(Cov(X))=rank(Z^TZ)=rank(Z)=\min(rank(R),rank(X))=\min(m-1,rank(X))$

两个因素会决定协方差的秩：1.数据点个数m-1；2. 数据中独立变量个数rank(X)。

所以两种情况协方差矩阵不是满秩：

1.数据太少，$m-1<n$

2.数据中有非独立变量，$rank(X)$

n x n的协方差矩阵的秩最大为n - 1