PCA의 역 공분산 행렬 대 공분산 행렬

PCA에서 역공 분산 행렬의 주성분을 선택하거나 큰 고유 값에 해당하는 공분산 행렬의 고유 벡터를 제거하면 차이가 있습니까?

machine-learning pca computational-statistics

양의 공분산 행렬 $\mathbf \Sigma = \mathbf{UDU}'$ 경우 정밀도는 입니다. $\boldsymbol \Sigma^{-1} = \mathbf {U D}^{-1} \mathbf U'$

따라서 고유 벡터는 동일하게 유지되지만 정밀도의 고유 값은 공분산의 고유 값의 역수입니다. 즉, 공분산의 고유 값이 가장 크면 정밀도의 고유 값이 가장 작아집니다. 역함수를 가지면 양의 한정은 모든 고유 값이 0보다 큽니다.

따라서 정밀도 의 가장 작은 고유 값 과 관련된 고유 벡터를 유지하는 경우 이는 일반적인 PCA에 해당합니다. 이미 역수 ( )를 취 했으므로 변환 된 데이터의 미백을 완료하려면 정밀 고유 값의 제곱근 만 사용해야합니다. $k$ $\bf D^{-1}$

— 추측
소스

+1 그러나 귀하의 "그래, 차이를 만듭니다"라는 문장이 OP에 혼란을 줄 수 있다고 생각합니다. Q는 명확하지 않지만 inv cov 행렬의 가장 큰 고유 값 선택과 cov 행렬의 가장 작은 고유 값 선택 (= 가장 큰 고유 값 삭제)간에 차이가 있는지 묻고 있다고 생각합니다. 이 질문에 대한 답 은 동등 하다는 것입니다. 따라서이 문장을 간단히 잘라 내면 답이 더 명확 해집니다.

— amoeba

고마워, 나는 당신이 의미하는 것을보고 그에 따라 편집했습니다.

— 추측

사실 마지막 문장이 좋았습니다.

— amoeba

@conjectures 감사합니다. 완벽한 설명입니다.

— Mustafa Arif

또한 역 공분산 행렬은 벡터 간의 부분 상관에 비례합니다.

Corr(Xi, Xj | (Xothers )

다른 모든 것이 고정되어있을 때 Xi와 Xj의 상관 관계는 시계열에 매우 유용합니다.

— quantCode
소스

이것은 사실이지만 PCA와 어떤 관련이 있습니까?

— amoeba