고유 벡터에 대한 시각적 설명이 혼동됩니다. 시각적으로 다른 데이터 세트가 동일한 고유 벡터를 가질 수있는 방법은 무엇입니까?

많은 통계 교과서는 공분산 행렬의 고유 벡터가 무엇인지에 대한 직관적 인 그림을 제공합니다.

벡터 u 및 z 는 고유 벡터를 형성한다 (웰, 고유 축). 이것은 말이됩니다. 그러나 나를 혼란스럽게하는 것은 원시 데이터가 아닌 상관 행렬 에서 고유 벡터를 추출한다는 것 입니다. 또한, 매우 다른 원시 데이터 세트는 동일한 상관 행렬을 가질 수 있습니다. 예를 들어, 다음은 상관 행렬이 모두 있습니다.

따라서 동일한 방향을 가리키는 고유 벡터가 있습니다.

그러나 고유 벡터가 원시 데이터에있는 방향에 대해 동일한 시각적 해석을 적용하면 벡터가 다른 방향을 가리키게됩니다.

누군가 내가 잘못한 곳을 말해 줄 수 있습니까?

두 번째 편집 : 내가 대담 할 수 있다면 아래의 훌륭한 답변을 통해 혼란을 이해할 수 있었고 설명했습니다.

1. 시각적 설명은 공분산 행렬 에서 추출 된 고유 벡터 가 서로 다르다는 사실과 일치합니다 .

   공분산과 고유 벡터 (빨간색) :

   $$\left[\begin{array}{} 1 & 1 \\ 1 & 1\end{array}\right] \left[\begin{array}{} .7 & -.72 \\ .72 & .7\end{array}\right]$$

   공분산과 고유 벡터 (파란색) :

   $$\left[\begin{array}{} .25 & .5 \\ .5 & 1\end{array}\right] \left[\begin{array}{} .43 & -.9 \\ .9 & .43\end{array}\right]$$

2. 상관 행렬은 표준화 된 변수의 공분산 행렬을 반영합니다. 표준화 된 변수를 육안으로 검사하면 동일한 고유 벡터가 추출되는 이유를 알 수 있습니다.

상관 매트릭스에 대해 PCA를 수행 할 필요는 없습니다. 공분산 행렬도 분해 할 수 있습니다. 이들은 일반적으로 다른 솔루션을 생성합니다. (자세한 내용은 상관 관계 또는 공분산에 대한 PCA? )를 참조하십시오.

두 번째 그림에서 상관 관계는 동일하지만 그룹이 다르게 보입니다. 공분산이 다르기 때문에 다르게 보입니다. 그러나 분산도 다릅니다 (예 : 빨간색 그룹이 X1의 넓은 범위에 따라 다름). 상관은 표준 편차 ( 나눈 공분산입니다. ). 결과적으로 상관 관계는 동일 할 수 있습니다. ${\rm Cov}_{xy} / {\rm SD}_x{\rm SD}_y$

공분산 행렬을 사용하여 이러한 그룹으로 PCA를 수행하면 상관 행렬을 사용하는 것과 다른 결과가 나타납니다.