“비선형 차원 축소”에서와 같이“비선형”을 이해하는 방법은 무엇입니까?

24

선형 차원 축소 방법 (예 : PCA)과 비선형 방법 (예 : Isomap)의 차이점을 이해하려고합니다.

나는이 맥락에서 비선형 성이 무엇을 의미하는지 이해할 수 없다. 나는 읽기 위키 백과 그

이에 비해 PCA (선형 차원 축소 알고리즘)를 사용하여 동일한 데이터 집합을 2 차원으로 줄이면 결과 값이 제대로 구성되지 않습니다. 이것은이 매니 폴드를 샘플링하는 고차원 벡터 (각각 문자 'A'를 나타냄)가 비선형 적으로 변한다는 것을 증명한다.

무엇을 하는가

이 매니 폴드를 샘플링하는 고차원 벡터 (각각 문자 'A'를 나타냄)는 비선형 방식으로 다양합니다.

평균? 또는 더 광범위하게,이 맥락에서 (비) 선형성을 어떻게 이해합니까?

— Sibbs 도박
소스

20

차원 축소는 각 다차원 벡터를 저 차원 벡터에 매핑하는 것을 의미합니다. 즉, 각 다차원 벡터를 저 차원 벡터로 나타냅니다 (대체).

선형 차원 감소는 저 차원 벡터의 성분이 대응하는 고차원 벡터의 성분의 선형 함수에 의해 제공됨을 의미한다. 예를 들어 2 차원으로 축소 할 경우

[x1, x2, ..., xn] ->  [f1(x1, x2, ..., xn), f2(x1, x2, ..., xn)]

경우 f1와 f2있습니다 (비) 함수 선형, 우리는 (비) 선형 차원 감소 있습니다.

— 로마 인
소스

3

f (a \cdot x + b) = a \cdot f (x) + b

$f(a\cdot x + b) = a\cdot f(x) + b$

w_{1} x_{1} + \dots + w_{n} x_{n}

$w_1x_1 + \dots + w_nx_n$

1

f_{i} = f_{i} (x_{1}, \dots, x_{n}) = c^{(i)} + ω_{1}^{(i)} x_{1} + \dots ω_{n}^{(i)} x_{n}

$f_i = f_i (x_1, \dots, x_n) = c^{(i)} + \omega^{(i)}_1 x_1 + \dots \omega^{(i)}_n x_n$

f_{i}

$f_i$

x_{i}

$x_i$ 저 차원 및 고차원 벡터의 구성 요소이며 각각 의미가 아닙니다. 문제는 선형 함수가 무엇인지 이해하는 것이 아니라 선형성이 나타나는 위치에 있다고 생각했습니다.

— 로마

49

그림은 천 단어의 가치가 있습니다.

PCA와 아이소 맵

여기서 우리는 2D에서 1 차원 구조를 찾고 있습니다. 점은 S 자 곡선을 따라 놓여 있습니다. PCA 는 단순히 선형 인 1 차원 선형 매니 폴드로 데이터를 설명하려고합니다 . 물론 한 줄은 이러한 데이터에 매우 적합합니다. 아이소 맵은 비선형 (즉, 곡선 형) 1 차원 매니 폴드를 찾고 있으며 기본 S 자형 커브를 발견 할 수 있어야합니다.

— 아메바의 말에 따르면 복원 모니카
소스