통계 및 빅 데이터 svd

3

문서 클러스터링에 사용되는 다양한 기술을 조사하고 있으며 PCA (주요 구성 요소 분석) 및 LSA (잠재적 의미 분석)와 관련된 몇 가지 의문을 해결하고 싶습니다. 첫 번째-차이점은 무엇입니까? PCA에서 SVD 분해는 항 공분산 행렬에 적용되는 반면 LSA에서는 항 문서 행렬입니다. 다른 것이 있습니까? 둘째-문서 클러스터링 절차에서 그들의 역할은 무엇입니까? 지금까지 읽은 내용을 …

25 clustering pca data-mining svd lsa

2

데이터의 SVD를 통해 PCA가 필요한 이유는 무엇입니까?

이 질문은 주요 구성 요소를 계산하는 효율적인 방법에 관한 것입니다. linear PCA의 많은 텍스트는 대소 문자 데이터 의 단일 값 분해를 사용하여 옹호 합니다 . 우리는 데이터가있는 경우 즉, 하고, 변수 (그 교체 할 열을 주요 구성 요소), 우리가 할 SVD : (제곱. 고유치의 뿌리), 특이 값의 주요 대각선을 점유은 …

22 pca algorithms svd matrix-decomposition

3

SVD를 공동 필터링 문제에 적용하면 어떻게됩니까? 둘의 차이점은 무엇입니까?

협업 필터링에는 값이 채워지지 않은 값이 있습니다. 사용자가 영화를 보지 않았다고 가정하면 'na'를 넣어야합니다. 이 행렬의 SVD를 가져 오려면 0을 말합니다. 이제 행렬을 분해하면 비슷한 사용자를 찾는 방법이 있습니다. 감소 된 차원 공간). 그러나 사용자가 항목에 대해 예상하는 기본 설정 자체는 0입니다. (알 수없는 열에 입력 한 것이기 때문에). 그래서 …

21 machine-learning svd recommender-system

3

차원이 샘플 수보다 큰 경우 PCA

나는 분류기에 전달 해야하는 14000 데이터 포인트 (치수)를 포함하는 10 명 (100 샘플)에 대해 10 개의 신호 / 사람이있는 시나리오를 보았습니다. 이 데이터의 차원을 줄이고 싶습니다. PCA가 그렇게하는 것 같습니다. 그러나 샘플 수가 차원 수보다 큰 PCA의 예만 찾을 수있었습니다. SVD를 사용하여 PC를 찾는 PCA 응용 프로그램을 사용하고 있습니다. 100x14000 …

21 pca dimensionality-reduction svd

3

랜덤 데이터의 SVD 결과에서 이상한 상관 관계; 수학적 설명이 있거나 LAPACK 버그입니까?

임의 데이터의 SVD 결과에서 매우 이상한 동작을 관찰했습니다. Matlab과 R 모두에서 재현 할 수 있습니다. LAPACK 라이브러리의 수치 문제처럼 보입니다. 그렇습니까? 제로 평균과 항등 공분산을 갖는 차원 가우스 에서 샘플을 그 립니다 : . 데이터 매트릭스 조립합니다 . (선택적으로 중심 에 둘 수 있으며, 다음에 영향을 미치지 않습니다.) 그런 다음 …

21 pca svd linear-algebra numerics

1

"스펙트럼 분해"를 통한 릿지 회귀를 사용한 수축 계수 증명

릿지 회귀가 어떻게 계수를 기하학적으로 0으로 축소하는지 이해했습니다. 또한 특수한 "정상적인 경우"에서이를 증명하는 방법을 알고 있지만 "스펙트럼 분해"를 통해 일반적인 경우에 어떻게 작동하는지 혼동됩니다.

20 regression multiple-regression regularization ridge-regression svd

2

PCA에 비해 SVD의 장점이 있습니까?

나는 PCA와 SVD를 수학적으로 계산하는 방법을 알고 있으며, 둘 다 선형 최소 제곱 법 회귀에 적용 할 수 있다는 것을 알고 있습니다. SVD의 주요 장점은 수학적으로 비 제곱 행렬에 적용될 수 있다는 것입니다. 둘 다 행렬 의 분해에 중점을 둡니다 . 언급 된 SVD의 이점 외에, PCA를 통해 SVD를 사용하여 …

20 pca least-squares svd

6

비 가우시안 데이터의 PCA

PCA에 대한 몇 가지 빠른 질문이 있습니다. PCA 는 데이터 세트가 가우스 인 것으로 가정 합니까 ? 본질적으로 비선형 데이터에 PCA를 적용하면 어떻게됩니까? 데이터 세트가 주어지면 프로세스는 먼저 평균 정규화, 분산을 1로 설정하고 SVD를 취하고 순위를 줄이고 마지막으로 데이터 세트를 새로운 감소 된 순위 공간에 매핑합니다. 새로운 공간에서 각 차원은 …

20 pca svd

1

PCA 바이 플롯에서 화살표 배치

JavaScript에서 주성분 분석 (PCA)을위한 이중 플롯을 구현하려고합니다. 내 질문은 데이터 행렬의 단일 벡터 분해 (SVD)의 출력 에서 화살표의 좌표를 어떻게 결정 합니까?U,V,DU,V,DU,V,D 다음은 R이 생산 한 Biplot의 예입니다. biplot(prcomp(iris[,1:4])) Biplot 의 Wikipedia 기사에서 찾아 보았지만별로 유용하지는 않습니다. 또는 맞습니다. 확실하지 않습니다.

18 pca svd biplot

5

매트릭스 분해에 관한 필수 논문

나는 최근 매트릭스 분해에 관한 Skillicorn의 책을 읽었으며 학부 청중을 대상으로하기 때문에 약간 실망했습니다. 나는 매트릭스 분해에 관한 필수 논문 (설문 조사뿐만 아니라 획기적인 논문)의 짧은 참고 문헌을 (나 자신과 다른 사람들을 위해) 편집하고 싶다. 내가 염두에두고 주로 SVD / PCA (및 견고 / 희소 변형) 및 NNMF에 관한 것이 …

18 matrix-decomposition svd numerics

1

표준 PCA에 비해 커널 PCA의 장점은 무엇입니까?

커널 SVD를 사용하여 데이터 매트릭스를 분해하는 종이에 알고리즘을 구현하고 싶습니다. 그래서 커널 방법과 커널 PCA 등에 관한 자료를 읽었습니다. 그러나 수학적 세부 사항에 관해서는 특히 나에게 매우 모호하며 몇 가지 질문이 있습니다. 왜 커널 메소드인가? 아니면 커널 메소드의 장점은 무엇입니까? 직관적 인 목적은 무엇입니까? 실제 문제에서 훨씬 높은 차원 공간이 …

18 pca svd kernel-trick

1

행렬에 새 행을 하나 추가 한 후 SVD 분해 업데이트

SVD 분해 A = U S V with 인 m × n 크기 의 밀도가 높은 행렬 가 있다고 가정합니다 . 에서 나는 SVD를 계산할 수 있습니다 다음과 같습니다 .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) 새로운 번째 행이 A에 추가되면 SVD를 처음부터 다시 계산하지 않고 이전 행을 기반으로 새 SVD 분해를 계산할 …

17 algorithms svd linear-algebra matrix-decomposition numerics

1

단일 값 분해 (SVD)를 계산하는 효율적인 알고리즘은 무엇입니까?

주요 구성 요소 분석 에 관한 Wikipedia 기사에 따르면 행렬 X T X 를 형성하지 않고 의 SVD를 계산하기위한 효율적인 알고리즘이 존재하므로 SVD를 계산하는 것은 이제 소수의 구성 요소 만 필요하지 않는 한 데이터 매트릭스에서 주요 구성 요소 분석을 계산하는 표준 방법입니다.XXXXTXXTXX^TX 기사에서 말하는 효율적인 알고리즘이 무엇인지 말해 줄 수 …

17 pca algorithms svd numerics

4

SVD / PCA에 대한“정규화”변수

우리가 가정 측정 변수 (A_1, A_2, \ ldots 단락, a_N을) , 우리는 수 할 M> N , 측정을 한 후 수행 할 특이 값 분해를 에 대한 가장 높은 분산의 축을 찾을 수있는 결과에 M의 포인트 의 N 차원 공간. ( 참고 : a_i 의 평균을 이미 뺀 것으로 가정 …

17 pca data-transformation normalization dimensionality-reduction svd

1

다변량 가우스 데이터의 PCA 구성 요소가 통계적으로 독립적입니까?

데이터가 다변량 정규 분포 인 경우 PCA 구성 요소 (주요 구성 요소 분석)가 통계적으로 독립적입니까? 그렇다면 어떻게 이것을 증명 / 증명할 수 있습니까? 이 게시물을 보았으므로 질문에 답변합니다. PCA는 명시 적 가우스 성 가정을하지 않습니다. 데이터에 설명 된 분산을 최대화하는 고유 벡터를 찾습니다. 주성분의 직교성은 가능한 가장 많은 데이터 변동을 …

16 pca independence svd

«svd» 태그된 질문