«numerics» 태그된 질문

나는 보통 "보통 최소 제곱"에 대해 듣습니다. 이것이 선형 회귀에 가장 널리 사용되는 알고리즘입니까? 다른 것을 사용해야 할 이유가 있습니까?

42 regression  least-squares  algorithms  computational-statistics  numerics 

Andrew Ng의 Coursera 코스 및 기타 자료에서 PCA를 공부하고 있습니다. 스탠포드 NLP 과정에서 cs224n의 첫 번째 과제 와 Andrew Ng 의 강의 비디오에서 공분산 행렬의 고유 벡터 분해 대신 특이 값 분해를 수행하며 Ng는 SVD가 고유 분해보다 수치 적으로 더 안정적이라고 말합니다. PCA의 경우 (m,n)크기의 공분산 행렬이 아닌 크기 의 …

29 pca  linear-algebra  svd  eigenvalues  numerics 

데이터가 매우 희소 한 매우 큰 양의 행렬 (65M x 3.4M)의 단일 값 분해 (SVD)를 계산하는 가장 좋은 방법은 무엇입니까? 행렬의 0.1 % 미만이 0이 아닙니다. 나는 그 방법이 필요하다 : 메모리에 들어갈 것입니다 (온라인 방법이 있다는 것을 알고 있습니다) 적당한 시간에 계산됩니다 : 3,4 일 정확도는 충분하지만 정확성은 저의 …

26 svd  numerics 

임의 데이터의 SVD 결과에서 매우 이상한 동작을 관찰했습니다. Matlab과 R 모두에서 재현 할 수 있습니다. LAPACK 라이브러리의 수치 문제처럼 보입니다. 그렇습니까? 제로 평균과 항등 공분산을 갖는 차원 가우스 에서 샘플을 그 립니다 : . 데이터 매트릭스 조립합니다 . (선택적으로 중심 에 둘 수 있으며, 다음에 영향을 미치지 않습니다.) 그런 다음 …

21 pca  svd  linear-algebra  numerics 

나는 최근 매트릭스 분해에 관한 Skillicorn의 책을 읽었으며 학부 청중을 대상으로하기 때문에 약간 실망했습니다. 나는 매트릭스 분해에 관한 필수 논문 (설문 조사뿐만 아니라 획기적인 논문)의 짧은 참고 문헌을 (나 자신과 다른 사람들을 위해) 편집하고 싶다. 내가 염두에두고 주로 SVD / PCA (및 견고 / 희소 변형) 및 NNMF에 관한 것이 …

18 matrix-decomposition  svd  numerics 

SVD 분해 A = U S V with 인 m × n 크기 의 밀도가 높은 행렬 가 있다고 가정합니다 . 에서 나는 SVD를 계산할 수 있습니다 다음과 같습니다 .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) 새로운 번째 행이 A에 추가되면 SVD를 처음부터 다시 계산하지 않고 이전 행을 기반으로 새 SVD 분해를 계산할 …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

주요 구성 요소 분석 에 관한 Wikipedia 기사에 따르면 행렬 X T X 를 형성하지 않고 의 SVD를 계산하기위한 효율적인 알고리즘이 존재하므로 SVD를 계산하는 것은 이제 소수의 구성 요소 만 필요하지 않는 한 데이터 매트릭스에서 주요 구성 요소 분석을 계산하는 표준 방법입니다.XXXXTXXTXX^TX 기사에서 말하는 효율적인 알고리즘이 무엇인지 말해 줄 수 …

17 pca  algorithms  svd  numerics 

아마도 여기서는 주제에서 벗어 났지만 이미 몇 가지 ( 1 , 2 ) 관련 질문이 있습니다. 문헌 (또는 잘린 SVD 알고리즘에 대한 구글 검색)에서 주변에 파고 것은 논문이 많이 변합니다 사용 다양한 방법으로 잘립니다 SVDs, 그리고 주장 거기를 계산하는 빠른 알고리즘이 있지만, 아무도 그 (자주 인용하지 않고, 절망적를) 그 알고리즘이 …

14 algorithms  svd  numerics 

TL은, DR은 : lme4최적화 기본적 모델 파라미터의 수에 선형으로 나타날 것이다 방법 등가보다 느리게 glm그룹 더미 변수 모델. 속도를 높이기 위해 할 수있는 일이 있습니까? 상당히 큰 계층 적 로짓 모델 (~ 50k 행, 100 열, 50 그룹)을 맞추려고합니다. 일반 로짓 모델을 데이터에 그룹화하면 (그룹에 더미 변수가 있음) 제대로 작동하지만 …

12 r  mixed-model  optimization  lme4-nlme  numerics 

두 샘플에 대해 Kullback-Leibler Divergence의 수치 추정을 구현하려고했습니다. 구현을 디버그하려면 두 정규 분포 엔( 0 , 1 )엔(0,1)\mathcal N (0,1) 및 에서 샘플을 가져옵니다 .엔( 1 , 2 )엔(1,2)\mathcal N (1,2) 간단한 추정을 위해 두 개의 히스토그램을 생성하고 수치 적으로 근사치를 근사하려고했습니다. 히스토그램 중 하나의 빈이 0 인 히스토그램의 해당 …

10 estimation  intuition  kullback-leibler  numerics 

'r'의 그래프 클러스터링을 사용하여 그래프에서 노드를 그룹화 / 병합하려고합니다. 여기 내 문제의 놀랍도록 장난감 변형이 있습니다. 두 개의 "클러스터"가 있습니다 클러스터를 연결하는 "브리지"가 있습니다 후보 네트워크는 다음과 같습니다. 연결 거리 "hopcount"를 보면 다음 행렬을 얻을 수 있습니다. mymatrix <- rbind( c(1,1,2,3,3,3,2,1,1,1), c(1,1,1,2,2,2,1,1,1,1), c(2,1,1,1,1,1,1,1,2,2), c(3,2,1,1,1,1,1,2,3,3), c(3,2,1,1,1,1,1,2,3,3), c(3,2,1,1,1,1,1,2,2,2), c(2,1,1,1,1,1,1,1,2,2), c(1,1,1,2,2,2,1,1,1,1), c(1,1,2,3,3,2,2,1,1,1), c(1,1,2,3,3,2,2,1,1,1)) …

10 r  clustering  data-visualization  numerics