«linear-algebra» 태그된 질문

벡터 표준의 경우 L2 표준 또는 "유클리드 거리"가 널리 사용되며 직관적 인 정의입니다. 그러나 왜 행렬에 "가장 많이 사용 된"또는 "기본"규범 정의가 스펙트럼 규범 이지만 Frobenius 규범 (벡터의 경우 L2 규범과 유사)이 아닌가? 그것은 반복 알고리즘 / 행렬 파워와 관련이 있습니까 (스펙트럼 반경이 1보다 작 으면 알고리즘이 수렴합니다)? "가장 많이 …

17 matrix  linear-algebra 

SVD 분해 A = U S V with 인 m × n 크기 의 밀도가 높은 행렬 가 있다고 가정합니다 . 에서 나는 SVD를 계산할 수 있습니다 다음과 같습니다 .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) 새로운 번째 행이 A에 추가되면 SVD를 처음부터 다시 계산하지 않고 이전 행을 기반으로 새 SVD 분해를 계산할 …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

이 질문 에서 언급했듯이 공분산 행렬의 최대 순위는 n−1n−1n-1 이며 여기서 nnn 은 표본 크기이므로 공분산 행렬의 차원이 표본 크기와 같으면 단수입니다. 공분산 행렬 의 최대 순위 n 에서 111 을 빼는 이유를 이해할 수 없습니다 .nnn

17 covariance-matrix  linear-algebra 

다음 PCA biplot을 고려하십시오. library(mvtnorm) set.seed(1) x <- rmvnorm(2000, rep(0, 6), diag(c(5, rep(1,5)))) x <- scale(x, center=T, scale=F) pc <- princomp(x) biplot(pc) 많은 빨간색 화살표가 그려져 있습니다. 무슨 의미입니까? "Var1"이라는 레이블이 붙은 첫 번째 화살표는 데이터 세트의 가장 다양한 방향을 가리켜 야한다는 것을 알고있었습니다 (만약 데이터가 2000 개의 데이터 포인트라고 …

14 r  pca  linear-algebra  biplot 

X 모양 (2, 5) 와 y 모양 (2,) 가 있다고 가정 해 봅시다. 이것은 작동합니다 : np.linalg.lstsq(X, y) X가 모양 (N, 5) 인 경우에만 이것이 작동 할 것으로 예상합니다. N> = 5 그러나 왜 그리고 어떻게? 예상대로 5 개의 가중치를 다시 얻지 만이 문제는 어떻게 해결됩니까? 우리가 2 개의 방정식과 …

14 least-squares  linear-algebra  numpy 

을 사용하여 모델 튜닝을 수행 caret했지만 gbm패키지를 사용하여 모델을 다시 실행했습니다 . caret패키지가 사용 gbm하고 출력이 동일해야한다는 것을 이해합니다 . 그러나 data(iris)RMSE와 R ^ 2를 평가 지표로 사용하면 약 5 %의 모델에서 불일치가 발생합니다. 부분 종속성 플롯을 사용 하기 위해 최적의 모델 성능을 찾고 caret싶지만 다시 실행 하고 싶습니다 gbm. …

13 r  caret  gbm  matrix  linear-algebra  logistic  modeling  logit  ordered-logit  r  confidence-interval  survival  population  weibull  classification  separation  hypothesis-testing  correlation  statistical-significance  p-value  python  r  data-visualization  r  regression  multiple-regression  chi-squared  multivariate-analysis  distributions  random-variable  experiment-design  distributions  poisson-regression  residuals  excel  time-series  garch  var  survival  modeling  cox-model  interaction  r  pca  normality-assumption 

저는 대학에서 ML을하고 있는데 교수는 기대 (E)라는 용어를 언급하면서 가우시안 프로세스에 대해 몇 가지를 설명하려고했습니다. 그러나 그가 설명한 방식에서 나는 E가 평균 μ와 같다는 것을 이해했습니다. 내가 제대로 이해 했습니까? 동일하면 두 기호가 모두 사용되는 이유를 알고 있습니까? 또한 E가 E ( ) 와 같은 함수로 사용될 수 있음을 보았지만 …

11 machine-learning  gaussian-process  linear-algebra 

스트림을 통해 하나씩 도착하는 데이터 포인트 위에 슬라이딩 창을 사용하여 증분 가우시안 프로세스 회귀를 구현하고 싶습니다. 하자 입력 공간의 차원을 나타낸다. 따라서, 모든 데이터는 지적 갖는 원소의 수.dddxixix_iddd 슬라이딩 윈도우의 크기를 이라고하자 .nnn 예측을하기 위해 그램 행렬 의 역수를 계산해야합니다 . 여기서 이고 k는 제곱 지수 커널입니다.KKKKij=k(xi,xj)Kij=k(xi,xj)K_{ij} = k(x_i, x_j) …

11 regression  covariance  gaussian-process  linear-algebra  online 

랜덤 투영 알고리즘의 현재 구현에서 그들을 매핑하여 데이터 샘플들의 차원을 감소 에 사용하여 A 투영 행렬 그 항목에서, 예를 들어 적절한 분포 (에서 IID됩니다 ) :RdRd\mathbb R^dRkRk\mathbb R^kd×kd×kd\times kRRRN(0,1)N(0,1)\mathcal N(0,1) x′=1k√xRx′=1kxRx^\prime = \frac{1}{\sqrt k}xR 편리하게도,이 매핑은 대략 쌍 거리를 유지한다는 이론적 증거가 존재합니다. 그러나 최근 저자가 무작위 행렬을 사용한이 매핑이 …

10 terminology  dimensionality-reduction  linear-algebra  random-projection 

나는 여기 에서 보통 최소 제곱에 대한이 표기법을 보았다 . minw∥Xw−y∥22minw‖Xw−y‖22 \min_w \left\| Xw - y \right\|^2_2 나는 바닥에 이중 막대와 2를 본 적이 없다. 이 기호는 무엇을 의미합니까? 그들은 그들에게 특정한 용어를 가지고 있습니까?

10 regression  least-squares  linear-model  linear-algebra  notation 

PCA가 제공하는 좌표 공간이 아니라 약간 다른 (회전) 벡터 세트에 대해 데이터 세트의 분산 백분율을 얻는 방법을 이해하고 싶습니다. set.seed(1234) xx <- rnorm(1000) yy <- xx * 0.5 + rnorm(1000, sd = 0.6) vecs <- cbind(xx, yy) plot(vecs, xlim = c(-4, 4), ylim = c(-4, 4)) vv <- eigen(cov(vecs))$vectors ee …

10 r  variance  pca  linear-algebra 

교과서에서 그들은 양의 공분산 행렬을 비교하기 위해 양의 정한도 (반 양성의 유한도)를 사용합니다. 가 pd이면 가 보다 작다 는 아이디어 입니다. 그러나 나는이 관계의 직감을 얻는 데 어려움을 겪고 있습니까?A−BA−BA-BBBBAAA 비슷한 스레드가 있습니다 : /math/239166/what-is-the-intuition-for-using-definiteness-to-compare-matrices 행렬을 비교하기 위해 유한성을 사용하는 직관은 무엇입니까? 대답은 훌륭하지만 실제로 직관을 다루지는 않습니다. 다음은 혼란스러운 …

10 covariance-matrix  matrix  intuition  linear-algebra  geometry 

수포 ㅏA\mathbf A평균 중심 데이터의 행렬입니다. 매트릭스S =cov( A )S=cov(A)\mathbf S=\text{cov}(\mathbf A) 이다 m × mm×mm\times m, 가지고있다 미디엄mm 고유 한 고유 값 및 고유 벡터 에스1s1\mathbf s_1, 에스2s2\mathbf s_2 ... 에스미디엄sm\mathbf s_m직교하는. 그만큼 나는ii-주요 구성 요소 (일부 사람들은 "점수"라고 함)는 벡터입니다. 지나는= A에스나는zi=Asi\mathbf z_i = \mathbf A\mathbf s_i. 즉, …

10 correlation  pca  linear-algebra 

이것은 여러 번 나온 예제 일뿐이므로 샘플 데이터가 없습니다. R에서 선형 회귀 모델 실행 : a.lm = lm(Y ~ x1 + x2) x1연속 변수입니다. x2범주 형이며 "낮음", "중간"및 "높음"의 세 가지 값이 있습니다. 그러나 R이 제공하는 출력은 다음과 같습니다. summary(a.lm) Estimate Std. Error t value Pr(>|t|) (Intercept) 0.521 0.20 1.446 …

10 r  regression  categorical-data  regression-coefficients  categorical-encoding  machine-learning  random-forest  anova  spss  r  self-study  bootstrap  monte-carlo  r  multiple-regression  partitioning  neural-networks  normalization  machine-learning  svm  kernel-trick  self-study  survival  cox-model  repeated-measures  survey  likert  correlation  variance  sampling  meta-analysis  anova  independence  sample  assumptions  bayesian  covariance  r  regression  time-series  mathematical-statistics  graphical-model  machine-learning  linear-model  kernel-trick  linear-algebra  self-study  moments  function  correlation  spss  probability  confidence-interval  sampling  mean  population  r  generalized-linear-model  prediction  offset  data-visualization  clustering  sas  cart  binning  sas  logistic  causality  regression  self-study  standard-error  r  distributions  r  regression  time-series  multiple-regression  python  chi-squared  independence  sample  clustering  data-mining  rapidminer  probability  stochastic-processes  clustering  binary-data  dimensionality-reduction  svd  correspondence-analysis  data-visualization  excel  c#  hypothesis-testing  econometrics  survey  rating  composite  regression  least-squares  mcmc  markov-process  kullback-leibler  convergence  predictive-models  r  regression  anova  confidence-interval  survival  cox-model  hazard  normal-distribution  autoregressive  mixed-model  r  mixed-model  sas  hypothesis-testing  mediation  interaction 

다음과 같은 수학적 관계가 있습니까? 코사인 유사성 심( A , B )sim⁡(A,B)\operatorname{sim}(A, B) 두 벡터의 ㅏAA 과 비BB, 코사인 유사성 심( MA , MB )sim⁡(MA,MB)\operatorname{sim}(MA, MB) 의 ㅏAA 과 비BB주어진 행렬을 통해 균일하지 않은 스케일링미디엄MM? 여기미디엄MM 대각선에 요소가 다른 주어진 대각선 행렬입니다. 계산을 시도했지만 간단하고 흥미로운 링크 (식)에 도달 할 …

9 linear-algebra  cosine-similarity