«mcmc» 태그된 질문

해밀턴 역학은 경우에 따라 메트로폴리스 알고리즘에서 랜덤 워크보다 항상 뛰어납니다. 누군가 너무 많은 수학없이 간단한 단어로 이유를 설명 할 수 있습니까?

10 mcmc 

는 상수로 알려진 다음과 같은 불연속 분포 가 있습니다.α , βα,β\alpha,\beta p ( x ; α , β) =베타 ( α + 1 , β+ x )베타 ( α , β)위한 X = 0 , 1 , 2 , ...p(x;α,β)=Beta(α+1,β+x)Beta(α,β)for x=0,1,2,… p(x;\alpha,\beta) = \frac{\text{Beta}(\alpha+1, \beta+x)}{\text{Beta}(\alpha,\beta)} \;\;\;\;\text{for } x = 0,1,2,\dots …

10 sampling  mcmc  computational-statistics  importance-sampling  rejection-sampling 

Markov Chain Monte Carlo는 Markov 체인을 기반으로하는 방법으로, 샘플을 직접 그릴 수없는 비표준 분포에서 샘플 (Monte Carlo 설정)을 얻을 수 있습니다. 제 질문은 Markov 체인이 Monte Carlo 샘플링에서 "최첨단"인 이유입니다. 다른 질문은 Monte Carlo 샘플링에 사용할 수있는 Markov 체인과 같은 다른 방법이 있습니까? 나는 MCMC가 (a)주기 (periodicity), 동질성 (homogeneity) 및 …

10 sampling  mcmc  monte-carlo  markov-chain  stochastic-approximation 

모수 분포에 대한 아이디어가 없으면 어떻게됩니까? 어떤 접근법을 사용해야합니까? 대부분의 경우 특정 변수가 특정 종의 존재 유무에 영향을 미치고 변수의 중요성에 따라 변수가 허용되는지 여부를 미달하려고합니다. 이것은 대부분의 경우 매개 변수가 가지고 있어야하는 배포에 대해 생각하지 않는다는 것을 의미합니다. b1, b2, b3 및 b4가 -2와 2 사이에서 변해야하고 b0이 -5와 …

10 r  bayesian  mcmc  bugs  winbugs 

이것은 여러 번 나온 예제 일뿐이므로 샘플 데이터가 없습니다. R에서 선형 회귀 모델 실행 : a.lm = lm(Y ~ x1 + x2) x1연속 변수입니다. x2범주 형이며 "낮음", "중간"및 "높음"의 세 가지 값이 있습니다. 그러나 R이 제공하는 출력은 다음과 같습니다. summary(a.lm) Estimate Std. Error t value Pr(>|t|) (Intercept) 0.521 0.20 1.446 …

10 r  regression  categorical-data  regression-coefficients  categorical-encoding  machine-learning  random-forest  anova  spss  r  self-study  bootstrap  monte-carlo  r  multiple-regression  partitioning  neural-networks  normalization  machine-learning  svm  kernel-trick  self-study  survival  cox-model  repeated-measures  survey  likert  correlation  variance  sampling  meta-analysis  anova  independence  sample  assumptions  bayesian  covariance  r  regression  time-series  mathematical-statistics  graphical-model  machine-learning  linear-model  kernel-trick  linear-algebra  self-study  moments  function  correlation  spss  probability  confidence-interval  sampling  mean  population  r  generalized-linear-model  prediction  offset  data-visualization  clustering  sas  cart  binning  sas  logistic  causality  regression  self-study  standard-error  r  distributions  r  regression  time-series  multiple-regression  python  chi-squared  independence  sample  clustering  data-mining  rapidminer  probability  stochastic-processes  clustering  binary-data  dimensionality-reduction  svd  correspondence-analysis  data-visualization  excel  c#  hypothesis-testing  econometrics  survey  rating  composite  regression  least-squares  mcmc  markov-process  kullback-leibler  convergence  predictive-models  r  regression  anova  confidence-interval  survival  cox-model  hazard  normal-distribution  autoregressive  mixed-model  r  mixed-model  sas  hypothesis-testing  mediation  interaction 

질문 : 10 차원 MCMC 체인을 사용하여 10 개의 매개 변수 (열)에 의한 100,000 회 반복 (행), 사후 모드를 가장 잘 식별 할 수있는 방법은 무엇입니까? 특히 다중 모드에 관심이 있습니다. 배경:나는 계산에 정통한 통계학 자라고 생각하지만, 동료가이 질문을했을 때, 나는 합리적인 대답을 얻을 수 없다는 것이 부끄러웠다. 주요 관심사는 …

10 r  bayesian  mcmc  k-nearest-neighbour  mode 

HMC (Hamiltonian Monte Carlo)의 내부 작업을 이해하려고하지만 결정 론적 시간 통합을 Metropolis-Hasting 제안으로 대체 할 때 그 부분을 완전히 이해할 수 없습니다. Michael Betancourt의 Hamiltonian Monte Carlo 에 대한 훌륭한 입문 논문을 읽고 있으므로 여기에 사용 된 것과 동일한 표기법을 따릅니다. 배경 Markov Chain Monte Carlo (MCMC)의 일반적인 목표는 분포를 …

9 mcmc  monte-carlo  hmc 

현재 R의 JAGS를 사용하는 계층 적 베이지안 모델을 배우고 있으며 Python을 사용하는 pymc ( "Bayesian Methods for Hackers" ) 도 배우고 있습니다. 이 포스트 에서 직관을 얻을 수 있습니다 . "알고 싶은 복잡한 분포에서 독립 표본을 채취 한 것처럼"있는 것처럼 "보이는 숫자 더미로 끝납니다. 조건부 확률을 제공 한 다음 조건부 …

9 bayesian  mcmc  expectation-maximization 

저는 현재 해커 "책"에 대한 확률 적 프로그래밍과 베이지안 방법을 읽고 있습니다. 몇 장을 읽었으며 pymc를 사용한 첫 번째 예제가 문자 메시지의 스위치 포인트를 감지하는 첫 번째 장에서 생각하고있었습니다. 이 예에서 전환점이 발생하는시기를 나타내는 임의 변수는 로 표시됩니다 . MCMC 단계 후 의 사후 분포 가 제공됩니다.ττ\tauττ\tau 우선이 그래프에서 배울 …

9 probability  mcmc  pymc  change-point 

내가 건너 온 이 문서 는 깁스가 모든 샘플을 샘플링으로 인정되는 것을 말한다. 약간 혼란 스러워요. 수용된 모든 표본이 고정 분포로 수렴하면 어떻게됩니까? 일반적으로 Metropolis Algorithm은 min (1, p (x *) / p (x))로 받아들입니다. 여기서 x *는 샘플 포인트입니다. x *는 밀도가 높은 위치를 가리 키므로 목표 분포로 이동한다고 …

9 mcmc  gibbs  metropolis-hastings 

MCMC를 사용하여 특히 서로 멀리 떨어진 많은 모드를 가진 후부에서 샘플링하려고합니다. 대부분의 경우 이러한 모드 중 하나에 만 내가 찾고있는 95 % hpd가 포함되어 있습니다. 강화 시뮬레이션을 기반으로 솔루션을 구현하려고 시도했지만 실제로는 "캡처 범위"에서 다른 "캡처 범위"로 전환하는 데 비용이 많이 들기 때문에 만족스러운 결과를 제공하지 못합니다. 결과적으로,보다 효율적인 솔루션은 …

9 sampling  mcmc  inference  convergence 

나는 최대 엔트로피 마르코프 모델 (MEMM)의 개념에 흥미가 있으며, 그것을 품사 (POS) 태거에 사용할 생각입니다. 현재는 기존의 최대 엔트로피 (ME) 분류기를 사용하여 각 개별 단어에 태그를 지정하고 있습니다. 이것은 앞의 두 태그를 포함하여 많은 기능을 사용합니다. MEMM은 Viterbi 알고리즘을 사용하여 Markov Chain을 통한 최적의 경로를 찾습니다 (즉, 각 단어에 대한 …

9 machine-learning  mcmc  maximum-entropy  memm 

균일 한 후보 분포로 Metropolis-Hastings 알고리즘을 실행할 때 수용 률이 약 20 %라는 근거는 무엇입니까? 내 생각은 : 일단 참 (또는 참에 가깝다) 매개 변수 값이 발견되면 동일한 균일 간격의 새로운 후보 매개 변수 값 집합이 우도 함수의 값을 증가시키지 않을 것입니다. 따라서 반복을 많이할수록 허용 률이 낮아집니다. 이 생각에서 …

9 bayesian  estimation  sampling  mcmc 

그래서, 나는 16 개의 시험을 가지고 있는데, 여기에서 Hamming Distance를 사용하여 생체 특성으로부터 사람을 인증하려고합니다. 임계 값이 3.5로 설정되었습니다. 내 데이터는 다음과 같으며 1 번 시험 만 참 긍정입니다. Trial Hamming Distance 1 0.34 2 0.37 3 0.34 4 0.29 5 0.55 6 0.47 7 0.47 8 0.32 9 0.39 …

9 mathematical-statistics  roc  classification  cross-validation  pac-learning  r  anova  survival  hazard  machine-learning  data-mining  hypothesis-testing  regression  random-variable  non-independent  normal-distribution  approximation  central-limit-theorem  interpolation  splines  distributions  kernel-smoothing  r  data-visualization  ggplot2  distributions  binomial  random-variable  poisson-distribution  simulation  kalman-filter  regression  lasso  regularization  lme4-nlme  model-selection  aic  r  mcmc  dlm  particle-filter  r  panel-data  multilevel-analysis  model-selection  entropy  graphical-model  r  distributions  quantiles  qq-plot  svm  matlab  regression  lasso  regularization  entropy  inference  r  distributions  dataset  algorithms  matrix-decomposition  regression  modeling  interaction  regularization  expected-value  exponential  gamma-distribution  mcmc  gibbs  probability  self-study  normality-assumption  naive-bayes  bayes-optimal-classifier  standard-deviation  classification  optimization  control-chart  engineering-statistics  regression  lasso  regularization  regression  references  lasso  regularization  elastic-net  r  distributions  aggregation  clustering  algorithms  regression  correlation  modeling  distributions  time-series  standard-deviation  goodness-of-fit  hypothesis-testing  statistical-significance  sample  binary-data  estimation  random-variable  interpolation  distributions  probability  chi-squared  predictor  outliers  regression  modeling  interaction 

문제 : 큰 데이터 세트보다 약간 뒤떨어지기 위해 Gibbs 샘플링을 수행하려고합니다. 불행히도 내 모델은 매우 간단하지 않으므로 샘플링 속도가 너무 느립니다. 나는 변형 또는 병렬 접근법을 고려할 것이지만, 그 전에는 ... 질문 : 모든 Gibbs 반복에서 데이터 세트에서 무작위로 (대체로) 샘플링 할 수 있는지 알고 싶습니다. 모든 단계에서 배울 수있는 …

8 sampling  bootstrap  mcmc  large-data  gibbs