«bayesian» 태그된 질문

필자는 최근 Eric J. Ma의이 강연을 보고 그의 블로그 항목을 확인했습니다. Radford Neal은 Bayesian 모델이 과적 합 (하지만 과적 합할 수는 없음 )이며이를 사용할 때이를 검증하기위한 테스트 세트가 필요하지 않음 을 확인했습니다. 따옴표는 매개 변수를 조정하기 위해 유효성 검사 세트를 사용하는 것에 대해 이야기하는 것 같습니다.) 솔직히 말해서 주장이 저를 …

9 machine-learning  bayesian  cross-validation  deep-learning 

Casella와 Berger 는 ML 추정기의 불변성을 다음과 같이 말합니다. 그러나 그들은 완전히 임시적이고 무의미한 방식 으로 의 "가능성"을 정의하는 것 같습니다 .ηη\eta 간단한 사례 wheter 에 확률 이론의 기본 규칙을 적용하면 대신 다음과 같은 결과가 나타납니다. 이제 베이 즈 정리를 적용한 다음 와 는 상호 배타적이므로 합산 규칙을 ​​적용 할 …

9 self-study  bayesian  maximum-likelihood  frequentist  invariance 

아래 그림과 같이 데이터를 시뮬레이션 한 플롯을 고려하십시오. 우리는 이진 결과 를 살펴보고 , 실제 확률이 1 일 때 검은 선으로 표시됩니다. 공변량 와 사이의 기능적 관계는 로지스틱 링크가있는 3 차 다항식이므로 양방향에서는 비선형입니다.와이o b syobsy_{obs}엑스xxp (와이o b s= 1 | x )p(yobs=1|x)p(y_{obs}=1 | x) 녹색 선은 가 3 차 …

9 regression  logistic  bayesian  confidence-interval  credible-interval 

질문: p- 값에 대한 하나의 일반적인 오해 는 귀무 가설이 참일 가능성을 나타냅니다. 나는 그것이 옳지 않다는 것을 알고 있으며, 귀무 가설이 참이라는 것을 감안할 때 p- 값 은 샘플을 극도로 찾을 가능성 만 나타냅니다 . 그러나 직관적으로, 후자를 통해 첫 번째를 도출 할 수 있어야합니다. 아무도이 일을하지 않는 이유가 …

9 hypothesis-testing  bayesian  p-value  frequentist 

예 : 직업 설명에 "영국의 Java Senior Engineer"문장이 있습니다. 나는 2 개 종류로 예측하는 깊은 학습 모델을 사용하려면 : English 와 IT jobs. 기존 분류 모델을 사용하는 경우 softmax마지막 레이어에서 함수가있는 레이블 하나만 예측할 수 있습니다 . 따라서 두 모델 신경망을 사용하여 두 범주 모두에서 "예"/ "아니오"를 예측할 수 있지만 …

9 machine-learning  deep-learning  natural-language  tensorflow  sampling  distance  non-independent  application  regression  machine-learning  logistic  mixed-model  control-group  crossover  r  multivariate-analysis  ecology  procrustes-analysis  vegan  regression  hypothesis-testing  interpretation  chi-squared  bootstrap  r  bioinformatics  bayesian  exponential  beta-distribution  bernoulli-distribution  conjugate-prior  distributions  bayesian  prior  beta-distribution  covariance  naive-bayes  smoothing  laplace-smoothing  distributions  data-visualization  regression  probit  penalized  estimation  unbiased-estimator  fisher-information  unbalanced-classes  bayesian  model-selection  aic  multiple-regression  cross-validation  regression-coefficients  nonlinear-regression  standardization  naive-bayes  trend  machine-learning  clustering  unsupervised-learning  wilcoxon-mann-whitney  z-score  econometrics  generalized-moments  method-of-moments  machine-learning  conv-neural-network  image-processing  ocr  machine-learning  neural-networks  conv-neural-network  tensorflow  r  logistic  scoring-rules  probability  self-study  pdf  cdf  classification  svm  resampling  forecasting  rms  volatility-forecasting  diebold-mariano  neural-networks  prediction-interval  uncertainty 

나는 이 논문 프리 프린트를 읽고 있으며 가우시안 프로세스 회귀에 대한 방정식의 도출에 어려움을 겪고있다. 그들은 Rasmussen & Williams 의 설정 및 표기법을 사용합니다 . 따라서 가산 성, 제로 평균, 고정 및 정규 분포 노이즈σ2noiseσnoise2\sigma^2_{noise} 가정 : y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) 평균이 0 인 GP는 f(x)f(x)f(\mathbf{x}), 의미하는 것은 ∀ d∈N∀ …

9 regression  bayesian  gaussian-process 

이 백서에 따라 확률 변동 추정과 함께 가우시안 혼합 모델을 구현하려고합니다 . 이것은 가우스 혼합의 pgm입니다. 논문에 따르면, 확률 변동 추정의 전체 알고리즘은 다음과 같습니다. 그리고 나는 여전히 GMM으로 확장하는 방법이 매우 혼란 스럽습니다. 첫째, 로컬 변형 매개 변수는 이고 다른 매개 변수는 모두 전역 매개 변수 라고 생각했습니다 . …

9 machine-learning  bayesian  clustering  gaussian-mixture  variational-bayes 

베이지안 통계학자는 "베이지 통계는 빈번한 방법을 통해 추정하기 매우 어려운 매개 변수를 추정 할 수있다"고 주장합니다. 이 SAS 문서 에서 인용 한 다음 인용문도 같은 내용 입니까? 그것은 데이터에 조건 적이며 점근 적 근사에 의존하지 않고 정확한 추론을 제공합니다. 작은 샘플 추론은 큰 샘플을 가진 것과 같은 방식으로 진행됩니다. 베이지안 …

9 bayesian  inference  sas  frequentist 

Adams와 MacKay 의 Bayesian 온라인 변경점 감지 논문을 읽고 있습니다 ( 링크 ). 저자는 한계 예측 분포를 작성하여 시작합니다. P(xt+1|x1:t)=∑rtP(xt+1|rt,x(r)t)P(rt|x1:t)(1)P(xt+1|x1:t)=∑rtP(xt+1|rt,xt(r))P(rt|x1:t)(1) P(x_{t+1} | \textbf{x}_{1:t}) = \sum_{r_t} P(x_{t+1} | r_t, \textbf{x}_t^{(r)}) P(r_t | \textbf{x}_{1:t}) \qquad \qquad (1) 어디 xtxtx_t 시간의 관찰이다 ttt; x1:tx1:t\textbf{x}_{1:t} 시간까지의 관측 세트를 나타냅니다 ttt; rt∈Nrt∈Nr_t \in \mathbb{N}현재 실행 …

9 time-series  bayesian  inference  change-point 

폐쇄되었습니다 . 이 질문에는 세부 사항이나 명확성 이 필요 합니다 . 현재 답변을받지 않습니다. 이 질문을 개선하고 싶습니까? 이 게시물 을 편집 하여 세부 사항을 추가하고 문제점을 명확하게하십시오 . 휴일 삼년 전에 . 내가 읽고에 대한 답변에서 한에서 다른 질문에 내가 여기에 질문 한 많은 소위 빈도주의 방법은 해당 수학적으로 …

9 bayesian  frequentist  philosophical 

현재 Dirichlet 프로세스 랜덤 효과 모델을보고 있는데 모델 사양은 다음과 같습니다. 여기서 는 스케일 매개 변수입니다. 및 베이스 척도이다. 이 백서에서 나중에 과 같은 기본 측정 값 함수를 통합하는 것이 좋습니다.Dirichlet 프로세스의 기본 측정 값은 cdf입니까, 아니면 PDF입니까? 기본 측정 값이 가우스 인 경우 어떻게됩니까?와이나는ψ나는지=엑스나는β+ψ나는+ϵ나는∼ G~ D P( α ,지0)yi=Xiβ+ψi+ϵiψi∼GG∼DP(α,G0) …

9 bayesian  dirichlet-distribution  dirichlet-process  nonparametric-bayes  measure-theory 

사전에 주어진 여기서 와 함께 차 손실 를 고려하십시오 . 하자 가능성. Bayes 추정기 찾으십시오 .L(θ,δ)=(θ−δ)2L(θ,δ)=(θ−δ)2L(\theta,\delta)=(\theta-\delta)^2π(θ)π(θ)\pi(\theta)π(θ)∼U(0,1/2)π(θ)∼U(0,1/2)\pi(\theta)\sim U(0,1/2)f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0δπδπ\delta^\pi 가중 2 차 손실 여기서 와 종래 . 하자 이 될 가능성이있다. Bayes 추정량 찾으십시오 .Lw(θ,δ)=w(θ)(θ−δ)2Lw(θ,δ)=w(θ)(θ−δ)2L_w(\theta,\delta)=w(\theta)(\theta-\delta)^2w(θ)=I(−∞,1/2)w(θ)=I(−∞,1/2)w(\theta)=\mathbb{I}_{(-\infty,1/2)}π1(θ)=I[0,1](θ)π1(θ)=I[0,1](θ)\pi_1(\theta)=\mathbb{I}_{[0,1]}(\theta)f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0δπ1δ1π\delta^\pi_1 비교 와δπδπ\delta^\piδπ1δ1π\delta^\pi_1 먼저 이라는 것을 알았으며 그럴 가능성이 있다고 가정했습니다. 그렇지 않으면 사후가 …

9 self-study  bayesian  estimation  hierarchical-bayesian  loss-functions 

이 문제는 결합 복사 전송-확산 모델을 이용한 확산 광 단층 촬영의 이미지 재구성이라는 제목의 논문을 기반으로합니다. 다운로드 링크 저자 는 이미지의 픽셀을 추정하기 위해 알 수없는 벡터 의 희소성 정규화 와 함께 EM 알고리즘을 적용 합니다. 모델은엘1엘1l_1μμ\mu 와이= A μ + e(1)(1)와이=ㅏμ+이자형y=A\mu + e \tag{1} 추정치는 식 (8)에 μ^= 인수m …

9 self-study  bayesian  maximum-likelihood  expectation-maximization  moving-average 

베이지안 통계 분석 및 의사 결정에서 사전 정보의 개념을 잘 이해하고 있다고 생각하지만 종종 응용 프로그램을 둘러싼 머리를 감쌀 수 없습니다. 나는 나의 투쟁을 예시하는 몇 가지 상황을 염두에 두었고, 지금까지 읽은 베이지안 통계 교과서에서 제대로 해결되지 않았다고 생각합니다. 몇 년 전에 68 %의 사람들이 ACME 제품 구매에 관심이 있다고 …

9 bayesian  prior  rule-of-thumb  elicitation 

문제 알려지지 않은 수의면으로 죽는 것과 비슷한 시스템에 대해 추론하고 싶습니다. 다이를 여러 번 굴린 후 다이의 변 수 θ에 해당하는 매개 변수에 대한 확률 분포를 추론하고 싶습니다. 직관 40 개의 롤 후에 10 개의 빨간색, 10 개의 파란색, 10 개의 녹색 및 10 개의 노란색이 관찰 된 경우 θ가 …

9 r  probability  bayesian  jags