«prior» 태그된 질문

나는 정규화에 관한 문헌을 살펴 보았고 L2 규제를 가우시안과 연결하고 L1을 0으로 중심으로 한 L1을 연결하는 단락을 종종 볼 수 있습니다. 나는 이러한 이전의 모습을 알고 있지만 선형 모델의 가중치와 같이 어떻게 해석되는지 이해하지 못합니다. L1에서, 내가 올바르게 이해한다면, 우리는 희소 한 솔루션, 즉 일부 가중치가 정확히 0으로 푸시 될 …

22 regression  bayesian  prior  regularization  laplace-distribution 

적절한 사전 배포의 경우 피( θ ∣ X) = P( X∣ θ ) P( θ )피( X)P(θ∣X)=P(X∣θ)P(θ)P(X)P(\theta \mid X) = \dfrac{P(X \mid \theta)P(\theta)}{P(X)} ∝ P( X∣ θ ) P( θ )∝P(X∣θ)P(θ) \propto P(X \mid \theta)P(\theta) . 이 단계에 대한 일반적인 정당성의 여백 분포이다 , ,에 대해 상수 인 사후 분포를 …

22 distributions  bayesian  prior  posterior 

이전과 가능성이 서로 매우 다른 경우, 때때로 후부가 그들과 유사하지 않은 상황이 발생합니다. 정규 분포를 사용하는이 그림을 참조하십시오. 이것은 수학적으로 정확하지만 내 직감과 일치하지 않는 것 같습니다. 데이터가 내 견실 한 신념이나 데이터와 일치하지 않으면 범위가 잘 맞지 않을 것으로 예상되며 평소보다 뒤 떨어질 것으로 기대합니다 이전과 가능성에 대한 전체 …

21 bayesian  prior  posterior  likelihood 

스케일이 무엇인지에 대한 대략적인 아이디어가있을 때 스케일 모수 (정규 분포, t 분포 등)에 대한 사전 분포로 로그 정규 분포를 사용하고 있지만 알지 못한다는 측면에서 잘못하고 싶습니다. 그것에 대해 많이. 나는 그 사용이 나에게 직관적으로 의미가 있기 때문에 그것을 사용하지만 다른 사람들이 그것을 사용하는 것을 보지 못했습니다. 이것에 숨겨진 위험이 있습니까?

21 distributions  bayesian  modeling  prior  maximum-entropy 

누군가 LDA 하이퍼 파라미터에 대한 자연 해석이 무엇인지 설명 할 수 있습니까? ALPHA그리고 BETA(문서 당) 주제 및 (주제 당) 단어 분포에 대한 디리클레 분포의 매개 변수입니다. 그러나 누군가이 하이퍼 매개 변수의 값을 더 작게 선택하는 것이 무엇을 의미하는지 설명 할 수 있습니까? 그것은 문서의 주제 희소성 및 주제의 상호 배타성에 …

21 interpretation  prior  topic-models  hyperparameter 

배경 분산에서 가장 일반적으로 사용되는 약점 중 하나는 매개 변수가 역 감마입니다 (Gelman 2006) .α = 0.001 , β= 0.001α=0.001,β=0.001\alpha =0.001, \beta=0.001 그러나이 분포의 90 % CI는 약 입니다.[ 3 × 1019, ∞ ][삼×1019,∞][3\times10^{19},\infty] library(pscl) sapply(c(0.05, 0.95), function(x) qigamma(x, 0.001, 0.001)) [1] 3.362941e+19 Inf 이로부터 는 분산이 매우 높을 확률이 …

21 bayesian  multilevel-analysis  prior 

나는 Jaynes가 잦은 주의자들이 "암시 적 이전"으로 작동한다고 주장하는 것을 들었다. 이러한 암시 적 선행은 무엇입니까? 이것은 잦은 모델이 베이지안 모델의 모든 특수 사례가 발견되기를 기다리는 것을 의미합니까?

19 bayesian  prior  posterior  frequentist 

문헌에서 나는 때때로 데이터 자체에 의존하는 사전을 선택하는 것 (예 : Zellners g-prior)이 이론적 관점에서 비판 될 수 있다고 언급하면서 종종 걸림돌로 생각한다. 데이터와 독립적으로 이전을 선택하지 않으면 문제가 정확히 어디입니까?

18 bayesian  prior  hierarchical-bayesian 

베이지안 프레임 워크는 해석에서 (자주주의에 비해) 큰 장점을 가지고 있다고 종종 주장되는데, 이는 데이터에서 주어진 매개 변수의 확률 을 대신 대신 계산하기 때문 입니다. 빈번한 틀. 여태까지는 그런대로 잘됐다.p ( x | θ )p ( θ | x )p(θ|x)p(\theta|x)p ( x | θ )p(x|θ)p(x|\theta) 그러나 전체 방정식은 다음을 기반으로합니다. p …

18 bayesian  interpretation  prior  likelihood  posterior 

페널티 를 갖는 선형 회귀 는 계수에 앞서 가우시안이 주어진 MAP 추정치를 찾는 것과 동일 하다는 것이 잘 알려져 있습니다. 마찬가지로, 사용 L 1 패널티 것은 종래와 같은 라플라스 분포를 사용하는 것과 동일하다.l2l2l^2l1l1l^1 및 l 2 정규화 의 일부 가중치 조합을 사용하는 것은 드문 일이 아닙니다 . 이것이 계수에 대한 …

17 regression  bayesian  regularization  prior  elastic-net 

나는 Wikipedia에서 Jeffreys에 대해 읽었습니다 : Jeffreys Prior 는 각 예제 후에 분산 안정화 변환이 Jeffreys를 이전에 균일하게 만드는 방법을 설명합니다. 예를 들어, Bernoulli 사례의 경우 확률이 γ∈[0,1]γ∈[0,1]\gamma \in [0,1] 인 동전의 경우 Bernoulli 시험 모델은 매개 변수에 대한 Jeffreys 이전의 결과를 나타냅니다 .γγ\gamma p(γ)∝1γ(1−γ)−−−−−−−√p(γ)∝1γ(1−γ) p(\gamma) \propto \frac{1}{\sqrt{\gamma ( 1-\gamma)}} …

17 bayesian  prior  jeffreys-prior 

표본 크기가 작 으면 이전 분포가 후방 분포에 많은 영향을 미칩니 까?

17 bayesian  sample-size  prior 

Robby McKilliam 은이 게시물 에 대한 코멘트에서 다음 과 같이 말합니다 . 잦은 주의자 관점에서 사전 지식을 모델에 통합 할 수없는 이유는 없다는 점을 지적해야합니다. 이런 점에서, 잦은 관점은 더 단순합니다. 모델과 데이터 만 있습니다. 사전 정보를 모델에서 분리 할 필요가 없습니다. 또한, 여기 , @jbowman는 베이 즈는이 이전 할 …

17 bayesian  prior  regularization  frequentist 

베타 분포가 이항 공정 (Hit / Miss)에서 작동하기위한 유익한 정보를 찾고 있습니다. 처음 에는 균일 한 PDF를 생성하는 또는 α = 0.5 , β = 0.5 이전의 Jeffrey 사용에 대해 생각했습니다 . 그러나 실제로 사후 결과에 최소한의 영향을 미치는 사전을 찾고 있는데 α = 0 , β = 0 이전에 …

17 bayesian  prior  beta-distribution  uninformative-prior 

이 질문은 제가 최근에 이력서 에서 두 개, 경제 에서 다른 두 가지 상호 작용에서 영감을 얻었습니다 . 나는 대답이 게시 한 잘 알려진 "봉투 역설"(당신을 마음을하지로를 "정답"하지만 상황의 구조에 대해 특정 가정에서 흐르는 답변으로). 얼마 후 사용자가 비판적인 의견을 게시하고 그의 요점을 이해하려고 대화에 참여했습니다. 그가 베이지안 방법을 생각이 …

16 bayesian  mathematical-statistics  prior  theory  philosophical