사전의 제복은 어떻게 최대 우도 및 사후 모드에서 동일한 추정치를 도출합니까?

나는 다른 점 추정 방법을 연구하고 있으며 MAP 대 ML 추정을 사용할 때 "균일 이전"을 사용할 때 추정치가 동일하다는 것을 읽습니다. 누군가 "균일 한"사전이 무엇인지 설명하고 MAP 및 ML 추정기가 동일한시기에 대한 간단한 예를 제시 할 수 있습니까?

— 사용자 1516425
소스

@AndreSilva MAP = 최대 후부 - 후부 의 모드

— Glen_b-복지국 Monica

여기를보십시오 : math.stackexchange.com/questions/1327752/…

— Royi

답변:

그것은 인 균일 분포 (하나의 연속 또는 불연속).

또한보십시오

http://en.wikipedia.org/wiki/Point_estimation#Bayesian_point-estimation

과

http://en.wikipedia.org/wiki/Maximum_a_posteriori_estimation#Description

MLE가 포함 된 세트에 대해 균일 한 유니폼을 사용하는 경우 항상 MAP = MLE입니다. 그 이유는이 이전 구조에서 사후 분포와 가능성이 비례하기 때문입니다.

— 남성
소스

이것은 내 의견으로는 좋은 대답입니다. 사후 분포와 우도가 비례하는 이유는 사후 분포가 우도와 이전의 곱에 비례하기 때문이라고 덧붙일 가치가 있습니다. 이전의 분포가 균일 한 분포에서와 같이 어느 곳에서나 동일한 값을 취하는 경우, 후방 분포는 단순히 우도에 비례합니다.

— TooTone

@TooTone 또한 부적절함에 대한 요점을 추가합니다.

— Stéphane Laurent

균일 한 사전은 예측하려는 모든 클래스에 대해 사용자 설정 또는 동일한 확률을 제공하는 것으로 볼 수 있습니다. 예를 들어, 두 가지 클래스 문제가 있고 긍정적 인 예에 대한 분포가 10 % (즉, 사전 확률 0.1) 인 경우, 원래의 불균형 효과를 극복하기 위해 긍정적 인 경우에 대해 균일 한 사전을 0.5로 설정할 수 있습니다. 분포.

— soufanom

참고로, 균일 한 우선 순위 하에서 MAP 및 ML은 균일 한 우선 순위가 매개 변수의 유효한 값을 모두 초과하는 경우에만 충돌합니다. 즉, 매개 변수가 연속적이고 사전이 [0, 1]에서만 균일 한 경우에는 유지되지 않습니다.

— Royi

@Drazick : 좋은 말. Druihlet과 Marin 의이 논문에서 설명 된 것처럼, MAP의 (가치) MAP는 지배적 인 선택의 선택에 달려있다 .

— 시안

MLE는 매개 변수가 제공된 주어진 이벤트 발생의 추정치 인 반면, MAP은 이벤트가 주어진 매개 변수의 추정치입니다. MAP를 추정하는 동안 베이 즈 정리를 더 사용하면 $P(D|\theta)P(\theta)$ 어디 $P(\theta)$ MLE과 관련하여 유일한 추가 용어입니다. MAP의 평균 및 분산 추정치는 Prior가 매번 동일하게 유지되고 전혀 변경되지 않으므로 MLE의 평균 및 분산 추정치와 동일합니다. 따라서 상수로만 작용하므로 평균 및 분산의 값에 영향을 미치지 않습니다.

— gg1782191
소스

(-1) 모수의 최대 우도 추정치는 '주어진 사건의 발생 추정치'가 아니라 모수의 추정치입니다. 대답의 나머지 부분도 다소 혼란스럽고 혼란 스럽습니다. 예를 들어 '평균 및 분산'이 무엇을 의미하는지 불분명합니다.

— Juho Kokkala

@Tim, 당신은 보여주는 증거 (또는 개요)를 제공 할 수 있습니까 The mean and variance estimate of MAP will be same as mean and variance estimate of MLE? 감사합니다

— curious_dan

@curious_dan 베이 즈 정리는

p (θ | X) \propto p (X | θ) p (θ)

$p(\theta|X) \propto p(X|\theta) p(\theta)$ , 만약

p (θ) \propto 1

$p(\theta) \propto 1$ 균일 한 다음에 감소

p (θ | X) \propto p (X | θ) \times 1

$p(\theta|X) \propto p(X|\theta) \times 1$ 따라서 가능성을 극대화하는 것이므로 MLE과 동일합니다.

— Tim

감사합니다, @Tim --- 이것이 최대 / 예상 값에 해당하는 이유를 알 수 있지만 분산이 동일하다는 것은 확실하지 않습니다

— curious_dan

무엇의 @curious_dan 분산? 이는 추정 한 모든 매개 변수에 적용됩니다.

— Tim