11

는 연속 랜덤 변수이고 는 이산 변수 라고 가정하십시오 . $Y$ $X$

Pr (X = x | Y = y) = \frac{Pr (X = x) Pr (Y = y | X = x)}{Pr (Y = y)}

$\Pr(X=x|Y=y) = \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}$

아시다시피, 는 연속 랜덤 변수 이므로 입니다. 그리고 이것을 바탕으로 확률 가 정의되어 있지 결론을 내립니다 . $\Pr(Y=y) = 0$ $Y$ $\Pr(X=x|Y=y)$

그러나 Wikipedia는 여기서 실제로 다음과 같이 정의되어 있다고 주장 합니다.

Pr (X = x | Y = y) = \frac{Pr (X = x) f_{Y | X = x} (y)}{f_{Y} (y)}

$\Pr(X=x|Y=y) = \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$

질문 : Wikipedia는 어떻게 확률을 정의 할 수 있었습니까?

내 시도

다음은 Wikipedia 결과를 한계로 가져 오려는 시도입니다.

\begin{aligned} Pr (X = x | Y = y) & = \frac{Pr (X = x) Pr (Y = y | X = x)}{Pr (Y = y)} \\ = lim_{d \to 0} \frac{Pr (X = x) (d \times f_{Y | X = x} (y))}{(d \times f_{Y} (y))} \\ = lim_{d \to 0} \frac{Pr (X = x) (d \times f_{Y | X = x} (y))}{(d \times f_{Y} (y))} \\ = \frac{Pr (X = x) f_{Y | X = x} (y)}{f_{Y} (y)} \end{aligned}

$\begin{split}\require{cancel} \Pr(X=x|Y=y) &= \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(d \times f_{Y|X=x}(y)\big)}{\big(d \times f_Y(y)\big)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(\cancel{d} \times f_{Y|X=x}(y)\big)}{\big(\cancel{d} \times f_Y(y)\big)}\\ &= \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}\\ \end{split}$

이제 로 정의 될 것으로 보인다 , 경기 Wikipedia의 주장입니다. $\Pr(X=x|Y=y)$ $\frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$

Wikipedia가 그렇게 했습니까?

그러나 나는 여전히 내가 미적분학을 남용하고 있다고 생각합니다. 따라서 는 정의되어 있지 않지만 가능한 한 및 , 정확하지는 않지만 가 정의됩니다. $\Pr(X=x|Y=y)$ $\Pr(Y=y)$ $\Pr(Y=y|X=x)$ $\Pr(X=x|Y=y)$

그러나 나는 내가 한 한계 트릭을 포함하여 많은 일에 대해 잘 모릅니다. 아마도 내가 한 일의 의미를 완전히 이해하지 못한다고 생각합니다.

conditional-probability pdf

— 동굴 탐험가
소스

1

실제로 Pr (X = x) = 0이지만 xf (x)에서 X의 밀도는 0과 같지 않을 수 있습니다. 'self-study'레이블을 사용하지 않아야합니까 ??

— Lil'Lobster

2

@Lil 내가 아는 한, '자기 학습'태그는 숙제를 해결할 때입니다. 난 안하고있어

— 원시인

1

위키 백과 페이지는 실제로 유도를 말한다 : en.wikipedia.org/wiki/Bayes'_theorem#Derivation

— Ytsen 드 보어에게

3

가 연속적 일 때 모든 대해 과 같은 수학적 근거가 없음을 두려워합니다 .

P (Y = y) = 0

$\mathbb{P}(Y=y)=0$

y \in Y

$y\in\mathcal{Y}$

Y

$Y$

— 시안

10

조건부 확률 분포 , , 는 공식적으로 방정식 의 해로 정의됩니다 여기서 는 분포와 관련된 sigma- 대수를 나타냅니다 . 이러한 솔루션 중 하나는 Wikipedia에 표시된대로 Bayes (1763) 공식에 의해 제공됩니다 . $\mathbb{P}(X=x|Y=y)$ $x\in\mathcal{X}$ $y\in\mathcal{Y}$

P (X = x, Y \in A) = \int_{A} P (X = x | Y = y) f_{Y} (y) d y \forall A \in σ (Y)

$\mathbb{P}(X=x,Y\in A)=\int_{A}\mathbb{P}(X=x|Y=y)f_Y(y)\text{d}y\quad\forall A\in\sigma(\mathcal{Y})$

σ (Y)

$\sigma(\mathcal{Y})$

σ

$\sigma$

Y

$Y$

P (X = x | Y = y) = \frac{P (X = x) f_{Y | X = x} (y)}{f_{Y} (y)} \forall x \in X, y \in Y

$\mathbb{P}(X=x|Y=y) = \dfrac{\mathbb{P}(X=x) f_{Y|X=x}(y)}{f_Y(y)}\qquad\forall x\in\mathcal{X},\ y\in\mathcal{Y}$ 에서 측정 값 0으로 임의로 정의 된 버전 도 유효합니다.

σ (Y)

$\sigma(\mathcal{Y})$

확률이 0 인 분리 된 가설에 대한 조건부 확률의 개념은 허용되지 않습니다. 우리는 주어진 극 자오선 서클 상 전체 구면의 분해 요소로 간주 서클에만 자오선 원에 대한 확률 분포 [위도]를 얻을 수 들어 - 안드레이 콜 모고 로프를

Borel-Kolmogorov 역설 에서 볼 수 있듯이 잠재적으로 취할 특정 값 주어지면 조건부 확률 분포 는 이벤트 때문에 정확한 의미가 없습니다. 는 측정 값이 0이지만이 이벤트는 -algebras 의 무한 범위에 대해 측정 가능한 것으로 해석 될 수 있기 때문 입니다. $y_0$ $Y$ $\mathbb{P}(X=x|Y=y_0)$ $\{\omega;\,Y(\omega)=y_0\}$ $\sigma$

참고 : 다음은 Terry Tao의 블로그 에 대한 확률 이론을 검토 한 것입니다 .

정의 9 (붕해) 하자 범위로 랜덤 변수 일 . 붕괴 기본 샘플 공간 에 대하여 서브 세트 인 의 전체 측정 (따라서 거의 확실) 함께 확률 측정치들의 할당과 부분 공간에 의 각 에 대해, 맵 $Y$ $R$ $(R', (\mu_y)_{y \in R'})$ $\Omega$ $Y$ $R'$ $R$ $\mu_Y$ $Y \in R'$ ${\bf P}(|Y=y)$ $\Omega_y := \{ \omega \in \Omega: Y(\omega)=y\}$ $\Omega$ $y \in R$ $y \mapsto {\bf P}(F|Y=y)$ 는 모든 이벤트 대해 측정 가능하며, 모든 해당 이벤트에 대해 입니다. 여기서 제 (거의 확실하게 정의 됨) 랜덤 동일한 정의 변수 마다 . $F$
$P (F) = E P (F | Y)$ $\displaystyle {\bf P}(F) = {\bf E} {\bf P}(F|Y)$ ${\bf P}(F|Y)$ ${\bf P}(F|Y=y)$ $Y=y$
이러한 붕괴가 발생하면 를 (유도 된 -algebra)로 대체하고 기본 확률 측정 대체하여 모든 에 대해 이벤트 로 조건을 지정할 수 있습니다. 와 . 따라서 조건없는 공간에서 조건없는 이벤트 와 임의의 변수 를 생성하기 위해 조건 없는 이벤트 와 랜덤 변수 를이 이벤트에 조건부로 설정할 수 있습니다. 조건부 확률 $Y=y$ $y \in R'$ $\Omega$ $\Omega_y$ $\sigma$ ${\bf P}$ ${\bf P}(|Y=y)$ $F$ $X$ $(F|Y=y)$ $(X|Y=y)$ ${\bf P}(F|Y=y)$ (이 표현식에 대한 기존 표기법과 일치) 및 조건부 예상 (이 조건부 공간에서 절대적 통합 성을 가정). 우리는 그 다음 설정 제 (거의 확실히 정의) 임의 동일하게 정의 변수가 될 할 때마다 . ${\bf E}(X|Y=y)$ ${\bf E}(X|Y)$ ${\bf E}(X|Y=y)$ $Y=y$

— 시안
소스

1

이미 +1을했지만 ... 아마도 따끔 거림이지만 Bayes 정리를 Bayes / Laplace의 공식으로 언급하는 것이 더 정확하지 않습니까?

— Tim

2

@Tim : 고맙지 만 지나치게 과감하게 들리고 싶지 않습니다! 그리고 이산 (Binomial)과 연속 (Beta)에 대한 Bayes의 공식 이 Bayes (1763) 논문에 나타납니다. 물론, Laplace는 결과를 훨씬 광범위하게 일반화했습니다.

X

$X$

Y

$Y$

— Xi'an

4

가 연속적이고 가 불연속 일 때 조각이 어떻게 맞을 수 있는지 스케치 해 보겠습니다 . $Y$ $X$

혼합 조인트 밀도 :

f_{X Y} (x, y)

$f_{XY}(x,y)$

한계 밀도 및 확률 :

f_{Y} (y) = \sum_{x \in X} f_{X Y} (x, y)

$f_Y(y) = \sum_{x \in X} f_{XY}(x, y)$

P (X = x) = \int f_{X Y} (x, y) d y

$P(X = x) = \int f_{XY}(x, y) \;dy$

조건부 밀도 및 확률 :

f_{Y ∣ X} (y ∣ X = x) = \frac{f_{X Y} (x, y)}{P (X = x)}

$f_{Y\mid X}(y \mid X = x) = \frac{f_{XY}(x, y)}{P(X=x)}$

P (X = x ∣ Y = y) = \frac{f_{X Y} (x, y)}{f_{Y} (y)}

$P(X=x \mid Y = y) = \frac{f_{XY}(x, y)}{f_Y(y)}$

베이 즈 규칙 :

f_{Y ∣ X} (y ∣ X = x) = \frac{P (X = x ∣ Y = y) f_{Y} (y)}{P (X = x)}

$f_{Y\mid X}(y \mid X = x) = \frac{P(X=x \mid Y = y) f_Y(y)}{P(X=x)}$

P (X = x ∣ Y = y) = \frac{f_{Y ∣ X} (y ∣ X = x) P (X = x)}{f_{Y} (y)}

$P(X=x \mid Y = y) = \frac{f_{Y\mid X}(y \mid X = x)P(X=x)}{f_Y(y)}$

물론, 확률을 다루는 현대적이고 엄격한 방법은 측정 이론을 통하는 것입니다. 간결한 정의는 시안의 답변을 참조하십시오.

— 매튜 건
소스

2

Wikipedia 기사는 실제로 다음 정의를 사용합니다. 즉, 결과를 확률이 아닌 밀도로 처리합니다. 따라서 가 연속적이고 이산 일 때 가 정의되지 않은 것이 맞습니다. 그래서 우리는 대신 보다 확률 밀도 만 고려합니다 .

f_{X} (x | Y = y) = \frac{P (Y = y | X = x) f_{X} (x)}{p (Y = y)}

$f_X(x|Y=y) = \frac{P(Y=y|X=x)f_X(x)}{p(Y=y)}$

P (X = x | Y = y)

$P(X=x|Y=y)$

X

$X$

Y

$Y$

X

$X$

편집 : 표기법에 대한 혼란 (댓글 참조)으로 인해 위의 사실은 원시인이 요구 한 것과 반대되는 상황을 나타냅니다.

— 루벤 반 베르겐
소스

가 연속적이고 불연속 일 때

내 시도