최소 위험 분류기의 계산 임계 값?

두 클래스 및 에 속성 가 있고 분포가 및 합니다. 다음 비용 매트릭스에 대해 동일한 사전 경우 :$C_1$$C_2$$x$$\cal{N} (0, 0.5)$$\cal{N} (1, 0.5)$$P(C_1)=P(C_2)=0.5$

$L= \begin{bmatrix} 0 & 0.5 \\ 1 & 0 \end{bmatrix}$

왜, 가 최소 위험 (비용) 분류기의 임계 값입니까?$x_0 < 0.5$

이것은 내가 오해하는 나의 주 예입니다 (즉,이 임계 값에 어떻게 도달합니까?)

편집 1 : 우도 비율의 임계 값에 대해 P (C1) / P (C2)를 사용할 수 있다고 생각합니다.

편집 2 : Duda Book의 Pattern에 임계 값에 대한 텍스트를 추가합니다.

비용 매트릭스

$$L= \begin{bmatrix} 0 & 0.5 \\ 1 & 0 \end{bmatrix} \begin{matrix} c_1 \\ c_2 \end{matrix} \;\text{prediction} \\ \hspace{-1.9cm} \begin{matrix} c_1 & c_2 \end{matrix} \\ \hspace{-1.9cm}\text{truth}$$

진리가 클래스 때 클래스 예측 손실 은 이고, 진리가 클래스 때 클래스 예측 비용 은 입니다. 정확한 예측 비용은 없습니다. 입니다. 클래스 를 예측하기위한 조건부 위험 은$c_1$$c_2$$L_{12} = 0.5$$c_2$$c_1$$L_{21} = 1$$L_{11} = L_{22} = 0$$R$$k$

$$\begin{align} R(c_1|x) &= L_{11} \Pr (c_1|x) + L_{12} \Pr (c_2|x) = L_{12} \Pr (c_2|x) \\ R(c_2|x) &= L_{22} \Pr (c_2|x) + L_{21} \Pr (c_1|x) = L_{21} \Pr (c_1|x) \end{align}$$ 경우 a 15 페이지 의이 참고 사항 을 참조하십시오 .

당신이 예측 위험 / 손실을 최소화하기 위해 그렇게 실수의 비용 (잘못된 예측 시간의 손실이 예측이 잘못되었다는 사후 확률의 그 경우 있다) 대안을 잘못 예측하는 비용보다$c_1$$L_{12} \Pr (c_2|x)$

$$\begin{align} L_{12} \Pr (c_2|x) &< L_{21} \Pr (c_1|x) \\ L_{12} \Pr (x|c_2) \Pr (c_2) &< L_{21} \Pr (x|c_1) \Pr (c_1) \\ \frac{L_{12} \Pr (c_2)}{L_{21} \Pr (c_1)} &< \frac{\Pr (x|c_1)}{ \Pr (x|c_2)} \end{align}$$ 두 번째 줄은 Bayes의 규칙 합니다. 감안할 때 동일 사전 확률 당신이 얻을 $\Pr (c_2|x) \propto \Pr (x|c_2) \Pr (c_2)$$\Pr (c_1) = \Pr (c_2) = 0.5$ $$\frac{1}{2} < \frac{\Pr (x|c_1)}{ \Pr (x|c_2)}$$

따라서 이 우도 비율이이 임계 값을 초과 하므로 관측치를 분류하도록 선택합니다 . 이제 가능성 비율 또는 속성 측면에서 "최고의 임계 값"을 알고 싶은지 확실하지 않습니다 . 답은 비용 함수에 따라 달라집니다. 및 , 인 불평등에서 가우시안 사용$c_1$$x$$\sigma_1 = \sigma_2 = \sigma$$\mu_1 = 0$$\mu_2 = 1$

$$\begin{align} \frac{1}{2} &< \frac{\frac{1}{\sqrt{2\pi}\sigma}\exp \left[ -\frac{1}{2\sigma^2}(x-\mu_1)^2 \right]}{\frac{1}{\sqrt{2\pi}\sigma}\exp \left[ -\frac{1}{2\sigma^2}(x-\mu_2)^2 \right]} \\ \log \left(\frac{1}{2}\right) &< \log \left(\frac{1}{\sqrt{2\pi}\sigma}\right) -\frac{1}{2\sigma^2}(x-0)^2 - \left[ \log \left(\frac{1}{\sqrt{2\pi}\sigma}\right) -\frac{1}{2\sigma^2}(x-1)^2 \right] \\ \log \left(\frac{1}{2}\right) &< -\frac{x^2}{2\sigma^2} + \frac{x^2}{2\sigma^2} - \frac{2x}{2\sigma^2} + \frac{1}{2\sigma^2} \\ \frac{x}{\sigma^2} &< \frac{1}{2\sigma^2} - \log \left(\frac{1}{2}\right) \\ x &< \frac{1}{2} - \log \left(\frac{1}{2}\right) \sigma^2 \end{align}$$ 에 대한 예측 임계 값$x$당신이 거짓 예측에서 손실 즉, 동일한 경우에만 달성 할 수있다 검색 등 그런 다음에야 당신이 가질 수 있기 때문에 이고 를 얻습니다 .$L_{12} = L_{21}$$\log \left( \frac{L_{12}}{L_{21}} \right) = \log (1) = 0$$x_0 < \frac{1}{2}$