왜 가우시안“차별적”분석 모델이 그렇게 불리는가?

13

가우시안 판별 분석 모델 알아 하고 평가하기 위해 베이 즈 룰을 적용 $P(x|y)$ 따라서 그것들은 생성적인 모델입니다. 그렇다면 왜 판별 분석이라고합니까? 클래스 간 판별 곡선을 도출하기 때문에 모든 생성 모델에서 발생합니다.

피 (와이 | 엑스) = \frac{피 (엑스 | 와이) 피_{피 아르 자형 나는 영형 아르 자형} (와이)}{Σ_{지 \in 와이} 피 (엑스 | 지) 피_{피 아르 자형 나는 영형 아르 자형} (지)} .

$P(y|x) = \frac{P(x|y)P_{prior}(y)}{\Sigma_{g \in Y} P(x|g) P_{prior}(g) }.$

normal-distribution discriminant-analysis generative-models

— highBandWidth
소스

19

당신이 평균 경우 LDA 내가 이름을 말할 것입니다, 판별 분석 선형에 적어도 거슬러 올라가는 역사적으로 설명 할 수있다 1936에서 피셔의 종이 내 지식에 대한 모든 최선을 다하는 차별 사이에 기계 학습에서 현재 용어와 구별 앞에, 생식 모델. Fisher가이를 선형 판별 분석이라고 직접 부르지는 않았지만, 차별에 대한 선형 함수를 명시 적으로 요청했습니다. 궁금한 점으로 Fisher는이 논문에서 유명한 아이리스 데이터 세트에 대한 차별을 고려했습니다.

그런데 Fisher는 생식 모델 측면에서 차별에 대한 선형 적 방법을 제시하지 않았다. 그는의 비율을 최대화하는 (두 클래스) 선형 조합 추구 그룹 간 분산을 받는 집단 내 분산 정규성 가정을 필요로하지 않는다. 세부 사항과 그것이 LDA와 생성 모델에 대한 베이 즈 규칙과의 관계는 3 장 Brian Ripley의 "Pattern Recognition and Neural Networks"에서 찾을 수 있습니다.

— NRH
소스

2

$(Y=0 , Y=1)$

$P(X|Y=0) \sim \mathcal{N}(\mu_0,\Sigma_0)$
$P(X|Y=1) \sim \mathcal{N}(\mu_1,\Sigma_1)$
$P(Y=1)=1-P(Y=0)=\Phi$

$(\mu_0,\Sigma_0,\mu_1,\Sigma_1,\Phi)$

그것은 그래서 가우스 는 내 goup 분배를위한 가우스 가정을 사용하기 때문에와 (당신이 사용하는 대신에 전 작업복 할 수 있습니다) 판별 이 그룹으로 분리 된 데이터를 목표로하고 있기 때문이다.

자세한 내용은 여기를 참조 하십시오 .

— dfhgfh
소스