로지스틱 회귀 분석을 수행 할 때 불균형 샘플이 중요합니까?

저는 20 : 1의 경험 법칙 (총 7 개의 후보 예측 변수에 대해 상당히 큰 표본 (N = 374))을 고려하여 적절한 표본을 가지고 있다고 생각합니다.

내 문제는 다음과 같습니다. 내가 사용하는 예측 변수 집합에 관계없이 분류는 100 %의 특이도 및 0 %의 감도보다 나아지지 않습니다. 그러나 불만족 스럽지만 후보 예측 변수 세트 (내가 벗어날 수없는)를 고려할 때 실제로 이것이 최상의 결과 일 수 있습니다.

그러나 나는 도울 수 없었지만 더 잘할 수 있다고 생각했기 때문에 종속 변수의 범주가 거의 4 : 1로 불균일하게 균형 잡힌 것을 알았습니다. 보다 균형 잡힌 서브 샘플이 분류를 개선 할 수 있습니까?

훈련 세트의 균형

로지스틱 회귀 모형의 경우 불균형 훈련 데이터는 모형 절편의 추정치에만 영향을 미칩니다 (물론 예측 된 모든 확률이 왜곡되어 예측이 손상됨). 다행스럽게도 요격 보정은 간단합니다. 0과 1의 실제 비율을 알고 있거나 추측 할 수 있고 훈련 세트의 비율을 알고 있으면 요격에 희귀 한 이벤트 수정을 적용 할 수 있습니다. 자세한 내용은 King and Zeng (2001) [ PDF ]에 있습니다.

이 '희귀 사건 수정'은 대개 역학에서 주로 사용되는 사례 제어 연구 설계를 위해 설계되었으며, 일반적으로 균형이 잡힌 고정 된 수 0 사례와 1 사례를 선택하여 사례를 선택한 다음 결과 샘플 선택 편향을 수정해야합니다. 실제로, 분류기를 같은 방식으로 훈련시킬 수 있습니다. 균형 잡힌 훌륭한 샘플을 선택한 다음 임의의 샘플이 알려주는 것보다 희귀 한 클래스에 대해 자세히 알아보기 위해 종속 변수에서 선택한 사실을 고려하여 절편을 수정하십시오.

예측하기

관련이 있지만 뚜렷한 주제 : 예측을하려면 지능적으로 임계 값을 설정해야한다는 것을 잊지 마십시오. 모형 확률이 0.5보다 클 때 항상 1을 예측하는 것이 가장 좋습니다. 다른 임계 값이 더 나을 수 있습니다. 이를 위해 기본 확률 임계 값을 사용한 예측 성공뿐만 아니라 분류기의 ROC (수신기 작동 특성) 곡선을 살펴 봐야합니다.

문제는 클래스 자체가 불균형하다는 것이 아니라, 소수 클래스에 속하는 패턴이 분포를 적절히 나타내는 데 충분하지 않을 수 있다는 것입니다. 즉, 로지스틱 회귀 분석뿐만 아니라 합성 문제가 있고 실제 모델이 있음을 알고있는 경우에도 모든 분류기에서 문제가 발생할 수 있습니다. 좋은 점은 더 많은 데이터를 사용할 수있게되면 "클래스 불균형"문제가 사라진다는 것입니다. 4 : 1이 불균형 한 것은 아닙니다.

균형 잡힌 데이터 집합을 사용하는 경우 중요한 것은 클래스가 동일하다고 가정 할 때 모델의 결과가 a-posteriori 확률의 추정치라는 점을 기억하는 것이므로 모델을 너무 많이 편향시킬 수 있습니다. 각 클래스에 속하는 패턴을 다르게 가중치를 부여하고 올바른 운영 클래스 주파수로 테스트 세트에서 교차 엔트로피를 최소화하여 가중치를 선택합니다.

두 표본의 기본 분포에 대해 생각해보십시오. 더 작은 샘플에서 큰 편향없이 두 하위 모집단을 측정 할 수있는 충분한 샘플이 있습니까?

자세한 설명은 여기를 참조하십시오.

https://statisticalhorizons.com/logistic-regression-for-rare-events