로지스틱 회귀-다중 공선 성 문제 / 함정


16

로지스틱 회귀 분석에서 OLS 회귀 분석과 마찬가지로 다중 공선성에 대해 우려 할 필요가 있습니까?

예를 들어, 다중 공선 성이 존재하는 로지스틱 회귀 분석을 사용하면 베타 계수에서 추론 할 때주의해야합니다 (OLS 회귀 분석에서와 같이)?

OLS 회귀 분석의 경우 높은 다중 공선성에 대한 하나의 "수정"은 능선 회귀입니다. 로지스틱 회귀 분석과 같은 것이 있습니까? 또한 변수를 삭제하거나 변수를 결합합니다.

로지스틱 회귀 분석에서 다중 공선 성의 영향을 줄이기 위해 어떤 접근법이 합리적입니까? 그것들은 본질적으로 OLS와 동일합니까?

(참고 : 이것은 설계된 실험을위한 것이 아닙니다)

답변:


16

다중 공선성에 관한 모든 동일한 원칙은 OLS와 마찬가지로 로지스틱 회귀에 적용됩니다. 다중 공선 성을 평가하는 동일한 진단 (예 : VIF, 조건 번호, 보조 회귀)을 사용할 수 있으며 동일한 치수 축소 기술 (예 : 주성분 분석을 통한 변수 결합)을 사용할 수 있습니다.

대답 을 얻어냅니다 물류 모델을 피팅에 대한 몇 가지 자원과 R 패키지에 당신을 이끌 것입니다 CHL에 의해 (뿐만 아니라 범 회귀 절차의 이러한 유형에 대한 좋은 토론). 그러나 다중 공선성에 대한 "솔루션"에 대한 귀하의 의견 중 일부는 나에게 약간 당황합니다. 공 선형이 아닌 변수에 대한 관계 추정에만 관심이있는 경우 이러한 "솔루션"은 괜찮을 수 있지만 공선 형인 변수 계수 추정에 관심이있는 경우 이러한 기술로 문제를 해결할 수 없습니다. 다중 공선 성 문제는 예측 변수의 행렬을 반전시킬 수 없다는 점에서 기술적 인 것이지만 예측 변수가 독립적이 아니며 그 효과를 고유하게 식별 할 수 없다는 논리적 인 유사점이 있습니다.


2
(+1) 네, 로지스틱 회귀 분석 (또는 더 일반적으로, GLMS)의 일부 범 버전이 존재, 거기에 약간의 참조를 참조하십시오 stats.stackexchange.com/questions/4272/...를 .
chl

@chl 감사합니다. 이전 답변에 연결되도록 업데이트했습니다.
Andy W

Thx도. 이것은 이미 훌륭한 답변에 대한 의견이었습니다.
chl
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.