왜 우리가 필요하지 않을 때 선형 회귀 분석에서 정규 분포 분포 오차 항 (및 등분 산성)에 관심이 많은가?

누군가가 비정규 잔차 및 / 또는이 분산이 OLS 가정을 위반한다고 말할 때마다 좌절감을 느낍니다. OLS 모델에서 모수 를 추정 하기 위해 Gauss-Markov 정리에는 이러한 가정이 필요하지 않습니다. OLS 모델에 대한 가설 검정 에서 이것이 중요한 이유를 알 수 있습니다. 이러한 점을 가정하면 t- 검정, F- 검정 및보다 일반적인 Wald 통계에 대한 깔끔한 공식이 제공되기 때문입니다.

그러나 그것들없이 가설 테스트를하는 것은 그리 어렵지 않습니다. 동종 동태 만 삭제하면 강력한 표준 오류와 군집 된 표준 오류를 쉽게 계산할 수 있습니다. 정규성을 완전히 떨어 뜨리면 부트 스트래핑을 사용할 수 있으며 오류 조건, 우도 비율 및 라그랑주 승수 테스트에 대한 다른 매개 변수 사양이 주어집니다.

우리가 이런 식으로 가르치는 것은 부끄러운 일입니다. 많은 사람들이 처음에 만나지 않아도되는 가정에 어려움을 겪고 있기 때문입니다.

보다 강력한 기술을 쉽게 적용 할 수있을 때 이러한 가정을 강조하는 이유는 무엇입니까? 중요한 것이 빠졌습니까?

계량 경제학에서는 비정규 성이 고전 정규 선형 회귀 모델의 조건을 위반하는 반면 이분산성은 CNLR과 고전 선형 회귀 모델의 가정을 모두 위반한다고 말합니다.

그러나 "... OLS 위반"이라고 말하는 사람들도 정당화됩니다. Ordinary Least-Squares라는 이름 은 Gauss에서 직접 유래되었으며 본질적으로 정상적인 오류를 나타냅니다 . 다시 말해, "OLS"는 최소 제곱 추정 (약간의 일반적인 원리 및 접근 방식)의 약어가 아니라 CNLR의 약어입니다.

좋아, 이것은 역사, 용어 및 의미론이었다. OP의 질문의 핵심을 다음과 같이 이해합니다. "이상하지 않은 경우에 대한 해결책을 찾았다면 왜 이상을 강조해야합니까?" CNLR 가정 은 이상적인 최소 제곱 추정 특성을 "기성품"으로 제공하고 점근 적 결과에 의존 할 필요가 없다는 점에서 이상적입니다. 또한 오류가 정상일 때 OLS가 최대 일 가능성을 기억하십시오. ).

이상적으로는 교육 을 시작하기에 좋은 곳 입니다. "간단한"상황은 "이상적인"상황이며 실제 생활과 실제 연구에서 실제로 발생하는 복잡성이 없고 명확한 해결책이 존재하지 않는 상황 입니다.

그리고 이것은 내가 OP의 게시물에 대해 문제가되는 것을 발견합니다 : 그는 강력한 표준 오류와 부트 스트랩에 대해 "우수한 대안"인 것처럼 쓰거나 OP 쓰기가 더 나아가는 논의중인 가정의 부족에 대한 완벽한 솔루션에 대해 씁니다.

".. 사람들이 만나지 않아도되는 가정"

왜? 상황을 다루는 몇 가지 방법 이 있기 때문에 물론 몇 가지 타당성이 있지만 이상적이지 않은 방법은 무엇입니까? 부트 스트랩과이 분산 강건성 표준 오류는 해결책 이 아닙니다 . 만약 그들이 실제로 있었다면, 그것들은 지배적 인 패러다임이되어 CLR과 CNLR을 역사 책에 보냈습니다. 그러나 그들은 아닙니다.

따라서 우리 는 우리가 중요하다고 생각한 추정자 속성 을 보장 하는 일련의 가정에서 시작 합니다 (바람직한 것으로 지정된 속성이 실제로 필요한 속성인지 여부에 대한 또 다른 토론입니다). 이러한 가정의 부재를 처리하기 위해 찾은 방법을 통해 완전히 상쇄 될 수없는 결과. 과학적으로 말해서, "우리는 문제의 진실에 대한 길을 갈 수있다"는 느낌을 전달하는 것은 정말로 위험 할 것입니다.

따라서 문제를 해결할 수 있는 대안이 될 수있는 완벽한 해결책이 아니라 문제에 대한 불완전한 해결책으로 남아 있습니다 . 그러므로 우리는 먼저 문제가없는 상황을 가르치고 가능한 문제를 지적한 다음 가능한 해결책을 논의해야합니다. 그렇지 않으면 이러한 솔루션을 실제 상태가 아닌 상태로 승격시킬 수 있습니다.

부트 스트래핑과 언급 한 다른 기술 (모든 가정, 함정 등)을 논의하기 위해 회귀 모델을 처음 소개하는 수업 시간에 정규성에 대해 말할 필요가 없다는 데 동의합니다. 그리고 동성애 가정. 그러나 사실, 회귀가 처음 소개 될 때 우리는 다른 모든 것들에 대해 이야기 할 시간이 없으므로, 학생들에게 보수적이고 필요하지 않은 것들을 확인하고 통계 학자와 상담하거나 다른 통계를 보도록합니다. 가정이 유지되지 않는 경우 클래스 또는 2 또는 3, ...).

학생들에게 이러한 가정이 언제 ...를 제외하고는 중요하지 않다고 말한다면 대부분은 중요하지 않은 부분 만 기억하고 중요 할 때는 중요하지 않습니다.

분산이 같지 않은 경우에는 여전히 최소 제곱 선을 맞출 수 있지만 여전히 "최고"선입니까? 또는 그 경우 라인을 맞추는 방법에 대해 더 많은 경험 / 훈련을 가진 사람과 상담하는 것이 좋습니다. 최소 제곱 선에 만족하더라도 예측이 예측 변수의 값에 따라 다른 속성을 가질 것이라는 점을 인정해서는 안됩니까? 따라서 불일치 분산을 확인하는 것은 테스트 / 간격 등을 위해 필요하지 않더라도 나중에 해석하기에 좋습니다. 우리가 사용하고 있습니다.

1) 사람들이 추정하기를 원하는 경우는 거의 없습니다. 일반적으로 추론 (CI, PI, 테스트)은 목표이거나 적어도 부분적으로 (때로는 비교적 비공식적으로 수행되는 경우에도)

2) 가우스 마르코프 정리와 같은 것들이 반드시 도움이되는 것은 아닙니다. 분포가 정상에서 충분히 멀다면 선형 추정기는 많이 사용되지 않습니다. 선형 추정기가 없으면 BLUE를 얻는 데 아무런 의미가 없습니다.

3) 샌드위치 추정기와 같은 것들에는 많은 암시 적 매개 변수가 포함됩니다. 데이터가 많더라도 사람들이 그렇지 않은 경우에도 여전히 괜찮을 수 있습니다.

4) 예측 구간은 관측에서 분산을 잘 처리하는 것을 포함하여 조건부 분포의 모양에 의존합니다. PI로 세부 사항을 쉽게 파헤칠 수는 없습니다.

5) 부트 스트랩과 같은 것은 종종 매우 큰 샘플에 편리합니다. 때로는 작은 샘플이나 보통 크기의 샘플에서도 어려움을 겪습니다. 실제 적용 범위 속성은 광고 된 것과 다를 바가 없습니다.

즉, 사람들이 원하는 만병 통치약은 거의 없습니다. 이러한 모든 것들은 제자리를 가지고 있으며, 정규성이 요구 되지 않고, 정규성, 일정한 분산 등을 필요로하지 않고 추정 및 추론 (테스트 및 CI)이 합리적으로 수행 될 수있는 경우가 많이 있습니다.

종종 잊혀진 것 중 하나는 대신에 다른 파라 메트릭 가정을 만들어내는 것입니다. 종종 사람들은 상당히 적절한 모수 적 가정을 할 수있는 상황에 대해 충분히 알고 있습니다 (예 : 조건부 응답이 sd와 거의 비례하여 기울어 지거나 감마 또는 로그 정규 모델이라고 생각할 수 있음) 종종 이것은 이분산성과 비정규 성을 한 번에 처리 할 수 ​​있습니다.

매우 유용한 도구는 시뮬레이션입니다. 데이터가 발생했을 가능성이있는 상황과 같은 상황에서 도구의 속성을 검사 할 수 있으며, 그러한 경우에 좋은 속성을 가지고 있다는 편안한 지식으로 도구를 사용할 수 있습니다. 또는 때때로 그들이 원하는대로 작동하지 않는지 확인하십시오).