선형 회귀에 대한 최소 점수

선형 회귀 분석을 통해 시간 경과에 따른 추세를 찾는 "합리적인"최소 관측치 수는 얼마입니까? 이차 모형 적합은 어떻습니까?

나는 건강 (SII, RII)에서 불평등의 복합 지수를 다루고 있으며, 단지 4 번의 설문 조사 만 있으므로 4 점 (1997,2001,2004,2008)입니다.

나는 통계학자는 아니지만 4 포인트로는 충분하지 않은 직관적 인 인상을 받았습니다. 답변이나 참고 사항이 있습니까?

고마워요

프랑수아

regression

— 프랑소와
소스

일반적인 경험 법칙은 각 독립 변수에 대해 10 포인트입니다.

— Peter Flom-Monica Monica 복원

지수는 어떻게 측정됩니까? 변동성 추정치가 포함되어 있으면 t- 검정 또는 유사체를 사용하여 두 가지로 충분할 수 있습니다. 여기에 적용되는 기본 통계 원칙은 랜덤 변동이 관찰 대상에 대한 설명이 아닐 경우, 임의의 명백한 경향을 비 랜덤 원인으로 간주 할 권리가 있다는 것입니다. 추세가 강하면 이러한 결론에 도달하는 데 필요한 데이터 값이 거의 없을 수 있지만 모든 일반적인 "거부 규칙"에도 불구하고.

— whuber

공변량 당 10의 피터스 경험 법칙은 합리적인 규칙입니다. 응답 값의 노이즈 양에 관계없이 직선을 두 점에 완벽하게 맞출 수 있고 3 점만으로 2 차를 완벽하게 맞출 수 있습니다. 따라서 거의 모든 상황에서 4 포인트가 충분하지 않다고 말하는 것이 적절합니다. 그러나 대부분의 경험 법칙처럼 모든 상황을 다루지는 않습니다. 모형에서 잡음 항이 큰 분산을 갖는 경우 오차 분산이 작은 유사한 경우보다 더 많은 샘플이 필요합니다.

필요한 샘플 포인트 수는 객체에 따라 다릅니다. 탐색 적 분석을 수행하는 경우 한 모델 (공변량의 선형)이 다른 모델 (공변량의 2 차 함수)보다 10 포인트 미만으로 더 나은지 확인하기에 충분할 수 있습니다. 그러나 공변량에 대한 상관 및 회귀 계수를 매우 정확하게 추정하려면 공변량 당 10 개 이상이 필요할 수 있습니다. 예측 기준의 정확성은 정확한 모수 추정값보다 더 많은 샘플을 요구할 수 있습니다. 추정치 및 예측의 분산에는 모두 모형 오차 항의 분산이 포함됩니다.

— 마이클 R. 체 르닉
소스

좋은 지적이야, 마이클; 나는 그것을 단순하게 유지하려고 노력했다. :-). 원래 질문의 주제를 감안할 때 10 점 미만이 적절하면 매우 놀랐습니다. 건강 불평등의 척도는 많은 오류가있을 것으로 보이며, 시간과의 관계는 선형 적이 지 않을 것입니다. 이것에 대한 기사를 알고 있습니까? 많이 나오는 흥미로운 주제입니다.

— Peter Flom-Monica Monica 복원

@PeterFlom 나는하지 않습니다. 나는 당신이 언급 한 것과 같은 규칙을 사용하는지 알아보기 위해 통계적 규칙에 관한 van Belle'a 책을 볼 것입니다. 그의 책에 대한 좋은 점은 그가 모든 규칙의 근거를 설명한다는 것입니다. 공변량 당 10 개 이상을 요구하는 규칙은 꽤 좋으며 덜 사용하는 것이 일부 탐색 적 경우를 제외하고는 거의 안전하지 않다는 것에 동의합니다. 내가 일하는 건강 과학에서 잡음 용어는 항상 크지 만 엄격하게 통제되는 물리학 또는 공학 실험은 매우 정밀한 측정을 할 수 있으므로 임의의 작은 오류가 발생할 수 있습니다.

— Michael R. Chernick

작은 소음의 가능성을 지적하려고 시도했지만 가능성이 먼 경우에도 10 점 미만이 필요합니다.

— Michael R. Chernick

그래, 난 동의. 물리학, 말, 또는 매우 높은 지역의 경우도 마찬가지입니다.

R^{2}

$R^2$ 예상되고 이론은 강력하고 오류는 작습니다.

— Peter Flom-Monica Monica 복원

+1, 좋은 정보이지만 추정기가 편향되지 않은 경우 포화 모형을 가질 수 있으며 필요한 경우 모수의 추정치를 여전히 가질 수 있다는 점도 언급 할 가치가 있습니다. 변동성의 추정치가 없거나 추론 할 수 없습니다. 그러나 추정 할 효과가 많고 데이터를 얻기가 어려운 경우 포화 모델이 사용되기도합니다. 예를 들어,이 경우, 2 차 w / 3 포인트의 함수 추정값을 얻을 수 있습니다. 나는 그것이 좋은 것이라고 반드시 의미하지는 않지만, 이것이 실제 하한과 그 이유입니다.

— gung-복직 모니카