사이의 관계

17

사이에 관계가 있는지 궁금합니다 $R^2$ 와 F-Test .

일반적으로

R^{2} = \frac{\sum ({\hat{Y}}_{t} - \bar{Y})^{2} / T - 1}{\sum (Y_{t} - \bar{Y})^{2} / T - 1}

$R^2=\frac {\sum (\hat Y_t - \bar Y)^2 / T-1} {\sum( Y_t - \bar Y)^2 / T-1}$ 이며 회귀에서 선형 관계의 강도를 측정합니다.

F- 검정은 단지 가설을 입증합니다.

$R^2$ 와 F- 검정 사이에는 관계가 있습니까?

— 르 맥스
소스

2

에 대한 공식

는 분모에 일부 문자를 누락 외모 잘못, 그냥 때문에 : 사람들은 "

"용어에 속하지 않습니다. 올바른 공식은

통계량 과 매우 비슷합니다 . :-)

R^{2}

$R^2$

- 1

$-1$

F

$F$

— whuber

참조 stats.stackexchange.com/questions/58107/...

— 스테판 로랑

23

모든 가정이 유지되고 대한 올바른 형식이 있으면 일반적인 F 통계량을 로 계산할 수 있습니다 $R^2$ . 그런 다음이 값을 F 테스트를 수행하기 위해 적절한 F 분포와 비교할 수 있습니다. 이것은 기본 대수로 도출 / 확인 될 수 있습니다. $F = \frac{ R^2 }{ 1- R^2} \times \frac{ \text{df}_2 }{ \text{df}_1 }$

— 그렉 스노우
소스

2

df1과 df2를 정의 할 수 있습니까?

— bonobo

1

@bonobo, df1은 분자 자유도 (예측 자 수를 기반으로 함)이고 df2는 분모 자유도입니다.

— Greg Snow

1

자유도에 대해 더 명확히하기 위해 : df1 = k, 여기서 k는 예측 변수의 수입니다. df1은이 수식의 분모에 있지만 "자유자 자유도"라고합니다. df2 = n− (k + 1), 여기서 n은 관측치 수이고 k는 예측 변수 수입니다. df2는이 수식의 분자에 있더라도 "분모 자유도"라고합니다.

— 팀 스와 스트

5

@GregSnow 답에 자유도에 대한 정의를 추가하는 것을 고려할 수 있습니까? stats.stackexchange.com/review/suggested-edits/175306 에서 그러한 변경을 제안 했지만 거부되었습니다.

— Tim Swast

22

회귀 설정에서 F 통계량은 다음과 같이 표현됩니다.

F = \frac{(T S S - R S S) / (p - 1)}{R S S / (n - p)}

$F = \frac{(TSS - RSS)/(p-1)}{RSS/(n-p)}$

$p$ $n$ $F$ distribution with degrees of freedom $p-1$ and $n-p$ .

Also recall that

R^{2} = 1 - \frac{R S S}{T S S} = \frac{T S S - R S S}{T S S}

$R^2 = 1 - \frac{RSS}{TSS} = \frac{TSS - RSS}{TSS}$

simple algebra will tell you that

R^{2} = 1 - (1 + F \cdot \frac{p - 1}{n - p})^{- 1}

$R^2 = 1 - (1 + F \cdot \frac{p-1}{n-p})^{-1}$

where F is the F statistic from above.

This is the theoretical relationship between the F statistic (or the F test) and $R^2$ .

The practical interpretation is that a bigger $R^2$ lead to high values of F, so if $R^2$ is big (which means that a linear model fits the data well), then the corresponding F statistic should be large, which means that that there should be strong evidence that at least some of the coefficients are non-zero.

— Zheng Li
소스

1

Intuitively, I like to think that the result of the F-ratio first gives a yes-no response to the the question, 'can I reject $H_0$ ?' (this is determined if the ratio is much larger than 1, or the p-value < $\alpha$ ).

Then if I determine I can reject $H_0$ , $R^2$ then indicates the strength of the relationship between.

In other words, a large F-ratio indicates that there is a relationship. High $R^2$ then indicates how strong that relationship is.

— Entropica
소스

-1

Also, quickly:

R2 = F / (F + n-p/p-1)

Eg, The R2 of a 1df F test = 2.53 with sample size 21, would be:

R2 = 2.53 / (2.53+19) R2 = .1175

— rystoli
소스

1

I don't see how this adds anything beyond what's already in Zheng Li's answer.

— Glen_b -Reinstate Monica