표준 오류는 어떻게 작동합니까?

나는 최근에 표준 오류의 내부 작동을 조사해 왔으며 그것이 어떻게 작동하는지 이해할 수 없다는 것을 알게되었습니다. 표준 오차에 대한 나의 이해는 그것이 표본 평균 분포의 표준 편차라는 것입니다. 내 질문은 :

• 일반적으로 단일 표본 만 채취 할 때 표준 오차가 표본 평균의 표준 편차임을 어떻게 알 수 있습니까?

• 표준 오차를 계산하는 방정식이 단일 표본에 대한 표준 편차 방정식을 반영하지 않는 이유는 무엇입니까?

예, 평균의 표준 오차 (SEM)는 평균의 표준 편차 (SD)입니다. (표준 오차는 샘플링 분포의 SD를 나타내는 또 다른 방법입니다.이 경우 샘플링 분포는 고정 된 크기의 샘플을 의미합니다 (N)). SEM과 모집단 SD 사이에는 수학적 관계가 있습니다. SEM = 모집단 SD / N의 제곱근.이 수학적 관계는 SEM에 대한 직접적인 추정은 거의 없지만 모집단 SD (즉, 표본의 SD)는 추정하기 때문에 매우 유용합니다. 두 번째 질문에 대해, N 크기의 여러 샘플을 수집하고 각 샘플의 평균을 계산하는 경우 평균의 SD를 계산하여 SEM을 추정 할 수 있습니다. 따라서 SEM 공식은 실제로 단일 샘플의 SD 공식을 반영합니다.

이 독립적이고 동일하게 분포되어 있다고 가정 합니다. 이것은 당신이 언급하고 있다고 확신하는 상황입니다. 공통 평균은 μ 이고 공통 분산은 σ 2 로 둡니다 .$X_1, X_2, \ldots, X_n$$\mu$$\sigma^2$

$X_b=\sum_i X_i/n$$X_b$$\mu$$X_b$$X_i/n$$\sigma^2/n^2$$n$ 합으로 분산 된 변수를 가지므로 각 항은 동일한 분산을 갖습니다. 결과적으로, 우리는 얻습니다.$n \sigma^2/n^2 = \sigma^2/n$ for the variance of the sample mean.

Usually we do not know $\sigma^2$ and so we must estimate it from the data. Depending on the setting, there are various ways to do this. The two most common, general-purpose estimates of $\sigma^2$ are the sample variance $s^2 = \frac{1}{n}\sum_i(X_i-X_b)^2$ and a small multiple of it, $s_u^2 = \frac{n}{n-1}s^2$ (which is an unbiased estimator of $\sigma^2$). Using either one of these in place of $\sigma^2$ in the preceding paragraph and taking the square root gives the standard error in the form of $s/\sqrt{n}$ or $s_u/\sqrt{n}$.

+1 to both @JoelW. & @MichaelChernick. I want to add a detail to @JoelW.'s answer. He notes that "we almost never have a direct estimate of the SEM", which is essentially true, but it's worth explicitly recognizing a caveat to that statement. Specifically, when a study compares multiple groups / treatments (for example, placebo vs. standard drug vs. new drug), an ANOVA is typically used to see if they are all equal. The null hypothesis is that each group has been drawn from the same population, and thus, all three means are estimates of the population mean. That is, the null hypothesis in a standard ANOVA assumes that you do have a direct estimate of the SEM. Consider the equation for the variance of the sampling distribution of means:

$$\sigma^2_{\bar x}=\frac{\sigma^2_{pop}}{n_j},$$ where $\sigma^2_{pop}$ is the population variance, and $n_j$ is the number of groups. Although we don't usually perform the calculations in this way, we could simply use standard formulas to plug in estimated values, and with minimal algebraic reshuffling, form the $F$ statistic like so: $$F=\frac{n_j\times s^2_{\bar x}}{s^2_{\text{pooled within group}}}$$ In this case, we really would be using the standard formula (only applied over the group means), that is: $$s^2_{\bar x}=\frac{\sum_{j=1}^{n_j}(\bar x_j-\bar x_.)^2}{n_j-1},$$ with $x_.$ being the mean of the group means.

In that we typically believe the null hypothesis is not true, @JoelW.'s point is right, but I work through this point, because I think the clarity it affords is helpful for understanding these issues.