회귀 계수의 샘플링 분포

이전에는 미지 모수의 관점에서 추정기에 대한 결과를 제공 한 분포 분포 샘플링에 대해 배웠습니다. 예를 들어, 선형 회귀 모델 에서 및 의 샘플링 분포 $\hat\beta_0$ $\hat\beta_1$ $Y_i = \beta_o + \beta_1 X_i + \varepsilon_i$

{\hat{β}}_{0} \sim N (β_{0}, σ^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}}))

$\hat{\beta}_0 \sim \mathcal N \left(\beta_0,~\sigma^2\left(\frac{1}{n}+\frac{\bar{x}^2}{S_{xx}}\right)\right)$ 및

{\hat{β}}_{1} \sim N (β_{1}, \frac{σ^{2}}{S_{x x}})

$\hat{\beta}_1 \sim \mathcal N \left(\beta_1,~\frac{\sigma^2}{S_{xx}}\right)$

여기서 $S_{xx} = \sum_{i=1}^n (x_i^2) -n \bar{x}^2$

그러나 지금 나는 책 에서 다음을 보았습니다 .

일반적인 방법으로 모형을 최소 제곱으로 적합하다고 가정합니다. 베이지안 후 분포를 고려하고, 일반적인 잦은 표본 추출 분포와 동일하도록 사전을 선택하십시오.

$(\begin{matrix} β_{0} \\ β_{1} \end{matrix}) \sim N_{2} [(\begin{matrix} {\hat{β}}_{1} \\ {\hat{β}}_{2} \end{matrix}), {\hat{σ}}^{2} {(\begin{matrix} n & \sum_{i = 1}^{n} x_{i} \\ \sum_{i = 1}^{n} x_{i} & \sum_{i = 1}^{n} x_{i}^{2} \end{matrix})}^{- 1}]$ $\left( \begin{matrix} \beta_0 \\ \beta_1 \end{matrix} \right) \sim \mathcal N_2\left[\left(\begin{matrix} \hat{\beta}_1 \\ \hat{\beta}_2 \end{matrix} \right),~\hat{\sigma}^2 \left(\begin{matrix} n & \sum_{i=1}^{n}x_i \\ \sum_{i=1}^{n}x_i & \sum_{i=1}^{n}x_i^2 \end{matrix} \right) ^{-1}\right]$

다음과 같은 이유로 혼란 스럽습니다.

추정치가 처음 두 식의 왼쪽 (lhs)과 마지막 식의 오른쪽 (rhs)에 나타나는 이유는 무엇입니까?
마지막 표현의 베타 모자에 0과 1 대신 1과 2의 첨자가있는 이유는 무엇입니까?
이것들은 같은 것의 다른 표현입니까? 만약 그렇다면, 누군가 어떻게 그들이 동등한 지 보여줄 수 있습니까? 그렇지 않다면 누군가가 차이점을 설명 할 수 있습니까?
마지막 표현이 처음 두 표현의 "반전"인 경우입니까? 왜 마지막 식의 2x2 행렬이 반전되고 추정치 / 모수가 rhs lhs 에서 전환 됩니까? 그렇다면 누군가가 다른 사람에게가는 방법을 보여줄 수 있습니까? $\leftrightarrow$

— 조 킹
소스

이 부분은 주로 첫 번째, 세 번째 및 네 번째 질문과 관련이 있습니다.

베이지안 통계와 잦은 통계 사이에는 근본적인 차이가 있습니다.

빈번한 통계는 일반적으로 가능성을 통해 임의의 고정 매개 변수 값이 무작위로 간주되는 데이터와 일치 하는지를 추론합니다. 당신은 걸릴 고정하지만 알 수없는, 그리고 더 많은 가능성이 데이터를 확인하는 것을 볼로 (일부 매개 변수 또는 매개 변수); 매개 변수가있는 위치에 대해 추론하기 위해 매개 변수가 제공된 일부 모델의 샘플링 특성을 살펴 봅니다. (Bayesian은 잦은 접근 방식이 '발생하지 않은 일의 빈도'에 기초하고 있다고 말할 수있다) $\theta$

베이지안 통계는 가능성을 통해 매개 변수에 대한 확률 분포를 기준으로 매개 변수에 대한 정보를보고, 데이터에 의해 업데이트됩니다. 모수는 분포를 가지므로 . $P(\theta|\underline{x})$

이것은 종종 비슷해 보이지만 한 변수는 다른 방향으로 생각하는 렌즈를 통해 "잘못된 방향으로"보이는 것처럼 보입니다.

따라서 근본적으로 그것들은 다소 다릅니다 . 그리고 한 LHS에있는 것이 다른 RHS에 있다는 것은 우연이 아닙니다.

둘 다로 작업하면 곧 합리적으로 명확 해집니다.

두 번째 질문은 단순히 오타와 관련이있는 것 같습니다.

---

"일반적인 잦은 표본 추출 분포와 동일하다"라는 말은 저자가 잦은 표본 추출 분포를 언급하고 있음을 의미하는 것으로 생각했다. 이것을 잘못 읽었습니까?

거기에는 두 가지 일이 있습니다-약간 느슨하게 표현했습니다 (사람들은 항상 이런 종류의 지나치게 느슨한 표현을합니다). 그리고 당신도 의도와 다르게 해석하고 있다고 생각합니다.

그들이 말하는 표현은 정확히 무엇을 의미합니까?

아래의 논의가 의도 된 의미를 명확하게하는 데 도움이되기를 바랍니다.

이 표현이 파생 된 참조 (좋은 라이브러리 액세스 권한이 없으므로 온라인 준비)를 제공 할 수 있다면 감사하겠습니다.

여기에서 바로 따라옵니다.

http://en.wikipedia.org/wiki/Bayesian_linear_regression

에 대해 평평한 우선 순위를 취함으로써 에 대해서도 평평한 것으로 생각합니다 . $\beta$ $\sigma^2$

그 이유는 후부가 가능성에 비례하고 모수의 후단에서 생성 된 구간이 모수에 대한 잦은 신뢰 구간과 일치하기 때문입니다.

여기서 처음 몇 페이지도 도움이 될 것입니다.

— Glen_b-복귀 모니카
소스

감사합니다. 도움이됩니다. 나는 이미 약간 베이지안 통계를했다. "일반적인 잦은 표본 추출 분포와 동일하다" 라는 말 때문에 여전히 다소 혼란스러워 한다. 이것을 잘못 읽었습니까? 그들이 말하는 표현은 정확히 무엇을 의미합니까? 이 표현이 파생 된 참조 (좋은 라이브러리 액세스 권한이 없으므로 온라인 준비)를 제공 할 수 있다면 감사하겠습니다.

— Joe King

조-위의 내 편집을 참조하십시오

— Glen_b-복지국 모니카