회귀 계수의 역 분포

우리가 선형 모형을 가지고 있다고 가정하자 $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ 모든 표준 회귀 (Gauss-Markov) 가정을 충족합니다. 우리는 관심이있다 $\theta = 1/\beta_1$ .

질문 1 : 분배에 필요한 가정 $\hat{\theta}$ 잘 정의되어 있습니까? $\beta_1 \neq 0$ 다른 사람이 중요할까요?

질문 2 : 오류가 정규 분포를 따른다는 가정을 추가하십시오. 우리는 알고 있다면 $\hat{\beta}_1$ MLE이고 $g(\cdot)$ 단조 함수입니다. $g\left(\hat{\beta}_1\right)$ 에 대한 MLE입니다 $g(\beta_1)$ . 단 조성은 인근 지역에서만 필요합니까? $\beta_1$ ? 다시 말해 $\hat{\theta} = 1/\hat{\beta}$ MLE? 연속 매핑 정리는 적어도이 매개 변수가 일관성이 있음을 알려줍니다.

질문 3 : 델타 방법과 부트 스트랩이 모두 분포를 찾는 적절한 수단입니까? $\hat{\theta}$ ?

질문 4 : 이러한 답변이 매개 변수에 어떻게 변경됩니까 ? $\gamma = \beta_0 / \beta_1$ ?

따로 : 우리는 문제를 재정의하는 것을 고려할 수있다

\begin{aligned} {엑스}_{나는} & = \frac{β_{0}}{β_{1}} + \frac{1}{β_{1}} {와이}_{나는} + \frac{1}{β_{1}} ϵ_{나는} \\ = γ + θ {와이}_{나는} + \frac{1}{β_{1}} ϵ_{나는} \end{aligned}

$\begin{align*} x_i &= \frac{\beta_0}{\beta_1} + \frac{1}{\beta_1} y_i + \frac{1}{\beta_1} \epsilon_i \\ &= \gamma + \theta y_i + \frac{1}{\beta_1} \epsilon_i \end{align*}$ 매개 변수를 직접 추정합니다. Gauss-Markov 가정이 더 이상 여기에서 의미가 없기 때문에 이것은 나에게 효과가없는 것 같습니다. 우리는 말할 수 없다

E [ϵ ∣ y]

$\text{E}[\epsilon \mid y]$ 예를 들어. 이 해석이 맞습니까?

— 야경
소스

"표준"가정에는

ϵ_{i}

$\epsilon_i$ 또는 아닙니다?

— whuber

좋은 지적; 나는 그 가정을 MLE에 관한 부분에 덧붙였다. 그러나 다른 사람들에게는 필요하지 않아야합니다.

— 찰리

샘플링 분포

β_{1}

$\beta_1$ 정상입니다.

θ

$\theta$ 법선의 역수입니다. 이것은 평균이 무엇이든 상관없이 분기 (무한) 평균을 가진 이봉 입니다

β_{1}

$\beta_1$ 델타 방법은 끔찍할 것이며, 일반적인 점근 MLE 근사치가 나쁘고, 심지어 부트 스트랩도 의심 될 수 있습니다.

— whuber

@ whuber, 당신은 그것에 확장 할 수 있습니까? 나의 직감은 법선의 역수가 어떻게 양봉이되어야하는지 알지 못한다. 내 생각 엔 모든 질량은 법선 평균의 역수에있을 것이다.

1 / {\hat{β}}_{1}

$1/\hat{\beta}_1$ ). 나는 질량이 0에 가까워 무한한 평균 가능성에 대해 걱정했다. 부트 스트랩과 점근 적 결과는 추정되는 모멘트의 존재를 필요로한다.

— Charlie

상호 법선의 PDF는

\exp (- (1 / x - μ)^{2} / (2 σ^{2})) / (\sqrt{2 π} x^{2} σ) d x

$\exp(-(1/x-\mu)^2/(2\sigma^2))/(\sqrt{2\pi}x^2\sigma)dx$ . 0에서 모든 도함수는 0이며; 로그의 임계점을 찾는 것은 긍정적이고 부정적인 모드를 식별합니다 (

σ

$\sigma$ 과

μ / σ

$\mu/\sigma$ ); 필수

| x |

$|x|$ 적분처럼 분기

| x | / x^{2} = 1 / | x |

$|x|/x^2=1/|x|$ . 역수 무한한 제 순간 첨부합니다의 문제 있는 모든 법선을 포함하는 0에서 양의 확률 분포를 갖는 랜덤 변수.

— whuber

Q1. 만약 $\hat\beta_1$ 의 MLE입니다 $\beta_1$ 그런 다음 $\hat\theta$ 의 MLE입니다 $\theta$ 과 $\beta_1 \neq 0$ 이 추정기가 명확하게 정의되기에 충분한 조건입니다.

Q2. $\hat\theta = 1/\hat\beta$ 의 MLE입니다 $\theta$ MLE의 불변 속성에 의해. 또한 단조 로움이 필요하지 않습니다. $g$ 역수를 구할 필요가없는 경우 필요한 것만 $g$ 각 지점마다 잘 정의되어 있어야합니다. Nitis Mukhopadhyay의 "확률 및 통계적 추론"의 정리 7.2.1 pp. 350 에서이를 확인할 수 있습니다 .

Q3. 예, 두 가지 방법을 모두 사용할 수 있습니다. 프로필의 가능성을 확인하겠습니다. $\theta$ .

Q4. 여기서 관심있는 매개 변수로 모델을 다시 매개 변수화 할 수 있습니다. $(\theta,\gamma)$ . 예를 들어 $\gamma$ 이다 $\hat\gamma=\hat\beta_0/\hat\beta_1$ 평소와 같이이 매개 변수 또는 부트 스트랩 분포의 프로파일 가능성을 계산할 수 있습니다.

마지막에 언급 한 접근 방식이 올바르지 않습니다. 실제로 문헌에서 확인할 수있는 "교정 모델"을 고려하고 있습니다. 필요한 것은 관심있는 매개 변수로 다시 매개 변수를 지정하는 것입니다.

이게 도움이 되길 바란다.

친절합니다.

— XMX
소스

답변 주셔서 감사합니다. 나는 당신이 인용하는 책을 가지고 있지 않지만 종종 이러한 속성들은 추정되는 순간의 존재를 요구합니다. 정상의 역수에 필요한 순간이 있는지 확실하지 않습니다. 내 질문 에서이 점을 분명히해야했습니다.

— Charlie