선형 회귀의 표준 오차는 일반적으로 반응 변수에 대해 주어지기 때문에 다른 방향으로 신뢰 구간을 얻는 방법이 궁금합니다 (예 : x 절편). 나는 그것이 무엇인지 시각화 할 수는 있지만 이것을 수행하는 간단한 방법이 있어야한다고 확신합니다. 아래는 이것을 시각화하는 방법에 대한 R의 예입니다.

set.seed(1)
x <- 1:10
a <- 20
b <- -2
y <- a + b*x + rnorm(length(x), mean=0, sd=1)

fit <- lm(y ~ x)
XINT <- -coef(fit)[1]/coef(fit)[2]

plot(y ~ x, xlim=c(0, XINT*1.1), ylim=c(-2,max(y)))
abline(h=0, lty=2, col=8); abline(fit, col=2)
points(XINT, 0, col=4, pch=4)
newdat <- data.frame(x=seq(-2,12,len=1000))

# CI
pred <- predict(fit, newdata=newdat, se.fit = TRUE) 
newdat$yplus <-pred$fit + 1.96*pred$se.fit 
newdat$yminus <-pred$fit - 1.96*pred$se.fit 
lines(yplus ~ x, newdat, col=2, lty=2)
lines(yminus ~ x, newdat, col=2, lty=2)

# approximate CI of XINT
lwr <- newdat$x[which.min((newdat$yminus-0)^2)]
upr <- newdat$x[which.min((newdat$yplus-0)^2)]
abline(v=c(lwr, upr), lty=3, col=4)

선형 회귀 분석에서 x 절편의 신뢰 구간을 계산하는 방법은 무엇입니까?

가정

• 단순 회귀 모형을 사용하십시오. $y_i = \alpha + \beta x_i + \varepsilon_i$.
• 회귀 변수에 오류가 정규 분포를 갖습니다. $\epsilon | X \sim \mathcal{N}(0, \sigma^2 I_n)$
• 보통 최소 제곱을 사용하여 맞춤

x 절편에 대한 신뢰 구간 계산을위한 3 가지 절차

• Taylor 확장 (사용하기 쉬움)
• 박스 방식의 마크 (MIB)
• CAPITANI-POLLASTRI ( https://boa.unimib.it/retrieve/handle/10281/43053/64388/DECAPITANI_Pollastri.pdf )

1 차 테일러 확장

당신의 모델은 $Y=aX+b$ 추정 표준 편차 $\sigma_a$ 과 $\sigma_b$ 의 위에 $a$ 과 $b$ 모수 및 추정 공분산 $\sigma_{ab}$. 당신은 해결

그런 다음 표준 편차 $\sigma_X$ 의 위에 $X$ 에 의해 주어진다 :

MIB

선형 회귀 분석에서 x 절편의 신뢰 구간을 계산하는 방법 에서 상자의 Marc의 코드를 참조하십시오 . .

CAPITANI-POLLASTRI

CAPITANI-POLLASTRI는 두 개의 상관 정규 랜덤 변수의 비율에 대한 누적 분포 함수 및 밀도 함수를 제공합니다. 선형 회귀 분석에서 x 절편의 신뢰 구간을 계산하는 데 사용할 수 있습니다. 이 절차는 MIB의 결과와 거의 동일한 결과를 제공합니다.

실제로 보통 최소 제곱을 사용하고 오차의 정규성을 가정하면, $\hat\beta \sim \mathcal{N}(\beta, \sigma^2 (X^TX)^{-1})$ (확인) 및 $\hat{\beta}$의 상관 관계가 있습니다 (확인 됨).

절차는 다음과 같습니다.

• 에 대한 OLS 추정기 얻기 $a$ 과 $b$.
• 분산 공분산 행렬을 구하고 추출 $\sigma_a, \sigma_b, \sigma_{ab}=\rho\sigma_a\sigma_b$.
• 그 가정 $a$ 과 $b$ 이변 량 상관 정규 분포를 따르십시오. $\mathcal{N}(a, b, \sigma_a, \sigma_b, \rho)$. 그런 다음 밀도 함수 및 누적 분포 함수$x_{intercept}= \frac{-b}{a}$ CAPITANI-POLLASTRI에서 제공합니다.
• 누적 분포 함수 사용 $x_{intercept}= \frac{-b}{a}$ 원하는 Quantile을 계산하고 신뢰 구간을 설정합니다.

3 가지 절차의 비교

절차는 다음 데이터 구성을 사용하여 비교됩니다.

• x <-1:10
• <-20
• b <--2
• y <-a + b * x + rnorm (길이 (x), 평균 = 0, sd = 1)

3 가지 방법을 사용하여 10000 개의 다른 샘플을 생성하고 분석합니다. 생성 및 분석에 사용되는 코드 (R)는 https://github.com/adrienrenaud/stackExchange/blob/master/crossValidated/q221630/answer.ipynb 에서 확인할 수 있습니다.

• MIB와 CAPITANI-POLLASTRI는 동등한 결과를 제공합니다.
• 1 차 Taylor 확장은 다른 두 가지 방법과 크게 다릅니다.
• MIB와 CAPITANI-POLLASTRI는 범위가 부족합니다. 68 % (95 %) ci는 시간의 실제 값 63 % (92 %)를 포함하는 것으로 밝혀졌습니다.
• 1 차 Taylor 확장은 오버 커버로 어려움을 겪습니다. 68 % (95 %) ci는 시간의 실제 값 87 % (99 %)를 포함하는 것으로 밝혀졌습니다.

결론

x 절편 분포는 비대칭입니다. 비대칭 신뢰 구간을 정당화합니다. MIB와 CAPITANI-POLLASTRI는 동등한 결과를 제공합니다. CAPITANI-POLLASTRI는 훌륭한 이론적 근거를 가지고 있으며 MIB의 근거를 제공합니다. MIB 및 CAPITANI-POLLASTRI는 중간 범위의 언더 커버 리를 겪으며 신뢰 구간을 설정하는 데 사용할 수 있습니다.

잔차를 부트 스트랩하는 것이 좋습니다.

library(boot)

set.seed(42)
sims <- boot(residuals(fit), function(r, i, d = data.frame(x, y), yhat = fitted(fit)) {

  d$y <- yhat + r[i]

  fitb <- lm(y ~ x, data = d)

  -coef(fitb)[1]/coef(fitb)[2]
}, R = 1e4)
lines(quantile(sims$t, c(0.025, 0.975)), c(0, 0), col = "blue")

그래프에 표시되는 것은 예측 신뢰 구간의 하한 / 상한이 축을 교차하는 지점입니다. 나는 이것이 절편의 신뢰 한계라고 생각하지는 않지만 대략적인 근사치 일 수 있습니다.