Laplace 오류가있는 선형 회귀

선형 회귀 모델을 생각해

y_{i} = x_{i} \cdot β + ε_{i}, i = 1, \dots, n,

$y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n,$ 여기서

ε_{i} \sim L (0, b)

$\varepsilon _i \sim \mathcal L(0, b)$ , 즉 ,

0

$0$ 평균 및

b

$b$ 스케일 모수를 갖는 라플라스 분포 는 모두 서로 독립적입니다. 알 수없는 모수

의 최대 가능성 추정을 고려하십시오

β

$\boldsymbol \beta$ :

- \log p (y ∣ X, β, b) = n \log (2 b) + \frac{1}{b} \sum_{i = 1}^{n} | x_{i} \cdot β - y_{i} |

$-\log p(\mathbf y \mid \mathbf X, \boldsymbol \beta, b) = n\log (2b) + \frac 1b\sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i|$ 이로부터

{\hat{β}}_{M L} = {\arg min}_{β \in R^{m}} \sum_{i = 1}^{n} | x_{i} \cdot β - y_{i} |

$\hat{\boldsymbol \beta}_{\mathrm {ML}} = {\arg\min }_{\boldsymbol \beta \in \mathbb R^m} \sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i|$

한 사람이 어떻게 잔차의 분포 찾을 수 있습니다 $\mathbf y - \mathbf X\hat{\boldsymbol \beta}_{\mathrm {ML}}$ 이 모델을?

regression laplace-distribution

— nmerci
소스

잔차 분포를 구한다는 것은 무슨 뜻입니까?

— jlimahaverford

잔차는 임의의 벡터로 그룹화 할 수 있기 때문에 분포를 알고 싶습니다. 적어도 처음 두 순간.

— nmerci

감사합니다! 시뮬레이션 및 플로팅을 고려 했습니까?

— jlimahaverford

예, 잔차에 대한 신뢰 영역을 구성하고 싶습니다. 예를 들어 가우시안 오류의 경우 영역이 타원체입니다.

— nmerci

잔차 (실제로 오류라고 함)는 이중 지수 분포 (Laplace 분포)를 사용하여 임의로 분포 된 것으로 가정합니다. 이 x 및 y 데이터 포인트를 피팅하는 경우 숫자로 수행하십시오. 먼저 위에 게시 한 공식을 사용하여 이러한 점에 대한 beta-hat_ML을 계산합니다. 점을 통과하는 선이 결정됩니다. 그런 다음 해당 x 값에서 선의 y 값에서 각 점의 y 값을 뺍니다. 이것이 해당 지점의 잔차입니다. 모든 점의 잔차를 사용하여 잔차 분포를 제공하는 히스토그램을 구성 할 수 있습니다.

Yang (2014) 의 좋은 수학적 기사가 있습니다 .

--남자 이름

— 이지
소스

링크가 작동하지 않습니다.

— Michael R. Chernick 2016 년