동시 L1 및 L2 정규화 (일명 탄력적 그물)를 사용한 선형 회귀 분석의 베이지안 해석이 있습니까?

페널티 를 갖는 선형 회귀 는 계수에 앞서 가우시안이 주어진 MAP 추정치를 찾는 것과 동일 하다는 것이 잘 알려져 있습니다. 마찬가지로, 사용 패널티 것은 종래와 같은 라플라스 분포를 사용하는 것과 동일하다. $l^2$ $l^1$

및 정규화 의 일부 가중치 조합을 사용하는 것은 드문 일이 아닙니다 . 이것이 계수에 대한 이전의 일부 분포와 동일하다고 말할 수 있습니까 (직관적으로, 반드시 있어야하는 것처럼 보입니다)? 이 분포에 멋진 분석 형식 (가우시안과 라플라시안 혼합)을 제공 할 수 있습니까? 그렇지 않다면 왜 안됩니까? $l^1$ $l^2$

— 마이클 커리
소스

이 문서를 참조하십시오 : tandfonline.com/doi/abs/10.1198/jasa.2011.tm09241 (이것이 1-2 주 안에 제대로 답변되지 않으면, 그 논문의 요약을 게시 할 것입니다)

— user795305

내가 어떤 시간 frequentists가 페널티 가지고 추가해야

, 베이지안 해석 할 수 있습니다 (아마도 부적절한) 이전과 같은

표준 가우스 모델에서.

p e n

$pen$

e^{- p e n}

$e^{-pen}$

— user795305 2016 년

감사합니다.이 논문과 인용은 제 질문에 완벽하게 답변합니다!

— Michael Curry

큰! 어떤 인용을 의미하는지 지적 하시겠습니까? (저는이 문서를 곧 읽을 계획이며 귀하의 의견에 관심이 있습니다)

— user795305

좋아! 나는 그들의 베이지안 해석이 나의 두번째 코멘트와 관련이 있다고 생각한다

— user795305

Ben의 의견은 충분하지만 Ben이 언급 한 논문 이전에 나온 참조를 더 제공합니다.

$\beta$

탄성 망에 대한 수정 된 베이지안 모델은 최근 Roy와 Chakraborty (수식 6)에 의해 제안되었습니다 . 저자들은 또한 사후 분포에서 샘플링하기 위해 적절한 Gibbs 샘플러를 제시하고 Gibbs 샘플러가 기하학적 속도로 고정 분포로 수렴 함을 보여줍니다. 이러한 이유로 이러한 참조는 Hans 논문 외에 유용한 것으로 판명되었습니다 .

— 그린 파커
소스

(+1) 좋은 답변입니다!

— user795305

미래의 모든 사람을 위해-논문은 모두 볼 가치가 있지만 Hans 논문은 다양한 배포판에 대한 Gibbs 샘플러와 Stan으로 쉽게 번역 할 수있는 이전의 계층 적 표현을 제공합니다.

— 마이클 커리