LASSO 가정


18

LASSO 회귀 시나리오에서

와이=엑스β+ϵ ,

LASSO 추정치는 다음 최적화 문제에 의해 제공됩니다.

β||와이엑스β||+τ||β||1

에 관한 배포 가정이 있습니까?ϵ

OLS 시나리오에서는 ϵ 이 독립적이며 정규적으로 배포 될 것으로 예상합니다 .

LASSO 회귀 분석에서 잔차를 분석하는 것이 이치에 맞습니까?

\ beta_j에 대한 독립적 인 이중 지수 사전에서 LASSO 추정값을 사후 모드로 얻을 수 있음을 알고 있습니다 β제이. 그러나 표준 "가정 확인 단계"를 찾지 못했습니다.

미리 감사드립니다 (:

답변:


16

나는 LASSO의 전문가가 아니지만 여기에 내가 가지고 있습니다.

첫째, OLS는 무관심과 정상 위반에 매우 강력합니다. 그런 다음 정리 7에서 판단하고 강력한 회귀 및 올가미 기사 (X. Huan, C. Caramanis 및 S. Mannor) 에서 위의 논의를 검토하면 LASSO 회귀에서 의 분포에 더 관심이 없다고 생각합니다. 의 공동 분포에 있습니다. 정리는 가 표본 이라는 가정에 의존 하므로 일반적인 OLS 가정과 비교할 수 있습니다. 그러나 LASSO는 덜 제한적이며 선형 모델에서 생성되도록 를 제한하지 않습니다 .ε나는(와이나는,엑스나는)(와이나는,엑스나는)와이나는

요약하면 첫 번째 질문에 대한 답은 '아니요'입니다. 에 대한 분포 가정은 없으며 모든 분포 가정은 입니다. 또한 LASSO에서는 조건부 분포 에 대한 가정이 없기 때문에 약 합니다.ε(와이,엑스)(와이|엑스)

그러나 두 번째 질문에 대한 답은 '아니오'입니다. 이후 아무런 역할을하지 않는다 그것은 그들에게 당신이 OLS에서 그들을 분석 (정상 테스트,이 분산, 더빈 - 왓슨 등) 방법을 분석하는 이해가되지 않습니다. 그러나 모델 적합도가 얼마나 좋은지 컨텍스트에서 분석해야합니다.ε

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.