리지와 LASSO는 공분산 구조를 가지고 있습니까?

통계 학습의 요소 (Hastie, Tibshrani & Friedman) 3 장을 읽은 후 공분산 구조를 고려하여이 질문의 제목에 인용 된 유명한 축소 방법을 구현할 수 있는지 궁금했습니다. ) 수량

$$(\vec{y}-X\vec{\beta})^TV^{-1}(\vec{y}-X\vec{\beta})+\lambda f(\beta),\ \ \ (1)$$

일반적인 이것은 주로 특정 응용 프로그램에서 (때로는 추정 할 수있는 공분산 구조)에 대해 다른 분산이 있으며 포함하고 싶습니다. 회귀 분석에서 능선 회귀 분석을 위해 수행했습니다. 적어도 Python / C에서 구현하면 계수 추적 경로에 중요한 차이가 있음을 알 수 있습니다.이 두 가지 경우의 교차 유효성 검사 곡선을 비교할 때도 주목할 만합니다.→

$$(\vec{y}-X\vec{\beta})(\vec{y}-X\vec{\beta})+\lambda f(\beta).\ \ \ \ \ \ \ \ \ \ \ \ (2)$$ $\vec{y}$

나는 Least Angle Regression을 통해 LASSO를 구현하려고 준비하고 있었지만,이를 위해서는 대신 최소화 할 때 모든 멋진 속성이 여전히 유효하다는 것을 먼저 증명해야합니다 . 지금까지, 나는이 모든 것을 실제로하는 어떤 작업도 보지 못했지만, 얼마 전에 나는 " 통계를 모르는 사람들은 그것을 재발견 할 운명이있다 "(Brad Efron에 의해)? ), 그래서 내가 먼저 여기에 묻는 이유입니다 (통계 문헌의 상대적으로 새로운 사람이라는 것을 감안할 때). 이것은 이미이 모델의 어딘가에 있습니까? 어떤 방식으로 R로 구현됩니까? ( 대신 을 최소화하여 릿지의 솔루션 및 구현 포함( 2 ) ( 1 ) ( 2 $(1)$$(2)$$(1)$$(2)$, R의 lm.ridge 코드에서 구현 된 것은 무엇입니까?

답변 해 주셔서 감사합니다.

우리는 콜레 분해 알고 있다면 말하자면, 다음 이며 응답을 벡터 로, 예측 변수를 행렬 로 바꾸어 표준 알고리즘을 사용할 수 있습니다 .( y - X β ) T V - 1 ( y - X β ) = ( L y - L X β ) T ( L y - L X β ) L y L $V^{-1} = L^TL$

$$(y - X\beta)^T V^{-1} (y - X\beta) = (Ly - LX\beta)^T (Ly - LX\beta)$$ $Ly$$LX$