“긴장 올가미”가 표준 올가미와 다른 이유는 무엇입니까?

데이터 세트 시작하여 올가미를 적용하고 솔루션 β L을 구하면 데이터 세트 ( X S , Y )에 올가미를 다시 적용 할 수 있습니다 . 여기서 S 는 0이 아닌 세트입니다. ''LLASO ''솔루션이라고 불리는 솔루션 β R L 을 얻기 위해 β L의 색인 (내가 틀렸다면 나를 교정하십시오!) 솔루션 β L 은 ( X , Y )에 대한 Karush–Kuhn–Tucker (KKT) 조건 을 충족해야합니다.$(X,Y)$$\beta^L$$(X_S, Y)$$S$$\beta^L$$\beta^{RL}$$\beta^L$$(X,Y)$그러나 대한 KKT 조건의 형태를 고려할 때 , 이것 또한 만족하지 않습니까? 그렇다면 LASSO를 두 번째로하는 요점은 무엇입니까?$(X_S, Y)$

이 질문은 다음과 같습니다 : "이중 올가미"또는 올가미 두 번 수행의 장점?

Meinshausen (2007) 의 정의 1 에서 완화 된 올가미의 솔루션을 제어하는 ​​두 가지 매개 변수가 있습니다.

첫번째는, , 상기 제 반면, 변수의 선택을 제어 φ 컨트롤 수축 수준. ϕ = 1 일 때 올가미와 이완-올가미는 동일하지만 (당신이 말했듯이!) ϕ < 1의 경우 선택한 변수에 대한 직교 투영을 제공하는 것에 더 가까운 계수를 가진 해를 얻습니다 (소프트 디 바이어스의 종류) ).$\lambda$$\phi$$\phi= 1$$\phi<1$

이 공식은 실제로 두 가지 문제를 해결하는 데 해당합니다.

1. 먼저 페널티 매개 변수 가 포함 된 전체 올가미$\lambda$
2. $X_S$$X$$\lambda\phi$