«lagrange-multipliers» 태그된 질문

통계 학습에서 가장 인기있는 책을 읽었습니다 1- 통계 학습의 요소. 2- 통계 학습 소개 . 둘 다 능선 회귀에는 동등한 두 가지 공식이 있다고 언급합니다. 이 결과에 대해 이해할만한 수학적 증거가 있습니까? 나는 또한 Cross Validated를 겪었 지만 거기에서 확실한 증거를 찾을 수 없습니다. 또한 LASSO는 동일한 유형의 증명을 누릴 …

15 regression  lasso  regularization  ridge-regression  lagrange-multipliers 

객관적인 KKT에 대한 이해가 올바른지 확인하십시오. KKT에 대한 자세한 설명과 확인을 받으십시오. 배경 KKT 조건, 특히 보완적인 조건을 이해하려고하면 SVM 기사에서 항상 파란색으로 나타납니다. 추상 수식 목록은 필요하지 않지만 구체적이고 직관적이며 그래픽적인 설명이 필요합니다. 질문 비용 함수 f (X)를 최소화하는 P가 제약 조건 (g (P)> = 0) 내에 있으면 솔루션입니다. …

13 svm  optimization  lagrange-multipliers 

LASSO 회귀에 대한 나의 이해는 최소화 문제를 해결하기 위해 회귀 계수가 선택된다는 것입니다. minβ∥y−Xβ∥22 s.t.∥β∥1≤tminβ‖y−Xβ‖22 s.t.‖β‖1≤t\min_\beta \|y - X \beta\|_2^2 \ \\s.t. \|\beta\|_1 \leq t 실제로 이것은 Lagrange multiplier를 사용하여 수행되므로 문제를 해결할 수 있습니다. 분β∥ y− Xβ∥22+ λ ∥ β∥1minβ‖y−Xβ‖22+λ‖β‖1\min_\beta \|y - X \beta\|_2^2 + \lambda \|\beta\|_1 λλ\lambda 와 …

10 optimization  lasso  regularization  lagrange-multipliers