«lasso» 태그된 질문

LASSO와 적응 형 LASSO는 서로 다른 두 가지입니다. (벌칙은 다르게 보이지만, 내가 놓친 것이 있는지 확인하고 있습니다.) 일반적으로 탄력적 그물에 대해 말할 때 특별한 경우 LASSO 또는 적응 형 LASSO입니까? alpha = 1을 선택하면 glmnet 패키지는 어떤 기능을 수행합니까? 적응 형 LASSO는 더 온화한 조건에서 작동합니다. 둘 다 오라클 데이터가 …

12 lasso  glmnet  elastic-net  oracle 

GWAS에서 올가미 회귀에 "glmnet"을 사용하고 있습니다. 일부 변형 및 개체에는 결 측값이 있으며 glmnet이 결 측값을 처리 할 수없는 것 같습니다. 이에 대한 해결책이 있습니까? 또는 올가미 회귀에서 누락 된 값을 처리 할 수있는 다른 패키지가 있습니까? 여기 내 스크립트가 있습니다. > library(glmnet) > geno6<-read.table("c6sigCnt.geno") > geno6[1:10,1:10] #genotype file (0,1,2 …

12 missing-data  lasso  glmnet 

현재 reseach의 경우 이항 종속 변수에 대해 R의 glmnet 패키지를 통해 Lasso 방법을 사용하고 있습니다. glmnet에서 최적의 람다는 교차 검증을 통해 발견되며 결과 모델은 다양한 분류법 (예 : 오 분류 오류 또는 편차)과 비교할 수 있습니다. 내 질문 : 이탈은 glmnet에서 정확히 어떻게 정의됩니까? 어떻게 계산 되나요? (Friedman 등의 해당 …

12 cross-validation  lasso  glmnet  deviance  lars 

참고 문헌에 따르면 1 권 , 2 권 과 종이 . 정규화 된 회귀 (Ridge, LASSO 및 Elastic Net)와 제약 조건 간에는 동등한 내용이 언급되어 있습니다. Cross Validated 1 및 Cross Validated 2 도 살펴 보았지만 그 동등성 또는 논리에 대한 명확한 답변을 볼 수는 없습니다. 내 질문은 Karush–Kuhn–Tucker (KKT)를 …

11 regression  optimization  lasso  ridge-regression  elastic-net 

Lasso와 Ridge를 모두 사용하여 회귀 모델을 실행 중입니다 (0-5 범위의 이산 결과 변수 예측). 모델을 실행하기 전에 기능 세트를 250 에서 25 로 줄이는 SelectKBest방법을 사용 합니다. 초기 피처를 선택하지 않으면 Lasso와 Ridge는 정확도 점수가 낮아집니다 (샘플 크기가 작은 600 일 수 있음). 또한 일부 기능은 서로 관련되어 있습니다.scikit-learn 모델을 …

11 regression  predictive-models  feature-selection  lasso  ridge-regression 

지속적인 결과와 함께 LASSO를 사용하는 일부 후보 예측 변수에서 모델 선택을 시도하고 있습니다. 목표는 LASSO로부터 튜닝 파라미터의 솔루션 경로를 얻은 후에 K- 폴드 교차 검증에 의해 수행 될 수있는 최고의 예측 성능을 갖는 최적 모델을 선택하는 것이다. 여기서 문제는 데이터가 군집 샘플링 및 계층화가있는 복잡한 다단계 조사 설계 (NHANES)에서 나온다는 …

11 cross-validation  survey  lasso  glmnet 

올가미 회귀를 수행하려고하는데 다음과 같은 형식이 있습니다. 에서 최소화( Y - X w ) ' ( Y - X w ) + λwww(Y−Xw)′(Y−Xw)+λ|w|1(Y−Xw)′(Y−Xw)+λ|w|1(Y - Xw)'(Y - Xw) + \lambda \;|w|_1 주어지면 2 차 프로그래밍의 도움으로 다음과 같은 형식으로 최적의 를 찾는 것이 좋습니다 .wλλ\lambdawww 따라 에서 를 최소화1xxxX≤B.12x′Qx+c′x12x′Qx+c′x\frac{1}{2} x'Qx + …

11 regression  lasso  quadratic-form 

과 같은 특정 계수를 수동으로 수정 한 다음 모델에 을 유지하면서 계수를 다른 모든 예측 변수에 .β 1 = 1.0β1= 1.0β1=1.0\beta_1=1.0β1= 1.0β1=1.0\beta_1=1.0 R을 사용하여 어떻게 이것을 할 수 있습니까? glmnet가능하면 LASSO ( ) 와 협력하고 싶습니다 . 또는 어떻게이 계수를 특정 범위 (예 : 제한 할 수 있습니까?0.5 ≤ β1≤ …

11 r  multiple-regression  lasso  glmnet  constrained-regression 

통계 학습의 요소 (Hastie, Tibshrani & Friedman) 3 장을 읽은 후 공분산 구조를 고려하여이 질문의 제목에 인용 된 유명한 축소 방법을 구현할 수 있는지 궁금했습니다. ) 수량 ( y⃗ − Xβ⃗ )티V− 1( y⃗ − Xβ⃗ ) + λ f( β) , ( 1 ) (y→−Xβ→)TV−1(y→−Xβ→)+λf(β), (1)(\vec{y}-X\vec{\beta})^TV^{-1}(\vec{y}-X\vec{\beta})+\lambda f(\beta),\ \ \ …

11 lasso  ridge-regression 

교차 검증을 통해 람다를 결정할 때 모든 계수는 0이됩니다. 그러나 일부 예측 변수가 결과에 확실히 영향을 주어야한다는 문헌에 대한 힌트가 있습니다. 람다를 임의로 선택하여 원하는만큼의 희소성이있는 것이 쓰레기입니까? 콕스 모델에 대해 135 개 중 10 개 정도의 예측 변수를 선택하려고하지만 불행히도 효과 크기가 작습니다.

11 lasso 

닫은. 이 질문은 주제에 맞지 않습니다 . 현재 답변을받지 않습니다. 이 질문을 개선하고 싶습니까? 교차 검증에 대한 주제가 되도록 질문을 업데이트하십시오 . 작년에 문을 닫았 습니다 . 좌표 하강에 의한 선형 회귀에 대한 올가미 정규화 경로를 계산할 수있는 어떤 언어로 된 오픈 소스 구현이 있습니까? 지금까지 나는 알고 있습니다. glmnet …

11 regression  lasso  regularization 

경우 β∗=argminβ∥y−Xβ∥22+λ∥β∥1β∗=argminβ‖y−Xβ‖22+λ‖β‖1\beta^*=\mathrm{arg\,min}_{\beta} \|y-X\beta\|^2_2+\lambda\|\beta\|_1 , 수 ∥β∗∥2‖β∗‖2\|\beta^*\|_2 증가 때 λλ\lambda 증가? 나는 이것이 가능하다고 생각합니다. 하지만 ∥β∗∥1‖β∗‖1\|\beta^*\|_1 증가하지 않을 때 λλ\lambda 증가 (내 증거 ) ∥β∗∥2‖β∗‖2\|\beta^*\|_2 증가시킬 수있다. 아래 그림은 가능성을 보여줍니다. λλ\lambda 증가 할 때 \ β∗β∗\beta^* 가 PPP 에서 Q로 선형으로 이동 QQQ하면 ∥β∗∥2‖β∗‖2\|\beta^*\|_2 증가하고 ∥β∗∥1‖β∗‖1\|\beta^*\|_1 감소합니다. 그러나 \ …

11 lasso 

내 상황 : 작은 샘플 크기 : 116 이진 결과 변수 설명 변수의 긴 목록 : 44 설명 변수는 내 머리 꼭대기에서 나오지 않았습니다. 그들의 선택은 문헌에 근거했다. 대부분의 경우 샘플과 대부분의 변수에 결 측값이 있습니다. 선택된 기능 선택에 접근 : LASSO R의 glmnet 패키지는 데이터 세트에 누락 된 값이 …

11 r  spss  lasso  data-imputation 

GLM LASSO 모델이 상관 관계가 높은 그룹 중에서 특정 예측 변수를 선택하는 이유와 최상의 하위 집합 기능 선택과 다르게 예측하는 이유에 대한 직관적 인 답변을 찾고 있습니다. 1996 년 Tibshirani의 그림 2에 표시된 LASSO의 구조에서 LASSO 가 더 큰 분산을 갖는 예측 변수를 선택한다고 믿었습니다. 이제 로지스틱 회귀 모델에 대해 …

11 feature-selection  lasso 

지금까지 고차원 데이터 세트를 사용하여 불이익을받은 다변량 분석에서 이해 한 내용을 요약하려고하지만 소프트 임계 값 대 Lasso (또는 ) 불이익에 대한 적절한 정의를 얻는 데 어려움을 겪고 있습니다.L1L1L_1 보다 정확하게는, 희소 한 PLS 회귀 분석을 사용하여 게놈 데이터 ( 단일 뉴클레오티드 다형성 , 우리는 수치 변수로 간주되는 {0,1,2} 범위의 작은 …

11 multivariate-analysis  lasso  feature-selection  genetics