더 정확한 glm 또는 glmnet은 무엇입니까?


10

R glm과 glmnet은 다른 알고리즘을 사용합니다.

둘 다 사용할 때 추정 계수 사이에 사소한 차이가 있음을 알았습니다.

나는 하나가 다른 것보다 정확한 때와 해결 / 정확도를 절충 할 시간에 관심이 있습니다.

구체적으로 glmnet st에서 lambda = 0을 설정하는 경우를 언급하고 있습니다 .glm과 동일한 것을 추정하고 있습니다.


1
람다 = 0 일 때 성능과 정확도 차이에 대해 묻습니다. 이론적으로는 두 가지가 동일해야합니다. 나는 당신이 당신의 질문에 그것을 추가해야한다고 생각합니다.
smci

답변:


14

Glmnet은 탄력적 순 회귀를위한 것입니다. 이는 추정 계수의 크기에 L1과 L2 패널티의 혼합을 통해 처벌합니다. 모델 계수를 작게 유지하면서 모델을 통한 데이터의 편차를 최대한 설명하려고합니다. 이 슬라이드 를 이해하면 도움이됩니다.

Glm은 페널티 기간을 사용하지 않습니다.

내가 이해하는 것처럼 탄성 그물을 사용하면 추정기의 분산이 줄어들 기 때문에 약간의 편견을 받아 들일 수 있습니다. 따라서 가장 좋은 것은 바이어스와 분산 측면에서 '최고'를 어떻게 정의하는지에 달려 있어야합니다. (예를 들어 glmnet은 관측치에 비해 많은 기능이있을 때 이점이 있음을 알고 있습니다)


링크가 끊어진 것 같습니다
ndoogan

링크가 작동합니다
smci

글 만하면 glmnet의 기능을 설명하지만 OP는 glmnet에서 lambda = 0을 설정했을 때의 상황을 참조합니다. glmnet에서 사용되는 주기적 좌표 하강 피팅 방법과 연결된 차이점).
Tom Wenseleers
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.