선형 모형에서 결과 집계 R

회귀 모델링은 종종 과학보다 "예술"이기 때문에 회귀 구조의 여러 반복을 테스트하는 경우가 종종 있습니다. "최상의"모델을 찾기 위해 이러한 여러 모델 실행의 정보를 요약하는 효율적인 방법은 무엇입니까? 내가 사용한 한 가지 접근 방식은 모든 모델을 목록에 넣고 해당 목록을 실행 summary()하는 것입니다.하지만 비교하는 더 효율적인 방법이 있다고 생각합니까?

샘플 코드 및 모델 :

ctl <- c(4.17,5.58,5.18,6.11,4.50,4.61,5.17,4.53,5.33,5.14)
trt <- c(4.81,4.17,4.41,3.59,5.87,3.83,6.03,4.89,4.32,4.69)
group <- gl(2,10,20, labels=c("Ctl","Trt"))
weight <- c(ctl, trt)

lm1 <- lm(weight ~ group)
lm2 <- lm(weight ~ group - 1)
lm3 <- lm(log(weight) ~ group - 1)

#Draw comparisions between models 1 - 3?

models <- list(lm1, lm2, lm3)

lapply(models, summary)

r regression

— 추적
소스

데이터 준설처럼 들립니다. 모델링을 시작 하기 전에 적절한 모델이라고 생각하는 것, 공변량, 변형 등에 초점을 두어서는 안됩니다 . R은 당신이 좋은 모델을 찾기 위해 모든 모델 피팅을했는지 모른다.

— 복원 Monica Monica-G. Simpson

@Gavin-나는 이것이 매우 끔찍하게 주제를 벗어난 것을 볼 수 있지만 짧은 대답은 아니오입니다. 데이터 준설을 옹호하거나 데이터 세트의 임의 변수 사이의 가짜 관계를 찾지 않습니다. 소득이 포함 된 회귀 모형을 고려하십시오. 모델에 미치는 영향을 확인하기 위해 소득에 대한 변환을 테스트하는 것이 합리적이지 않습니까? 소득 로그, 10s 달러 소득 로그, 100s 소득 로그 ...? 데이터 준설 인 경우에도 많은 모델 실행의 결과를 집계 할 수있는 기능 / 요약 도구가 여전히 도움이 되겠습니까?

— Chase

답변:

그들을 플롯!

http://svn.cluelessresearch.com/tables2graphs/longley.png

또는, 당신은 테이블 사용해야하는 경우 : apsrtable 패키지 또는 mtable의 기능 memisc의 패키지를.

사용 mtable

 mtable123 <- mtable("Model 1"=lm1,"Model 2"=lm2,"Model 3"=lm3,
     summary.stats=c("sigma","R-squared","F","p","N"))

> mtable123

Calls:
Model 1: lm(formula = weight ~ group)
Model 2: lm(formula = weight ~ group - 1)
Model 3: lm(formula = log(weight) ~ group - 1)

=============================================
                 Model 1   Model 2   Model 3 
---------------------------------------------
(Intercept)      5.032***                    
                (0.220)                      
group: Trt/Ctl  -0.371                       
                (0.311)                      
group: Ctl                 5.032***  1.610***
                          (0.220)   (0.045)  
group: Trt                 4.661***  1.527***
                          (0.220)   (0.045)  
---------------------------------------------
sigma             0.696      0.696     0.143 
R-squared         0.073      0.982     0.993 
F                 1.419    485.051  1200.388 
p                 0.249      0.000     0.000 
N                20         20        20     
=============================================

— 에두아르도 레오니
소스

@Eduardo, +1, 멋진 그래프. 종속 변수의 다른 변환이 다른 회귀에서 사용될 때주의해서 사용해야합니다.

— mpiktas

mpiktas, 그것은 테이블에서도 마찬가지입니다. 그래프는 정밀도를 희생하여 더 컴팩트하게 만듭니다.

— Eduardo Leoni 2019

@Eduardo 그래프 코드를 공유해 주시겠습니까?

— suncoolsu

@suncoolsu R 코드는 @Eduardo의 답변에 제공된 첫 번째 링크에서 사용할 수 있습니다. 그는, 그것은 grid아닙니다 lattice:)

— chl

@ 에두아르도-자세한 답변 주셔서 감사합니다, 나는 memisc이전에 몰랐다 , 떨림에 가지고 매우 편리한 패키지처럼 보인다!

— Chase

다음은 정확한 질문에 대한 답변이 아닙니다. 그래도 몇 가지 아이디어를 줄 수 있습니다. 1-4 개의 독립 변수를 사용하여 여러 회귀 모형의 적합치를 평가하기 위해 최근에 한 일입니다 (종속 변수는 df1 데이터 프레임의 첫 번째 열에 있음).

# create the combinations of the 4 independent variables
library(foreach)
xcomb <- foreach(i=1:4, .combine=c) %do% {combn(names(df1)[-1], i, simplify=FALSE) }

# create formulas
formlist <- lapply(xcomb, function(l) formula(paste(names(df1)[1], paste(l, collapse="+"), sep="~")))

as.character (formlist)의 내용은

 [1] "price ~ sqft"                     "price ~ age"                     
 [3] "price ~ feats"                    "price ~ tax"                     
 [5] "price ~ sqft + age"               "price ~ sqft + feats"            
 [7] "price ~ sqft + tax"               "price ~ age + feats"             
 [9] "price ~ age + tax"                "price ~ feats + tax"             
[11] "price ~ sqft + age + feats"       "price ~ sqft + age + tax"        
[13] "price ~ sqft + feats + tax"       "price ~ age + feats + tax"       
[15] "price ~ sqft + age + feats + tax"

그런 다음 유용한 지수를 모았습니다.

# R squared
models.r.sq <- sapply(formlist, function(i) summary(lm(i))$r.squared)
# adjusted R squared
models.adj.r.sq <- sapply(formlist, function(i) summary(lm(i))$adj.r.squared)
# MSEp
models.MSEp <- sapply(formlist, function(i) anova(lm(i))['Mean Sq']['Residuals',])

# Full model MSE
MSE <- anova(lm(formlist[[length(formlist)]]))['Mean Sq']['Residuals',]

# Mallow's Cp
models.Cp <- sapply(formlist, function(i) {
SSEp <- anova(lm(i))['Sum Sq']['Residuals',]
mod.mat <- model.matrix(lm(i))
n <- dim(mod.mat)[1]
p <- dim(mod.mat)[2]
c(p,SSEp / MSE - (n - 2*p))
})

df.model.eval <- data.frame(model=as.character(formlist), p=models.Cp[1,],
r.sq=models.r.sq, adj.r.sq=models.adj.r.sq, MSEp=models.MSEp, Cp=models.Cp[2,])

최종 데이터 프레임은

                      model p       r.sq   adj.r.sq      MSEp         Cp
1                price~sqft 2 0.71390776 0.71139818  42044.46  49.260620
2                 price~age 2 0.02847477 0.01352823 162541.84 292.462049
3               price~feats 2 0.17858447 0.17137907 120716.21 351.004441
4                 price~tax 2 0.76641940 0.76417343  35035.94  20.591913
5            price~sqft+age 3 0.80348960 0.79734865  33391.05  10.899307
6          price~sqft+feats 3 0.72245824 0.71754599  41148.82  46.441002
7            price~sqft+tax 3 0.79837622 0.79446120  30536.19   5.819766
8           price~age+feats 3 0.16146638 0.13526220 142483.62 245.803026
9             price~age+tax 3 0.77886989 0.77173666  37884.71  20.026075
10          price~feats+tax 3 0.76941242 0.76493500  34922.80  21.021060
11     price~sqft+age+feats 4 0.80454221 0.79523470  33739.36  12.514175
12       price~sqft+age+tax 4 0.82977846 0.82140691  29640.97   3.832692
13     price~sqft+feats+tax 4 0.80068220 0.79481991  30482.90   6.609502
14      price~age+feats+tax 4 0.79186713 0.78163109  36242.54  17.381201
15 price~sqft+age+feats+tax 5 0.83210849 0.82091573  29722.50   5.000000

마지막으로 Cp 플롯 (라이브러리 wle 사용)

— 조지 돈 타스
소스