nls ()가 왜“초기 모수 추정에서 특이 기울기 행렬”오류를 발생 시키는가?

배출량 감축 및 차량 당 비용에 대한 몇 가지 기본 데이터가 있습니다.

q24 <- read.table(text = "reductions  cost.per.car
    50  45
    55  55
    60  62
    65  70
    70  80
    75  90
    80  100
    85  200
    90  375
    95  600
    ",header = TRUE, sep = "")

나는 이것이 지수 함수라는 것을 알고 있으므로 다음에 맞는 모델을 찾을 수있을 것으로 기대합니다.

    model <- nls(cost.per.car ~ a * exp(b * reductions) + c, 
         data = q24, 
         start = list(a=1, b=1, c=0))

하지만 오류가 발생했습니다.

Error in nlsModel(formula, mf, start, wts) : 
  singular gradient matrix at initial parameter estimates

나는 내가보고있는 오류에 대해 많은 질문 을 읽었 으며 문제는 아마도 더 나은 / 다른 start값이 필요하다는 것입니다 ( initial parameter estimates약간 더 이해가가 능합니다). 더 나은 매개 변수를 추정하는 방법에 대해 알고 싶습니다.

비선형 모델에 적합한 시작 값을 자동으로 찾는 것은 예술입니다. (데이터를 플로팅하고 시각적으로 추측 할 수있는 경우 일회성 데이터 세트의 경우 비교적 쉽습니다.) 한 가지 방법은 모형 을 선형화하고 최소 제곱 추정값을 사용하는 것입니다.

이 경우 모델의 형식은

알 수없는 매개 변수 . 지수가 있으면 로그를 사용하도록 권장하지만 c 를 추가 하면 그렇게하기가 어렵습니다. 주의 사항은,하지만, 경우에 것을 A가 양수 한 후 C는 이하의 작은 기대 값보다 것이다 Y를 따라서 - 그리고 가장 작은 것보다 약간 작을 수 있습니다 관측 값 Y . ( a 가 음수이면 c 의 가장 큰 관측 값 Y 보다 약간 큰 c 값을 고려해야합니다 .)$a,b,c$$c$$a$$c$$Y$$Y$$a$$c$$Y$

그런 다음 관측치의 최소값 y i 의 절반과 같은 초기 추정값 c 0 을 사용하여 를 처리합시다 . 이처럼 가혹한 추가 용어없이 모델을 다시 작성할 수 있습니다.$c$$c_0$$y_i$

그건 우리의 로그를 취할 수 있습니다 :

그것은 모델에 대한 선형 근사치입니다. 두 와 (b)은 최소 제곱으로 추정 할 수있다.$\log(a)$$b$

수정 된 코드는 다음과 같습니다.

c.0 <- min(q24$cost.per.car) * 0.5
model.0 <- lm(log(cost.per.car - c.0) ~ reductions, data=q24)
start <- list(a=exp(coef(model.0)[1]), b=coef(model.0)[2], c=c.0)
model <- nls(cost.per.car ~ a * exp(b * reductions) + c, data = q24, start = start)

출력 (예제 데이터)은 다음과 같습니다.

Nonlinear regression model
  model: cost.per.car ~ a * exp(b * reductions) + c
   data: q24
        a         b         c 
 0.003289  0.126805 48.487386 
 residual sum-of-squares: 2243

Number of iterations to convergence: 38 
Achieved convergence tolerance: 1.374e-06

수렴이 좋아 보인다. 그것을 플로팅합시다 :

plot(q24)
p <- coef(model)
curve(p["a"] * exp(p["b"] * x) + p["c"], lwd=2, col="Red", add=TRUE)

잘 작동했습니다!

이를 자동화 할 때 극한값을 ( ) 데이터 의 스프레드와 비교하는 등 잔차에 대한 빠른 분석을 수행 할 수 있습니다 . a < 0 가능성을 처리하기 위해 유사한 코드가 필요할 수도 있습니다 . 나는 그것을 운동으로 남겨둔다.$y$$a\lt 0$

초기 값을 추정하는 또 다른 방법은 경험, 물리 이론 등을 기반으로 할 수있는 의미를 이해하는 데 달려 있습니다 . 초기 값을 이러한 방식으로 결정할 수있는 (보통 어려운) 비선형 적합의 확장 된 예는 제 답변에 설명되어 있습니다 에서 /stats//a/15769 .

산점도의 시각적 분석 (초기 매개 변수 추정값 결정)은 /stats//a/32832에 설명되어 있습니다 .

경우에 따라 솔루션이 느리게 변경 될 수있는 일련의 비선형 피팅이 만들어집니다. 이 경우 이전 솔루션을 다음 솔루션의 초기 추정값으로 사용하는 것이 편리하고 빠릅니다 . /stats//a/63169 에서이 기술을 사용하여 (댓글없이) 기억 합니다.

이 라이브러리는 nls의 문제를 해결할 수있었습니다 singular gradient: http://www.r-bloggers.com/a-better-nls/ 예 :

library(minpack.lm)
nlsLM(function, start=list(variable=2,variable2=12))

그래서 ... 나는 이것을 지수 함수로 잘못 읽은 것 같습니다. 내가 필요한 건poly()

model <- lm(cost.per.car ~ poly(reductions, 3), data=q24)
new.data <- data.frame(reductions = c(91,92,93,94))
predict(model, new.data)

plot(q24)
lines(q24$reductions, predict(model, list(reductions = q24$reductions)))

또는 다음을 사용하십시오 lattice.

xyplot(cost.per.car ~ reductions, data = q24,
       panel = function(x, y) {
         panel.xyplot(x, y)
         panel.lines(x, predict(model,list(reductions = x) ))
       }, 
       xlab = "Reductions", 
       ylab = "Cost per car")