선형 모델과 비선형 모델의 구별

13

선형 대 비선형 모델의 속성에 대한 설명을 읽었지만 여전히 사용중인 모델이 선형인지 비선형인지 확실하지 않습니다. 예를 들어, 다음 모델은 선형 또는 비선형입니까?

y_{t} = β_{0} + β_{1} B (L; θ) X_{t} + ε_{t}

$y_t=\beta_0 + \beta_1B(L;\theta)X_t+\varepsilon_t$

와:

B (L; θ) = \sum_{k = 1}^{K} b (k; θ) L^{k}

$B(L;\theta)=\sum_{k=1}^{K}b(k;\theta)L^k$

L^{k} X_{t} = X_{t - k}

$L^kX_t=X_{t-k}$

여기서 는 다음과 같은 형식의 (감쇠하는) 지수 Almon 다항식 함수를 나타냅니다. $b(k;\theta)$

b (k; θ) = \frac{\exp (θ_{1} k + θ_{2} k^{2})}{\sum_{k = 1}^{K} \exp (θ_{1} k + θ_{2} k^{2})}

$b(k;\theta)=\frac{\exp(\theta_1 k+\theta_2k^2)}{\sum_{k=1}^{K}\exp(\theta_1k+\theta_2k^2)}$

내 관점에서, 나의 주요 방정식 (첫 번째 방정식)은 대해 선형입니다. 이 항에는 가중치가 곱하기 때문입니다. 그러나 가중 함수 (마지막 방정식)는 매개 변수 ans 와 관련하여 비선형이라고 말하고 싶습니다 . $X_t$ $\theta_1$ $\theta_2$

내 주요 함수가 선형 또는 비선형 함수인지 누군가에게 설명 할 수 있습니까? 추정 절차에서 의미하는 것은 무엇입니까? 선형 또는 비선형 최소 제곱 법을 적용해야합니까?. 또한 함수가 비선형인지 선형인지 확실하게 식별 할 수있는 식별 가능한 기능은 무엇입니까?

linear-model nonlinear-regression nonlinear

— DatamineR
소스

17

모델링과 관련하여 선형 및 비선형에 대한 일반적인 정의에서 중요한 측면 인 예측 변수에 대한 선형성이 아니라 모수에 대한 선형성입니다. 비선형 모델은 매개 변수에서 선형이 아니기 때문에 비선형입니다.

예를 들어, 첫 번째 문장은 여기에 말한다 :

통계에서 비선형 회귀 분석은 관측치 데이터가 모형 매개 변수의 비선형 조합이며 하나 이상의 독립 변수에 의존하는 함수로 모델링되는 회귀 분석의 한 형태입니다.

$\eta$

$\theta$ $\theta$

— Glen_b-복귀 모니카
소스

"매개 변수와 관련하여"무슨 뜻입니까? 선형 및 비선형에 대한 두 가지 예를 제시 할 수 있습니까?

— NONAME

1

f (c v) = c f (v)

$f(cv)=cf(v)$

f (u + v) = f (u) + f (v)

$f(u+v) = f(u)+f(v)$

u

$u$

v

$v$

f

$f$

η = X β

$\eta=X\beta$

β

$\beta$

η (β)

$\eta(\beta)$

E [Y] = β_{0} + β_{1} x + β_{2} \log (x)

$E[Y]=\beta_0+\beta_1x+\beta_2 \log(x)$

β

$\beta$

1

E [Y] = β_{0} + β_{1} \exp (β_{2} x)

$E[Y]=\beta_0+\beta_1\exp(\beta_2 x)$

β

$\beta$

β

$\beta$

9

Glen_b에 동의합니다. 회귀 문제에서 주요 초점은 독립 변수 또는 예측 변수 x가 아닌 모수에 중점을 둡니다. 그런 다음 간단한 변환을 사용하여 문제를 선형화 할 것인지 아니면 그대로 진행할 것인지 결정할 수 있습니다.

$y = ax + bx^2 + cx^3 + d x^{2/3} + e/x + f x^{-4/7}$ $x$ $x$ $a$ $b$ $c$ $f$

$y = \exp(ax)$ $\exp(ax) = 1 + ax/ 1! + (ax)^2 / 2! + \dots$

$y = a / (1+b \exp(cx)$ $a$ $b$ $c$ $b$ $c$ $(a/y)-1 = Y$

$y = a_1 / (1+b_1\exp(c_1x)) + a_2 / (1+b_2\exp(c_2x))$

원칙적으로 비선형 회귀 문제를 해결하기 위해 선형 전략을 사용하는 것은 좋지 않습니다. 따라서 선형 회귀를 사용하여 선형 문제 (모든 매개 변수에 1의 힘이있을 때)를 해결하고 매개 변수가 비선형 인 경우 비선형 회귀를 채택하십시오.

$\beta_0$ $\beta_1$ $\theta_1$ $\theta_2$

이를 해결하기 위해 비선형 최소 제곱 기술을 채택하십시오. 초기 값을 영리하게 선택하고 다중 시작 방식을 사용하여 전체 최소값을 찾으십시오.

이 비디오는 도움이 될 것입니다 (글로벌 솔루션에 대해서는 이야기하지는 않지만) : http://www.youtube.com/watch?v=3Fd4ukzkxps

Excel 스프레드 시트에서 GRG 비선형 솔버 사용 (옵션-애드 인-Excel 애드 인으로 이동 한 다음 솔버 애드 인을 선택하여 솔버 툴팩 설치) 및 매개 변수의 간격을 규정하고 요구 사항에 따라 옵션 목록에서 멀티 스타트 호출 제약 정밀도 및 수렴이 작 으면 글로벌 솔루션을 얻을 수 있습니다.

Matlab을 사용하는 경우 전역 최적화 도구 상자를 사용하십시오. 다중 시작 및 글로벌 검색 옵션이 있습니다. 글로벌 솔루션, 여기 및 여기에 특정 코드를 사용할 수 있습니다 .

Mathematica를 사용하는 경우 여기를 참조하십시오 .

R을 사용하는 경우 여기 에서 시도 하십시오 .

— 비피
소스

1

예를 들어 @Bipi에게 감사합니다! 두 번째로 Y = (a / y-1)을 설정하면 변수 y에서 매개 변수를 어떻게 분리 할 수 있습니까?

— Vivek Subramanian

0

주요 기능은 선형입니다.

$B(L;\theta)$

내가 당신이라면 선형 최소 제곱으로 진행할 것입니다.

이것은 선형성을 확인하거나 거부하는 방법입니다.

https://en.wikipedia.org/wiki/Non-linear#Definition

당신은 또한 좋아할지도 모릅니다 :

https://en.wikipedia.org/wiki/Linear_combination

https://ko.wikipedia.org/wiki/Least_squares

http://en.m.wikipedia.org/wiki/Linear_least_squares_ (수학)

— 에이스 프람
소스

0

함수의 맥락에서 설명하면 이해하기 쉽습니다.

선형 : 기울기가 일정한 함수입니다. 대수적으로, 1과 지수가 가장 높은 다항식입니다. 이것은 그래프가 선인 함수입니다. 예를 들어y=2x+3

비선형 : 선형 함수의 반대 속성을 갖는 함수입니다. 기울기가 다양한 기능입니다. 지수가 2 이상인 다항식입니다. 그래프가 선이 아닙니다. 예를 들어y=x^2

[ http://study.com/academy/lesson/nonlinear-function-definition-examples.html][1]

— 이르 파 눌라
소스

선형 통계 모형은 선형 함수와 다릅니다. 가산 성 노이즈가있는 비선형 함수는 선형성이 예측 변수가 아닌 모델 매개 변수에 의해 결정되므로 선형 모델 일 수 있습니다.

— Michael R. Chernick