고정 된 수의 RHS 평가를위한 최적의 ODE 방법

14

실제로, 수치 해결 런타임 IVP 종종 우측 (RHS)의 평가 기간을 지배한다 . 그러므로 다른 모든 연산이 즉각적인 것으로 가정하자 (즉, 계산 비용이 없음). IVP를 해결하기위한 전반적인 실행이 제한되는 경우,이 평가 한 횟수 제한에 해당 일부 .

\dot{x} (t) = f (t, x (t)) for t \in [t_{0}, t_{1}]

$\dot{x}(t) = f(t, x(t)) \quad \text{ for } t \in [t_0, t_1]$

x (t_{0}) = x_{0}

$x(t_0) = x_0$

f

$f$

f

$f$

N \in N

$N \in \mathbb{N}$

우리는 최종 값 에만 관심이 있습니다. $x(t_1)$

이러한 설정에서 최고의 ODE 방법을 선택하는 데 도움이되는 이론적이고 실용적인 결과를 찾고 있습니다.

예를 들면, 만일 우리는 폭의 두 명확한 오일러 같이 사용 IVP 해결할 수 폭 또는 한 단계 중간 방법을 사용한다. 어느 것이 선호되는지는 즉시 명확하지 않습니다. 더 큰 , 물론 다단계 방법, 반복 된 Runge-Kutta 체계 등에 대해서도 생각할 수 있습니다. $N = 2$ $(t_1 - t_0)/2$ $t_1 - t_0$ $N$

우리는 선택할 수 있습니다 : 내가 찾고 직교 규칙에 대한 예를 들어, 존재하는 것과 유사한 결과는 무게 및 관련 포인트 등 그 직교 규칙 모든 다항식 정확 되도록 . $n$ $\{w_i\}$ $\{x_i\}$ $\sum_{i = 1}^n w_i g(x_i)$ $g$ $deg(g) \le 2n - 1$

따라서 제한된 수의 RHS 평가가 주어지면 ODE 방법의 전체 정확도에 대한 상한 또는 하한을 찾고 있습니다. 경계가 일부 RHS 클래스에 대해서만 유지되거나 솔루션 에 대한 추가 제약 조건을 적용하는 경우에도 괜찮 습니다 (다항식에 대해 특정 수준까지만 유지하는 구적 규칙의 결과와 동일). $f$ $x$

편집 : 일부 배경 정보 : 이것은 어려운 실시간 응용 프로그램을위한 것입니다. 즉, 결과 는 알려진 마감 기한 전에 사용할 수 있어야합니다. 따라서 지배적 인 비용 요소로 RHS 평가 수 의 제한이 있습니다. 일반적으로 우리의 문제는 뻣뻣하고 비교적 작습니다. $x(t_1)$ $N$

EDIT2 : 불행히도 정확한 타이밍 요구 사항은 없지만 이 다소 작을 것이라고 가정하는 것이 안전합니다 (확실히 <100, 아마도 10에 더 가깝습니다). 실시간 요구 사항을 고려할 때 모델의 정확도 (RHS 실행 시간이 길어지고 이 낮아지는 모델이 더 우수함 )와 ODE 방법의 정확도가 높을수록 (더 높은 방법이 필요한 경우) 절충점 을 찾아야합니다 값 ). $N$ $N$ $N$

ode numerical-analysis

— 플로리안 브러 커
소스

고정 단계 Runge-Kutta 방법과 Newton-Cotes 방법의 일반적인 대응은 RK 방법이 IVP

에 적용되는 경우에 적용됩니다 . 예를 들어, IVP에 고전적인 4 차 방법을 적용하는 것은

에 대한 심슨의 규칙을 수행하는 것과 같습니다 .

y^{'} = f (x)

$y^\prime=f(x)$

f (x)

$f(x)$

— JM

@JM : 알고 있습니다. 함수 평가의 수가 제한 될 때 특정 입력 세트에 대한 수치 방법의 정확도를 특성화하는 예로 직교 규칙을 사용하려고했습니다. 그 외에도 저는 "진정한"ODE, 즉 표준 통합으로 축소되지 않는 ODE에 관심이 있습니다.

— Florian Brucker

1

점점 더 흥미로워지고 있습니다. 이제 숫자

N

$N$ 자체만으로는 아무 의미가 없습니다. 도움이 될 수있는 것은

를 아는 것입니다 . 여기서

는 적분 구간의 길이이고

는

대한

의 Lipschitz 상수입니다 . 이것은 문제가 실제로 얼마나 뻣뻣한지를 알려줄 것입니다. 뻣뻣하다고 가정하면 2 차 BDF 방법이 적합합니다.

λ N / T

$\lambda N/T$

T

$T$

λ

$\lambda$

f

$f$

x

$x$

— David Ketcheson

@DavidKetcheson : 특정 문제에 대한 최적의 방법보다는 주어진 문제에 적합한 방법을 선택하는 일반적인 접근법에 더 관심이 있습니다. 강성 및 타이밍 요구 사항이 크게 다른 많은 모델이 있습니다.

— Florian Brucker

는 평가하기에 매우 비싸다고 말합니다 . 야곱을 계산할 수 있습니까? 원리 강성을 교정 할 수있는 근사치는 어떻습니까? 문제가 매우 뻣뻣하고 문제를 해결할 방법이 없다면 몸 상태가 좋지 않습니다.

f

$f$

— Jed Brown

7

귀하의 질문에 대답하기위한 핵심 참고 자료는 Hosea와 Shampine의이 논문 입니다. 이제 몇 가지 배경을 드리겠습니다.

일반적으로 IVP를 수치 적으로 통합 할 때 사용할 수있는 단계 크기는 안정성 또는 정확성에 의해 제한 될 수 있습니다. 안정성 측면에서 최상의 솔버를 선택하려면 절대 안정성 영역 을 고려해야합니다 . 1 단계 방법의 경우

S = {z \in C : | P (z) | \leq 1} .

$S = \{ z \in {\mathbb C} : |P(z)|\le 1\}.$

여기서 는 방법의 안정성 함수이며; 예를 들어 Hairer et. 알. 안정성을위한 필요 조건은이고 여기서 의 행렬식의 고유 값의 범위에 걸쳐 하고 스텝 사이즈이다. 이것은 비선형 문제에 대해 항상 충분한 조건은 아니지만 일반적으로 좋은 경험 규칙이며 실제로 사용됩니다. $P(z)$ $\lambda h \in S$ $\lambda$ $f$ $h$

큰 안정된 스텝 크기를 허용하는 (명시 적) 방법의 발견 문제에 대한 광범위한 처리는 안정성 다항식에 관한이 논문 과 압축성 유체 시뮬레이션을위한 Runge-Kutta 방법의 최적화에 관한이 논문을 참조하십시오 .

가장 큰 안정된 스텝 크기가 이미 충분한 정확도를 제공하는 경우 안정성은 관련 관심사입니다. 반면에, 단계 크기는 정확도 요구 사항에 의해 대신 제한 될 수 있습니다. 일반적으로 수행되는 작업은 로컬 오류 제어입니다. 솔루션은 두 가지 방법을 사용하여 계산되며 그 차이는 덜 정확한 방법으로 오차의 추정치로 사용됩니다. 단계 크기는 규정 된 공차를 가능한 한 가깝게 달성하기 위해 적응 적으로 선택됩니다.

정확도 효율성을 예측하려면 두 가지 이론적 방법이 중요합니다. 첫 번째는 방법 의 정확도 순서이며 , 단계 크기가 줄어들 때 오류가 0에 접근하는 속도를 나타냅니다. 두 번째는 오차 효율에 나타나는 상수를 고려하고 동일한 순서의 방법을 비교할 수 있는 정확도 효율 지수 (위의 첫 번째 문장에 링크 된 Hosea 및 Shampine의 논문 참조)입니다.

NodePy (면책 조항 : NodePy는 본인이 개발 함)를 사용하여 간단하고 자동화 된 방식으로 광범위한 방법의 정확도 및 안정성 효율성을 계산할 수 있습니다 .

— 데이비드 케 치슨
소스

감사합니다. Hosea와 Shampine의 논문은 실제로 매우 흥미 롭습니다. 뻣뻣한 문제에 대한 비슷한 결과를 알고 있습니까? 나는 보통 그것들을 위해 암시 적 방법을 사용한다는 것을 알고 있지만 RHS 평가의 수에는 선험이 없으므로 내 경우에는 거의 사용되지 않습니다.

— Florian Brucker

뻣뻣한 문제에 대해서는 이와 같은 것을 알지 못하지만 무언가 존재하는 것 같습니다. 당신이 말했듯이 암시 적 방법을 사용할 때 질문은 더 미묘합니다. 한 가지 접근법은 까다로운 문제를 잘 처리하지만 RHS 평가는 고정 된 Rosenbrock 방법을 사용하는 것입니다.

— David Ketcheson

6

안정성을 고려할 때 종종 원하는 정확도에 필요한 것보다 작은 시간 단계를 선택해야 할 수 있으므로 정확도를 고정하는 것보다 어렵 기 때문에이 방향에는 많은 결과가 없습니다. 따라서 결과는 뻣뻣한 경우와 뻣뻣하지 않은 경우로 나뉩니다. 전자의 경우 시간 단계 및 RHS 평가 요구 사항은 일반적으로 정확성에 의해 지배되지 않으며, 후자의 경우에는 요구 사항이 적용됩니다.

암시 적 사례는 얼마나 많은 RHS 평가를 사용해야하는지 명확하지 않기 때문에 명시 적 방법에 중점을 두겠습니다. 이는 전적으로 결과 시스템을 해결하기로 결정한 방법에 달려 있습니다.

비 강성 시스템의 경우 :

명시적인 Runge-Kutta 방법에는 특정 순서의 정확도를 달성하기 위해 몇 단계 (RHS 평가)가 필요한지에 대한 단계 제한이 있습니다. 4 차 순서 후에는 단계 수가 정확도 순서를 초과하며 시차가 계속 커집니다. 정육점의 큰 ODE 서적 : http://books.google.com/books/about/Numerical_Methods_for_Ordinary_Different.html?id=opd2NkBmMxsC

이러한 '존재하지 않는'증거 중 일부를 잘 설명합니다.

직교 규칙 예제는 Adams-bashforth와 같은 다단계 유형 방법 또는 현재 스펙트럼 지연 수정 방법으로 연결됩니다. adams-bashforth의 경우 단계 당 하나의 RHS 평가 만 필요하지만 이러한 방법의 경우 안정성 영역이 일반적으로 작기 때문에 일반적으로 동일한 Runge-Kutta 방법과 동일한 RHS 평가 측면에서 동일한 양의 작업을 수행하게됩니다. 주문.

다음은 스펙트럼 지연 보정에 대한 논문입니다.

https://www.google.com/search?q=spectral+deferred+correction&aq=f&oq=spectral+deferred+correction&aqs=chrome.0.57j0l2j62.3336j0&sourceid=chrome&ie=UTF-8

이러한 통합 방법이 표준 명시 적 방법과 어떻게 다른지 잘 모르겠으며, 직각 노드에서 솔루션 상태를 저장하기 위해 더 많은 메모리가 필요하기 때문에 직접 사용하지 않았습니다.

뻣뻣한 시스템의 경우 :

'최적화 된'시간-스텝퍼가 있지만, 이들을 얼마나 잘 얻을 수 있는지에 대한 정확한 이론적 결과는 불행히도 일부 간단한 경우 (그리고 사소한 일이 아닌 것으로 밝혀진 경우)로 제한됩니다. 세 가지 표준 결과는 단계를 갖는 Runge-Kutta 방법의 경우입니다 . 안정성 영역에 포함 할 수있는 가장 음의 실제 축은 길이 간격이며 , 포함 할 수있는 가장 가상 축은 길이 간격입니다 이고, 포함 할 수있는 허수 축에 접하는 가장 큰 원의 반지름은 $S$ $2S^2$ $S-1$ $S$ (이들 모두는 서로 배타적 물론이다).

— 리드 애치슨
소스

2

가변 단계 (또는 가변 차수) 방법을 사용하는 것이 고정 단계 방법을 강력하게 고수하는 것보다 더 효율적일 수 있습니다. 예를 들어 Bulirsch-Stoer와 같은 외삽 법을 사용할 것을 고려할 수 있습니다. 일부 단계에서 몇 가지 평가를 수행 한 다음 해당 단계의 결과에서보다 정확한 추정치를 작성하십시오.

— JM

진실. 사실상 많은 최적의 방법은 어떤 의미에서 다른 타임 스텝퍼의 가변 단계 버전과 동일합니다. 예를 들어 Runge-Kutta-Chebshev는 가변 시간 단계를 Chebyshev 포인트로 적용한 정방향 오일러로 볼 수 있습니다.

— Reid. Atcheson

@JM : 맞습니다. 그러나 수치 적 실험을 제외하고 RHS 평가 횟수에 따라 이러한 접근법의 정확성을 판단 할 수있는 방법이 있습니까?

— Florian Brucker

@Florian, 일반적이 아닙니다. 당신은 Lorenz의 방정식에 대해 들었습니다.

— JM

1

@JM : 예 :) 이것이 원래 문제 공간의 부분 집합 (다항식)으로 정확도가 측정되는 직교 예제를 언급 한 이유입니다. 특정 하위 집합에 대해서만 작동하는 결과에 만족합니다.

— Florian Brucker

3

Reid와 David는 이미 기술적 질문에 답변했지만 어쨌든 이에 대한 컨텍스트를 제공하고 싶습니다. 오늘, 당신이 생각할 수있는 대부분의 미분 방정식을 위해, 당신은 본질적으로 완벽한 정확성 (예를 들어, 달성 할 수있다 ) 평가하는 경우 기본적으로 시간에 좋은의 ODE 솔버 패키지의 대부분을 무료입니다. $10^{-14}$ $f(x)$

물론 예외는 있지만 (매우 큰 시스템, 매우 뻣뻣한 시스템) 커뮤니티에서 공통적 인 감정은 "표준"시스템을위한 ODE 솔버 설계 문제가 해결 된 것입니다. 결과적으로, 당신이 제기하는 질문은 그다지 흥미롭지 않다고 생각합니다. 더 이상 중요하지 않은 ODE 솔버 디자인의 구성 요소를 다룹니다. 이것은 또한 주제에 관한 문헌의 부족을 설명 할 수 있습니다.

— 볼프강 뱅 거스
소스

+1. 누군가가 효율적인 ODE 솔버에 대해 물을 때마다 PDE 반 분산 또는 큰 n-body 문제에서 오는 거대한 ODE 시스템에 관심이 있다고 생각합니다.

— David Ketcheson

이것이 내 질문과 어떤 관련이 있는지 설명해 주시겠습니까? 평가 f(x)가 무료가 아니고 너무 비싸서 평가 수가 제한되는 경우에 관심이 있기 때문에 연결 이 보이지 않습니다.

— Florian Brucker

@DavidKetcheson : 여기에 해당되지 않습니다. 오히려 약한 하드웨어 (내장 장치)에 대해 매우 엄격한 타이밍 요구 사항 (하드 실시간)이 있습니다. ODE 시스템 자체는 비교적 작습니다.

— Florian Brucker

N

$N$

N

$N$

N

$N$

N

$N$

N

$N$

N

$N$

N < 1000

$N<1000$

1

$O(\mathit{dim}^3)$ $O(\mathit{dim}^2)$ 을 제외 평가 RHS.

첫 번째 요점은 RHS가 기본 선형 대수보다 실제로 더 비싼 지 확인하는 것입니다.

두 번째 요점 : 문헌에서 "고가의"방법 (예 : 명시 적 RK 방법)을 기반으로하는 솔버가 "저렴한"방법 (명시적인 다단계 방법)보다 더 빠르게 수행되는 것으로 알려져 있습니다.

요약하면, RHS 평가 만 고려해서는 안된다고 생각합니다.

— 팔레이 치크
소스

N

$N$