라인 검색을 수행 할 수없는 경우 적응 형 그라디언트 하강 단계 크기

목적 함수가 있습니다 $E$ 가치에 의존 $\phi(x, t = 1.0)$, 어디 $\phi(x, t)$PDE에 대한 솔루션입니다. 최적화 중입니다$E$PDE 의 초기 상태 에서 구배 하강에 의한 것 :$\phi(x, t = 0.0)$. 즉, 나는 업데이트$\phi(x, t = 0.0)$그런 다음 PDE를 통합하여 잔차를 계산해야합니다. 즉, 그래디언트 디센트 단계 크기에 대한 라인 검색을 수행하려면$\alpha$)의 모든 잠재 가치에 대해 $\alpha$ PDE를 다시 통합해야했습니다.

제 경우에는 엄청나게 비쌀 것입니다. 적응 적 경사 하강 단계 크기에 대한 다른 옵션이 있습니까?

나는 여기서 수학적으로 원리 화 된 계획을 찾고있을뿐만 아니라 (물론 존재하는 경우 더 낫지 만) 일반적으로 정적 단계 크기보다 나은 것에 만족할 것입니다.

감사!

나는 일반적인 말로 시작할 것입니다 : 1 차 정보 (즉, 경사를 인코딩하는 그라디언트 만 사용)는 방향 정보 만 제공 할 수 있습니다 : 함수 값이 검색 방향으로 감소하지만 얼마나 오래 지속되는지는 알 수 없습니다 . 검색 방향을 따라가는 거리를 결정하려면 추가 정보 가 필요 합니다 (볼록 이차 문제에서도 일정한 스텝 길이의 그라데이션 하강은 실패 할 수 있음). 이를 위해 기본적으로 두 가지 선택이 있습니다.

1. 예를 들어 그라데이션 하강 대신 Newton의 방법을 사용하여 (곡률을 인코딩하는) 2 차 정보를 사용 하십시오 (항상 단계 길이를 사용할 수 있음)$1$ 최소화기에 충분히 가깝습니다).
2. 시행 착오 (물론 Armijo와 같은 적절한 라인 검색을 사용하는 것을 의미합니다 ).

글을 쓸 때 2 차 미분에 접근 할 수없고 obejctive 함수를 평가하는 것이 매우 비싸다면, 당신의 유일한 희망은 타협하는 것입니다. 검색 만 필요 $\mathcal{O}(1)$ 평가 (즉, 기울기를 평가하는 데 필요한 노력의 최대 (작은) 상수 배수).

한 가지 가능성은 Barzilai--Borwein 단계 길이 를 사용하는 것입니다 (예 : Fletcher : Barzilai-Borwein 방법 참조 . 응용 프로그램을 사용한 최적화 및 제어, 235–256, Appl. Optim., 96, Springer, New York, 2005 ). 아이디어는 탐색 방향을 따라 곡률의 유한 차분 근사를 사용하여 단계 크기의 추정치를 얻는 것입니다. 구체적으로,$\alpha_0>0$ 임의의 세트 $g^0:=\nabla f(x^0)$ 그리고 $k=0,...$:

1. 세트 $s^k = -\alpha_k^{-1} g^k$ 과 $x^{k+1}=x^k+s^k$
2. 평가 $g^{k+1}=\nabla f(x^{k+1})$ 그리고 설정 $y^k = g^{k+1}-g^{k}$
3. 세트 $\alpha_{k+1} = \frac{(y^k)^Ty^k}{(y^k)^Ts^k}$

이 선택은 2 차 함수에 대해 (실제로 매우 빠르게) 수렴하는 것으로 표시 될 수 있지만 수렴은 모노톤 이 아닙니다 (예 : 함수 값).$f(x^{k+1})$ 보다 클 수있다 $f(x^k)$그러나 단 한 번만; Fletcher 논문에서 10 페이지의 도표를 참조하십시오. 2 차 함수가 아닌 경우에는이를 라인 검색과 결합해야하며, 이는 비단 조성을 처리하기 위해 수정해야합니다. 하나의 가능성은 선택하는 것입니다$\sigma_k \in (0,\alpha_k^{-1})$ (예 : 역 추적)

$$f(x^k - \sigma_k g^k) \leq \max_{\max(k-M,1)\leq j\leq k} f(x^j) - \gamma \sigma_k (g^k)^Tg^k,$$ 어디 $\gamma\in(0,1)$ 일반적인 Armijo 매개 변수이며 $M$ 단조의 정도를 제어합니다 (예 : $M=10$). 함수 값 대신 그라디언트 값을 사용하는 변형도 있지만 귀하의 경우 그라디언트가 함수보다 평가하는 데 훨씬 비싸므로 여기에서는 의미가 없습니다. (참고 : 물론 BB 스텝 길이를 맹목적으로 받아들이고 행운을 믿으려고 시도 할 수 있지만 의견에 적었을 때 견고성이 필요하다면 정말 나쁜 생각입니다.)

대안 (그리고 내 의견으로는 훨씬 더 나은) 접근법은 탐색 방향을 계산할 때 이미이 유한 차분 근사를 사용하는 것입니다. 이를 준 뉴턴 방법 이라고합니다 . 아이디어는 점진적으로 Hessian의 근사치를 작성하는 것입니다.$\nabla^2 f(x^k)$그라디언트의 차이를 사용하여. 예를 들어$H_0=\mathrm{Id}$ (정체성 매트릭스) $k=0,\dots$ 풀다

$$H_{k}s^{k} = -g^{k},\label{cc1}\tag{1}$$ 그리고 설정 $$H_{k+1} = H_k + \frac{(y^k-H_ks^k)^T(s^k)^T}{(s^k)^Ts^k}$$ 와 $y^k$ 위와 같이 $x^{k+1} = x^k +s^k$. (이를 Broyden 업데이트 라고 하며 실제로는 거의 사용되지 않습니다. 더 낫지 만 약간 더 복잡한 업데이트는 BFGS 업데이트입니다 . 자세한 내용은 Nocedal and Wright의 저서 Numerical Optimization을 참조하십시오 .) ) 이것은 각 단계에서 선형 시스템을 해결해야하지만 (귀하의 경우 초기 조건 인 알 수없는 크기의 크기이므로 그래디언트를 얻기 위해 PDE를 해결하여 노력을 지배해야합니다. 또한 업데이트 규칙이 있습니다. 역행 Hessian의 근사치 : 단일 행렬-벡터 곱만 계산하면됩니다.) b) 수렴을 보장하기 위해 여전히 라인 검색이 필요합니다.

운 좋게도 이러한 맥락에서 모든 기능 평가를 사용하는 대체 방법이 있습니다. 아이디어는$H_k$ 대칭 및 양의 정한 (BFGS 업데이트에서 보장됨), 해결 $\eqref{cc1}$ 이차 모형을 최소화하는 것과 같습니다

$$q_k(s) = \frac12 s^T H_k s + s^T g^k.$$ A의 신뢰 영역 방법 , 당신은 추가 제약 그것과 그렇게 할 것$\|s\| \leq \Delta_k$, 어디 $\Delta_k$ 적절하게 선택된 신뢰 영역 반경 (단계 길이의 역할을 함) $\sigma_k$). 핵심 아이디어는 이제 계산 된 단계에 따라이 반경을 적응 적으로 선택하는 것입니다. 구체적으로, 당신은 비율을 보면 $$\rho_k := \frac{f(x^k)-f(x^k+s^k)}{f(x^k)-q_k(s^k)}$$ 함수 값의 실제 및 예측 된 감소. 만약$\rho_k$ 아주 작고 모델이 나빴고 버렸습니다 $s^k$ 그리고 다시 시도하십시오 $\Delta_{k+1}<\Delta_k$. 만약$\rho_k$ ~에 가깝다 $1$, 모델이 양호하고 설정했습니다. $x^{k+1}=x^k+s^k$ 그리고 증가 $\Delta_{k+1}>\Delta_k$. 그렇지 않으면 당신은 방금 설정$x^{k+1}=x^k+s^k$ 그리고 떠나 $\Delta_k$혼자. 실제 최소화기를 계산하려면$s^k$ 의 $\min_{\|s\|\leq \Delta_k} q_k(s)$완전한 제한 최적화 문제를 해결하지 않아도되는 몇 가지 전략이있다. 내가 가장 좋아하는 것은 Steihaug의 잘린 CG 방법 입니다. 자세한 내용은 다시 Nocedal and Wright를 참조하십시오.