그라디언트 디센트 및 기타 여러 방법은 비용 함수에서 국소 최소값을 찾는 데 유용합니다. 수치 적이든 분석적 으로든 각 시점에서 비용 함수를 신속하게 평가할 수있을 때 효율적입니다.

이상한 상황 인 것 같습니다. 내 비용 함수의 각 평가는 비싸다. 지상 진실 표면에 대해 3D 표면을 최소화하는 일련의 매개 변수를 찾으려고합니다. 매개 변수를 변경할 때마다 전체 샘플 코호트에 대해 알고리즘을 실행하여 효과를 측정해야합니다. 그래디언트를 계산하려면 15 개의 매개 변수를 모두 독립적으로 변경해야합니다. 즉, 모든 표면을 재생성하고 그래디언트 당 너무 많은 시간을 샘플 코호트 방식과 비교해야하며 최적화 과정에서 너무 많은 시간을 거쳐야합니다.

이 문제를 피할 수있는 방법을 개발하여 현재 평가하고 있지만, 고가의 비용 함수 평가에 관한 문헌에서 많이 발견하지 못한 것에 놀랐습니다. 이것은 내가 문제를보다 어렵게 만들고 있는지, 이미 더 나은 방법이 있는지 궁금합니다.

그래서 내 질문은 기본적으로 이것입니다 : 평가가 느린 경우 비용 함수를 볼록하거나 최적화하지 않는 방법을 아는 사람이 있습니까? 아니면 알고리즘을 다시 실행하고 샘플 코호트와 여러 번 비교하여 처음부터 어리석은 일을하고 있습니까?

TL; DR

LIPO를 사용하는 것이 좋습니다. 순수한 무작위 검색 (PRS)보다 정확하고 아마 더 낫습니다. 또한 구현이 매우 간단하고 하이퍼 파라미터가 없습니다. LIPO를 BO와 비교하는 분석을 수행하지는 않았지만 LIPO의 단순성과 효율성은 BO가 성능을 능가 할 것임을 암시합니다.

(또한 베이지안 하이퍼 파라미터 최적화의 단점은 무엇입니까? )

베이지안 최적화

베이지안 최적화 유형 방법은 가우스 프로세스 대리 모델을 작성하여 매개 변수 공간을 탐색합니다. 주요 아이디어는 서로 더 가까운 매개 변수 튜플의 기능 값이 비슷하므로 점 사이의 공분산 구조를 가정하면 알고리즘이 다음에 시도 할 가장 좋은 매개 변수 튜플에 대한 교육 된 추측을 할 수 있다는 것입니다. 이 전략은 기능 평가 횟수를 줄이는 데 도움이됩니다. 실제로 BO 방법의 동기는 기능 평가의 수를 가능한 한 낮게 유지하면서 "버팔로 전체를 사용하여"다음에 어떤 점을 테스트해야하는지에 대한 좋은 추측을하는 것입니다. 다음 방문 점을 비교하는 데 사용되는 장점 (예상 개선, 예상 수량 개선, 개선 가능성 ...)의 여러 수치가 있습니다.

이 기능을 그리드 검색과 비교하면 이전 기능 평가의 정보를 사용하여 다음에 어디로 가야하는지 알 수 없습니다.

또한 이것은 강력한 글로벌 최적화 기술이기도하므로 표면의 볼록도에 대한 가정은 없습니다. 또한 함수가 확률 적 (예 : 평가에 고유 한 랜덤 노이즈가있는 경우) 인 경우 GP 모델에서 직접 설명 할 수 있습니다.

반면에, 매번 반복 할 때마다 하나 이상의 GP (또는 여러 개의 "최상의"선택 또는 대안에 대한 평균화 또는 완전한 베이지안 방법)를 충족해야합니다. 그런 다음이 모델은 일반적으로 멀티 스타트 로컬 최적화 형태로 (아마도 수천 개의) 예측을 수행하는 데 사용되며, 최적화중인 함수보다 GP 예측 함수를 평가하는 것이 훨씬 저렴하다는 관찰과 함께 이루어집니다. 그러나이 계산 오버 헤드가 있어도 볼록하지 않은 함수도 비교적 적은 수의 함수 호출로 최적화 할 수 있습니다.

이 주제에 대해 널리 인용 된 논문은 Jones et al , "고비용 블랙 박스 기능의 효율적인 글로벌 최적화"입니다. 그러나이 아이디어에는 많은 변형이 있습니다.

무작위 검색

$p$ $q$

$q = 0.95$$p=0.95$$100\times (1-q)=5$$n$$q^n = 0.95^n$$1 - 0.95^n$. 모두 합치면

우리의 특정한 경우에 산출 합니다.$n \ge 59$

$n=60$$n=60$

결과가 얼마나 좋은지에 대한 확률 적 보장이 있기 때문에 더 많은 실험을 수행 할 필요가 없음을 상사에게 설득 할 수있는 설득력있는 도구가 될 수 있습니다.

LIPO와 그 변형

이것은 새로운 것이 아니라면 나에게 새로운 흥미로운 도착입니다 . 함수에 정보 바운드를 배치하는 것과 최상의 바운드에서 샘플링을 이차 근사를 사용하여 번갈아 진행됩니다. 나는 여전히 모든 세부 사항을 연구하고 있지만 이것이 매우 유망하다고 생각합니다. 이 글은 멋진 블로그 글 이며, 논문은 Cédric Malherbe와 Nicolas Vayatis " Lipschitz 기능의 글로벌 최적화 "입니다.

$f(x)$$x$

나는 (매우) 값 비싼 블랙 박스 기능을 평가하기위한 현재의 금 표준은 (전역) 베이지안 최적화 (BO) 라고 말합니다 . Sycorax는 이미 BO의 일부 기능을 설명 했으므로 유용한 정보를 추가하고 있습니다.

시작점으로이 개요 용지 를 읽으십시오 1 . 더 최근의 것도있다 [2].

Bayesian 최적화는 최근 몇 년간 기계 학습에 매우 실용적인 응용 프로그램이 있기 때문에 일련의 전용 워크샵 (예 : BayesOpt 및 BO의 Sheffield 워크샵에서 이러한 비디오 를 확인)과 함께 필드로 꾸준히 성장하고 있습니다. ML 알고리즘의 하이퍼 파라미터 최적화에 대해서는 이 백서 [3] 및 관련 도구 상자 인 SpearMint를 참조하십시오 . 다양한 종류의 베이지안 최적화 알고리즘을 구현하는 다양한 언어의 다른 패키지가 많이 있습니다.

앞서 언급했듯이 기본 요구 사항은 각 함수 평가에 비용이 많이 들기 때문에 BO 관련 계산에 무시할 수있는 오버 헤드가 추가되어야한다는 것입니다. 야구장을 제공하기 위해 BO는 함수가 몇 분 이상의 시간에 평가되면 확실히 도움이 될 수 있습니다. 더 빠른 계산 (예 : 수십 초)에도 적용 할 수 있지만 사용하는 알고리즘에 따라 다양한 근사치를 채택해야 할 수도 있습니다. 함수가 초 단위 의 시간 척도로 평가되면 현재 연구의 경계에 도달하고 아마도 다른 방법이 더 유용 할 것으로 생각합니다. 또한, 나는 BO 정말 거의 블랙 박스없는, 말을 당신은 종종 알고리즘, 때로는 조정할 필요가 많은 이 특정 실제 문제와 잠재력에 작동하도록.

BO 외에 일반적인 미분없는 최적화 방법을 검토 하려면 이 검토를 검토하고 [4] 빠른 수렴 특성이 좋은 알고리즘을 확인할 수 있습니다. 예를 들어 MCS (Multi-level Coordinate Search)는 일반적으로 최소값 (물론 항상 최소값은 아님)으로 매우 빠르게 수렴됩니다. MCS는 전역 최적화를 위해 고안되었지만 적절한 바운드 제약 조건을 설정하여 로컬로 만들 수 있습니다.

마지막으로, 비용이 많이 들고 시끄러운 대상 함수에 대한 BO에 관심 이 있습니다. 이 질문에 대한 나의 답변을 참조하십시오 .

참고 문헌 :

1 Brochu et al., "활동적인 사용자 모델링 및 계층 적 강화 학습에 적용되는 고가의 비용 함수의 베이지안 최적화에 대한 자습서"(2010).

[2] Shahriari et al., "사람을 루프에서 꺼내기 : 베이지안 최적화 검토"(2015).

Snoek et al., "기계 학습 알고리즘의 실용적 베이지안 최적화", NIPS (2012).

[4] Rios and Sahinidis, "미분없는 최적화 : 알고리즘 검토 및 소프트웨어 구현 비교", Journal of Global Optimization (2013).

나는 알고리즘 나 자신을 모르는,하지만 난 당신이 찾고있는 최적화 알고리즘의 종류는 생각 파생 상품 무료 최적화 , 목적이 비용이나 잡음이 때 사용된다 .

예를 들어, 한 번 봐 가지고 이 종이 (비요 르크 만, M. & 홈 스트롬을, K. "레이디 얼 기초 기능을 사용하여 값 비싼 비 볼록 함수의 글로벌 최적화."최적화 및 엔지니어링 (2000) 1 : 373 도이 : 10.1023 / A : 1011584207202) 그의 초록은 이것이 당신이 원하는 것임을 정확하게 나타내는 것 같습니다 :

이 백서는 비용이 많이 드는 객관적인 기능의 전역 최적화, 즉 여러 개의 로컬 최소값이 있고 각 기능 값이 계산하는 데 상당한 CPU 시간이 걸리는 경우 전역 최소값을 찾는 문제를 고려합니다. 이러한 문제는 종종 산업 및 금융 응용 프로그램에서 발생하며, 기능 값은 시간이 많이 걸리는 컴퓨터 시뮬레이션 또는 최적화의 결과 일 수 있습니다. 파생물은 구하기 어려운 경우가 많으며 제시된 알고리즘은 그러한 정보를 사용하지 않습니다.

당신은 혼자가 아닙니다.

고가의 평가 시스템은 유한 요소법 (FEM) 모델 및 전산 유체 역학 (CFD) 모델과 같은 엔지니어링에서 매우 일반적입니다. 이 계산 알고리즘은 값 비싼 모델을 최적화하는 것이 매우 필요하고 도전적입니다. 다행히이 문제를 해결하는 데 사용할 수있는 많은 방법 (알고리즘)이 있습니다. 내가 아는 한 대부분은 대리 모델 (메타 모델)을 기반으로합니다. 일부는 아래에 나열되어 있습니다.

• 효율적인 글로벌 최적화 (EGO) [1]. EGO 알고리즘은 위에서 언급되었으며 가장 유명한 대리 기반 최적화 알고리즘 일 수 있습니다. Kriging 모델과 예상 개선 기능 (EI)이라는 충전 기준을 기반으로합니다. EGO 알고리즘을 포함한 R 패키지는 DiceOptim 및 DiceKriging입니다.
• MPS (mode-pursuing sampling) 방법 [2]. MPS 알고리즘은 RBF 모델을 기반으로하며 적절한 샘플링 전략을 사용하여 후보 포인트를 선택합니다. MATLAB 코드는 http://www.sfu.ca/~gwa5/software.html 의 저자가 게시합니다 . MPS 알고리즘은 최적의 결과를 얻기 위해 더 많은 평가가 필요할 수 있지만 개인적인 경험으로 EGO 알고리즘보다 더 복잡한 프로브를 처리 할 수 ​​있습니다.
• 앙상블은 줄리앙 Julian 러 (Juliane Müller)의 모형을 대리한다. 그녀는 검색 능력을 향상시키기 위해 여러 대리자를 사용했습니다. MATLAB 툴박스 MATSuMoTo는 https://github.com/Piiloblondie/MATSuMoTo에서 사용 가능 합니다.

여름철에 이러한 대리 기반 최적화 알고리즘은 가능한 한 적은 평가를 사용하여 문제의 전체 최적을 찾으려고합니다. 이는 서로 게이트 (대리인)가 제공하는 정보를 최대한 활용함으로써 달성됩니다. 계산적으로 비싼 문제의 최적화에 대한 리뷰는 [4-6]에 있습니다.

참고:

1. Jones Jones, M. Schonlau 및 WJ Welch, "고가의 블랙 박스 기능을 효율적으로 글로벌 최적화", Journal of Global Optimization, vol. 13, pp. 455-492, 1998.
2. L. Wang, S. Shan 및 GG Wang, "고가의 블랙 박스 기능에 대한 글로벌 최적화를위한 모드 추구 샘플링 방법", Engineering Optimization, vol. 36, 419-438, 2004 쪽.
3. Tampere University of Technology, 2012. J. Müller, "계산적으로 비싼 블랙 박스 글로벌 최적화 문제를위한 대리 모델 알고리즘"
4. GG Wang과 S. Shan, "엔지니어링 설계 최적화를 지원하는 메타 모델링 기술 검토", Journal of Mechanical Design, vol. 129, 370-380, 2007 쪽.
5. AI Forrester와 AJ Keane, "대리 기반 최적화의 최근 발전", 항공 우주 과학의 발전, vol. 45, pp. 50-79, 2009.
6. FAC Viana, TW Simpson, V. Balabanov 및 V. Toropov, "다 분야 설계 최적화의 메타 모델링 : 우리는 얼마나 멀리 왔습니까?"AIAA Journal, vol. 52, 670-690, 2014/04/01 2014 쪽.

과거에 성공적으로 사용한 두 가지 간단한 전략은 다음과 같습니다.

1. 가능하면 전체 비용 함수 평가와 유사한 간단한 대리 함수 (모의를 대체하는 분석 모델)를 찾으십시오. 이 간단한 기능을 최적화하십시오. 그런 다음 정확한 비용 함수로 결과 솔루션을 검증하고 미세 조정하십시오.
2. 가능하면 정확한 "델타 비용"함수 를 평가할 수있는 방법을 찾으십시오 . 그래디언트를 사용한 것과는 다릅니다. 즉, 전체 비용을 평가 한 초기 15 차원 지점에서 현재 지점의 15 개 구성 요소 중 하나 (또는 ​​여러 개)를 약간 변경하여 비용이 어떻게 변하는 지 알아낼 수있는 방법을 찾으십시오. 특정한 경우에 작은 섭동 의 현지화 속성을 활용해야하며 그 과정에서 내부 상태 변수 를 정의, 캐시 및 업데이트해야 할 수도 있습니다.

이러한 전략은 매우 구체적이며, 귀하의 경우에 적용 할 수 있는지 여부는 알 수 없습니다. 그렇지 않은 경우 죄송합니다. 둘 다 적용 할 수 있습니다 (사용 사례에서와 같이). "델타 비용"전략을보다 간단한 분석 모델에 적용하면 성능이 몇 배나 향상 될 수 있습니다.

또 다른 전략은 일반적으로 반복 횟수를 줄이는 경향이있는 2 차 방법을 사용하는 것입니다 (그러나 각 반복은 더 복잡합니다) – 예를 들어 Levenberg–Marquardt 알고리즘 . 그러나 그라디언트를 직접적이고 효율적으로 평가할 수있는 방법이없는 것 같으면이 경우에는 실행 가능한 옵션이 아닐 수 있습니다.

다른 사람들이 언급했듯이 대리 모델 (응답 표면이라고도 함)은 강력한 접근 방식입니다. 제 생각에는 사람들이 잊어 버린 한 가지 중요한 점은 멀티 코어 CPU를 사용하는 경우 여러 기능 평가 를 병렬로 수행 할 수 있다는 것 입니다.

이 코드를 살펴보면 간단한 응답 모델을 사용하지만 멀티 코어 CPU에서 확장되므로 사용되는 코어 양과 동일한 속도를 제공합니다. 본 백서 에는이 방법의 수학이 설명되어 있습니다.

확률 적 그라디언트 디센트에는 객관적인 함수 평가에도 적용될 수있는 많은 트릭이 있습니다. 전반적인 아이디어는 데이터의 하위 집합을 사용하여 목적 함수 근사 .

이 두 게시물에 대한 저의 대답은 확률 론적 경사 하강이 작동하는 이유를 설명합니다. 그 직관은 데이터의 하위 집합을 사용하여 경사를 근사화하는 것입니다.

확률 적 경사 하강은 어떻게 표준 경사 하강에 비해 시간을 절약 할 수 있습니까?

빅 데이터 설정을 위해 병렬 / 분산 방식으로 선형 회귀를 실행하는 방법은 무엇입니까?

목적 함수에도 동일한 트릭이 적용됩니다.

$\|Ax-b\|^2$$A$$A$$b$