검색 방법 및 최적화 방법의 의미


9

"검색 방법"과 "최적화 방법"의 차이점과 관계가 궁금합니다.

특히 최적화 문제를 해결할 때? 검색 방법 이 최적화 문제를 해결하기위한 것이 아니라 최적화되지 않은 문제를 추측하기 때문에 최적화 문제 해결의 맥락을 강조합니다 .

혼란은 다음과 같은 사실에서 비롯됩니다.

  1. 로컬 검색 , 확률 검색 등과 같은 "xxx 검색"이라는 최적화 방법 이 있습니다. "검색"은 실제로 무엇을 의미합니까? "검색"이 아닌 최적화 방법이 있는지 궁금합니다.
  2. 또한이 책에서 Spall의 확률 적 검색 및 최적화 소개 에서 제목과 내용의 "검색"과 "최적화"의 차이점을 이해하지 못합니다. "검색"과 "최적화"를 동일한 의미로 구별해야하는 이유는 무엇입니까? 또는 "검색"이 최적화 작업 / 문제를 해결하는 방법을 의미하는 것처럼 "최적화"는 최적화 방법 대신 확률 론적 최적화 작업 / 문제를 의미합니까?
  3. 또한 검색 및 최적화에서 무료 점심 식사는 검색과 최적화를 다시 구분 하지 않습니다 .

감사합니다.

답변:


11

search = 일반적으로 함수 값만 사용하여 모든 제약 조건을 충족하는 (그리고 지금까지 찾은 것보다 더 나은 지점을 최적화하기 위해) 실현 가능한 지점을 찾으려고 시도합니다.

지역 검색 : 인접 지점을 검색하여 실행 지점 (또는 실행 가능성 측정 거리)을 향상시킵니다.

확률 적 검색 : 시험 포인트를 선택하기 위해 비 결정적 기준을 사용하여 검색합니다.

이는 최적화 기준이 제공되는지 여부와 관계가 없습니다. 특히``검색 및 최적화시 무료 점심 제공 안 함 ''에서 검색은 타당성 검색을 의미하는 반면 최적화는 최적 성 검색을 의미합니다.

일반적으로 최적화 문제의 경우 검색과 최적화는 동일합니다. 그러나 용어의 사용법에 차이를 내포하는 의미가 있습니다.

최적화 방법 = 그래디언트 (또는 하위 그라데이션 또는 심지어 Hessian) 정보를 사용하여 최적화 문제를 해결하는 방법입니다.

그래디언트를 사용할 수 있으면 최적화 방법의 효율성이 크게 향상됩니다. 이러한 맥락에서 (즉, 알려진 그라디언트) 용어는``라인 검색 ''조합에서만 검색이라는 용어를 사용하는데, 이는 선택된 방향을 따라 더 나은 점을 검색하는 것을 의미합니다.


감사! 따라서 최적화 문제의 경우 (1) 넓은 의미에서 검색은 최적화 방법과 동일합니다. (2) 좁은 의미에서 "일반적으로 함수 값만 사용"이라는 검색은 "{search methods} = {함수 값만 사용하는 최적화 방법}을 의미합니다{line search methods} "?"line search "가 함수 값 이상의 것을 사용하는 유일한"search method "입니까? 그래디언트 기반 방법에서 그라디언트에 약간의 섭동을 추가하면이 방법이"stochastic search "방법이됩니까? 지역 검색과 확률 검색은 모두 함수 값만 사용합니까?
Tim

(3) 검색 방법은 좁은 의미에서 모든 메타 휴리스틱입니까?
Tim

@Tim : 라인 검색은 검색에서 그라디언트를 사용하거나 사용하지 않을 수 있습니다 (예 : Wolfe 라인 검색에는 그라디언트 필요). 이 단어들에 너무 정확한 의미를 붙여서는 안됩니다. 그들은 정확한 의미를 가진 수학적 개념이 아닌 무언가를 암시합니다. -뉴턴의 방법은 그라디언트와 헤 시안을 사용합니다. -검색에 난수 생성기가 포함되면 방법이 확률 론적입니다. -지역 검색은 전체 최적의 수렴을 보장하지 않는 방법의 일반적인 의미로 사용되거나 현재 최고 지점의 주변 지역 만 검사하여 직접 검색하는 것을 의미합니다.
Arnold Neumaier

메타 휴리스틱에는 '지역 검색'보다 더 구체적인 원칙이 포함되어 있어야합니다. 나는 이것이 일반적으로 적용되는 것을 결코 듣지 못했습니다. 그러나이 용어는 매우 정확하지 않습니다
Arnold Neumaier

4

"검색"과 "최적화"의 용어 차이는 검색이 검색 과정을 의미한다는 사실에서 비롯됩니다. x 그래서 주어진 g(x) 우리는 g(x)=0즉, 루트를 검색합니다. 최적화에서 우리는x 그래서 f(x)min!. 적어도f 이 최소값을 찾는 것은 일반적으로 근을 찾는 문제로 변환됩니다. g(x)=f(x). 다시 말해, "검색"이라는 용어는보다 일반적인 문제에서 비롯되지만 최적화 문제의 경우 최적화를 다루는 항목은 종종 검색을 다루는 것으로 줄어 듭니다.


검색은 일반적으로 방정식과 불평등 시스템에 적용됩니다. 특히, 최적화의 경우,g(x)=0,f(x)fbest. 그러나 최적화의 직접 검색 방법은g(x)따라서이 제한 조건 세트에 검색 알고리즘을 적용 할 수는 없습니다.
Arnold Neumaier
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.