검색 방법 및 최적화 방법의 의미


9

"검색 방법"과 "최적화 방법"의 차이점과 관계가 궁금합니다.

특히 최적화 문제를 해결할 때? 검색 방법 이 최적화 문제를 해결하기위한 것이 아니라 최적화되지 않은 문제를 추측하기 때문에 최적화 문제 해결의 맥락을 강조합니다 .

혼란은 다음과 같은 사실에서 비롯됩니다.

  1. 로컬 검색 , 확률 검색 등과 같은 "xxx 검색"이라는 최적화 방법 이 있습니다. "검색"은 실제로 무엇을 의미합니까? "검색"이 아닌 최적화 방법이 있는지 궁금합니다.
  2. 또한이 책에서 Spall의 확률 적 검색 및 최적화 소개 에서 제목과 내용의 "검색"과 "최적화"의 차이점을 이해하지 못합니다. "검색"과 "최적화"를 동일한 의미로 구별해야하는 이유는 무엇입니까? 또는 "검색"이 최적화 작업 / 문제를 해결하는 방법을 의미하는 것처럼 "최적화"는 최적화 방법 대신 확률 론적 최적화 작업 / 문제를 의미합니까?
  3. 또한 검색 및 최적화에서 무료 점심 식사는 검색과 최적화를 다시 구분 하지 않습니다 .

감사합니다.

답변:


11

search = 일반적으로 함수 값만 사용하여 모든 제약 조건을 충족하는 (그리고 지금까지 찾은 것보다 더 나은 지점을 최적화하기 위해) 실현 가능한 지점을 찾으려고 시도합니다.

지역 검색 : 인접 지점을 검색하여 실행 지점 (또는 실행 가능성 측정 거리)을 향상시킵니다.

확률 적 검색 : 시험 포인트를 선택하기 위해 비 결정적 기준을 사용하여 검색합니다.

이는 최적화 기준이 제공되는지 여부와 관계가 없습니다. 특히``검색 및 최적화시 무료 점심 제공 안 함 ''에서 검색은 타당성 검색을 의미하는 반면 최적화는 최적 성 검색을 의미합니다.

일반적으로 최적화 문제의 경우 검색과 최적화는 동일합니다. 그러나 용어의 사용법에 차이를 내포하는 의미가 있습니다.

최적화 방법 = 그래디언트 (또는 하위 그라데이션 또는 심지어 Hessian) 정보를 사용하여 최적화 문제를 해결하는 방법입니다.

그래디언트를 사용할 수 있으면 최적화 방법의 효율성이 크게 향상됩니다. 이러한 맥락에서 (즉, 알려진 그라디언트) 용어는``라인 검색 ''조합에서만 검색이라는 용어를 사용하는데, 이는 선택된 방향을 따라 더 나은 점을 검색하는 것을 의미합니다.


감사! 따라서 최적화 문제의 경우 (1) 넓은 의미에서 검색은 최적화 방법과 동일합니다. (2) 좁은 의미에서 "일반적으로 함수 값만 사용"이라는 검색은 "{search methods} = {함수 값만 사용하는 최적화 방법}을 의미합니다∪{line search methods} "?"line search "가 함수 값 이상의 것을 사용하는 유일한"search method "입니까? 그래디언트 기반 방법에서 그라디언트에 약간의 섭동을 추가하면이 방법이"stochastic search "방법이됩니까? 지역 검색과 확률 검색은 모두 함수 값만 사용합니까?
— Tim

(3) 검색 방법은 좁은 의미에서 모든 메타 휴리스틱입니까?
— Tim

@Tim : 라인 검색은 검색에서 그라디언트를 사용하거나 사용하지 않을 수 있습니다 (예 : Wolfe 라인 검색에는 그라디언트 필요). 이 단어들에 너무 정확한 의미를 붙여서는 안됩니다. 그들은 정확한 의미를 가진 수학적 개념이 아닌 무언가를 암시합니다. -뉴턴의 방법은 그라디언트와 헤 시안을 사용합니다. -검색에 난수 생성기가 포함되면 방법이 확률 론적입니다. -지역 검색은 전체 최적의 수렴을 보장하지 않는 방법의 일반적인 의미로 사용되거나 현재 최고 지점의 주변 지역 만 검사하여 직접 검색하는 것을 의미합니다.
— Arnold Neumaier

메타 휴리스틱에는 '지역 검색'보다 더 구체적인 원칙이 포함되어 있어야합니다. 나는 이것이 일반적으로 적용되는 것을 결코 듣지 못했습니다. 그러나이 용어는 매우 정확하지 않습니다
— Arnold Neumaier

4

"검색"과 "최적화"의 용어 차이는 검색이 검색 과정을 의미한다는 사실에서 비롯됩니다. x∗ 그래서 주어진 g(x) 우리는 g(x∗)=0즉, 루트를 검색합니다. 최적화에서 우리는x∗ 그래서 f(x)→min!. 적어도f 이 최소값을 찾는 것은 일반적으로 근을 찾는 문제로 변환됩니다. g(x)=∇f(x). 다시 말해, "검색"이라는 용어는보다 일반적인 문제에서 비롯되지만 최적화 문제의 경우 최적화를 다루는 항목은 종종 검색을 다루는 것으로 줄어 듭니다.


검색은 일반적으로 방정식과 불평등 시스템에 적용됩니다. 특히, 최적화의 경우,g(x)=0,f(x)≤fbest. 그러나 최적화의 직접 검색 방법은g(x)따라서이 제한 조건 세트에 검색 알고리즘을 적용 할 수는 없습니다.
— Arnold Neumaier
당사 사이트를 사용함과 동시에 당사의 쿠키 정책과 개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.