“폐쇄 형 솔루션”이란 무엇입니까?


82

"폐쇄 형 솔루션"이라는 용어를 자주 접했습니다. 폐쇄 형 솔루션이란 무엇입니까? 주어진 문제에 대한 최종 솔루션이 존재하는지 어떻게 판단합니까? 온라인 검색에서 통계 나 확률 모델 / 솔루션을 개발할 때 정보가 없었지만 아무것도 발견하지 못했습니다.

회귀를 잘 이해하므로 회귀 또는 모형 적합을 참조하여 개념을 설명 할 수 있다면 사용하기 쉽습니다. :)


4
이 질문은 한동안 저품질 답변에 대한 자석의 문제인 것 같습니다. 아마 지금은 보호되어야한다고 생각했습니다.
Glen_b

답변:


37

"방정식은 주어진 일반적으로 수용되는 집합에서 함수와 수학 연산의 관점에서 주어진 문제를 해결하면 폐쇄 형 솔루션이라고합니다. 예를 들어, 무한 합은 일반적으로 폐쇄 형으로 간주되지 않습니다. 새로운 "폐쇄 형"기능은 단순히 무한한 합으로 정의 될 수 있기 때문에 폐쇄 형이라고 부르는 것과 임의적이지 않은 것을 선택하는 것입니다. " -울프 람 알파

"수학에서, 표현은 한정된 수의 특정"잘 알려진 "함수의 관점에서 분석적으로 표현 될 수 있다면 닫힌 형태의 표현이라고합니다. 일반적으로, 이러한 잘 알려진 함수는 기본 함수로 정의됩니다. 상수, 하나의 변수 x, 산술의 기본 연산 (+ − × ÷), n 번째 근, 지수 및 로그 (삼각 함수 및 역삼 각 함수도 포함) 종종 문제는 용어로 해결할 수 있으면 다루기 쉬운 것으로 알려져 있습니다. 닫힌 형식의 표현 " -위키 백과

선형 회귀 분석에서 닫힌 형태 솔루션의 예는 최소 제곱 방정식입니다.

β^=(XTX)1XTy

모든 회귀 시나리오가 방정식 시스템을 푸는 데 문제가 될 수 있다는 점을 고려할 때, 폐쇄 형 솔루션이 없을 때는 언제입니까? 잘못 제기되거나 드문 문제가 발생하면 근사한 솔루션이 필요하므로 폐쇄 형 솔루션이 존재하지 않습니까? 정규화와 함께 켤레 그라디언트 디센트를 사용하는 경우는 어떻습니까?
arjsgh21

나는이 논의가 도움이되었다고합니다 - "그라데이션 하강 대 폐쇄 형태로 회귀 매개 변수에 대한 해결" 링크
arjsgh21

@ arjsgh21 폐쇄 형 솔루션이 무엇을 의미하는지에 대한 추가 설명이 필요합니까? 귀하의 새로운 질문은 회귀 문제에서 완전히 새로운 주제이며 폐쇄 된 양식 솔루션이 언제 있는지에 관한 것 같습니다.

감사합니다 BabakP. 나는 회귀와 다른 방법으로 그것을 지금 얻는다고 생각합니다.
arjsgh21

1
CrossValidated가 이해를 제공하는 답변보다 난독하지만 정확한 답변을 일관되게 지원하는 유일한 "스택 교환 포럼"인 이유를 혼란스럽게합니다. 현재 작물의 가장 좋은 대답은 @Luca이며, 감사하지 않습니다. 사실 링크 만 제공하지만 이해하기 쉬운 훌륭한 링크입니다. 이 과도하게 표현 된 답변은 이미 답변을 알고있는 사람들의 문제를 해결하는 데 도움이됩니다. :(
Mike Williamson

17

대부분의 추정 절차에는 일부 목적 함수를 최소화 (또는 최대화)하는 매개 변수를 찾는 것이 포함됩니다. 예를 들어 OLS를 사용하면 잔차 제곱의 합을 최소화합니다. 최대 우도 추정을 통해 로그 우도 함수를 최대화합니다. 차이점은 사소한 것입니다. 목적 함수의 음수를 사용하여 최소화를 최대화로 변환 할 수 있습니다.

때때로이 문제는 대수적으로 해결되어 폐쇄 형 솔루션을 생성 할 수 있습니다. OLS를 사용하면 1 차 조건의 시스템을 해결하고 익숙한 공식을 얻을 수 있습니다 (아직 답을 평가하려면 컴퓨터가 필요할 수도 있음). 다른 경우에는 수학적으로 가능하지 않으므로 컴퓨터를 사용하여 매개 변수 값을 검색해야합니다. 이 경우 컴퓨터와 알고리즘이 더 큰 역할을합니다. 비선형 최소 제곱이 한 예입니다. 당신은 명백한 공식을 얻지 못한다; 당신이 얻는 것은 구현하기 위해 컴퓨터에 필요한 레시피입니다. 레시피는 매개 변수가 무엇이고 어떻게 변할 수 있는지에 대한 초기 추측으로 시작할 수 있습니다. 그런 다음 다양한 매개 변수 조합을 시도하여 가장 낮은 / 높은 목적 함수 값을 제공하는 매개 변수를 확인하십시오. 이것은 무차별 접근 방식이며 오랜 시간이 걸립니다. 예를 들어105 조합으로, 운이 좋으면 정답 근처에 당신을 넣을뿐입니다. 이 방법을 그리드 검색이라고합니다.

또는 추측으로 시작하여 목적 함수의 향상이 일부 값보다 작을 때까지 추측을 어느 방향으로 구체화 할 수 있습니다. 이것을 일반적으로 기울기 방법이라고합니다 (유전 알고리즘 및 시뮬레이션 된 어닐링과 같이 기울기를 사용하여 방향을 선택하지 않는 다른 방법도 있음). 이와 같은 일부 문제는 정답을 빠르게 찾을 수 있도록 보장합니다 (이차 목적 함수). 다른 사람들은 그러한 보증을하지 않습니다. 전 세계적으로 최적이 아닌 로컬에서 멈춰서 걱정할 수도 있으므로 다양한 초기 추측을 시도하십시오. 엄청나게 다른 매개 변수가 목적 함수의 동일한 값을 제공하므로 선택할 집합을 모릅니다.

직관을 얻는 좋은 방법이 있습니다. 회귀자가 유일한 절편 인 단순한 지수 회귀 모형이 있다고 가정합니다.

E[y]=exp{α}

목적 함수는

QN(α)=12NiN(yiexp{α})2

이 간단한 문제로 두 가지 방법 모두 가능합니다. 도함수를 취함으로써 얻을 수있는 닫힌 형태의 솔루션은 입니다. 대신 을 연결하여 다른 목적으로 더 높은 목적 함수 값을 제공하는지 확인할 수도 있습니다 . 회귀자가있는 경우 분석 솔루션이 창 밖으로 나옵니다. ln ( ˉ y + k )α=lny¯ln(y¯+k)


마지막 문장에서 "분석적"과 "닫힌 형태"를 암시 적으로 동일시 했습니까?
whuber

2
나는 그때 동의어라고 생각했다 : mathworld.wolfram.com/Analytic.html
Dimitriy V. Masterov

해당 MathWorld 페이지 끝에 명확성 설명이 보입니까? 문제는 본 맥락에서 "분석"은 몇 가지 뚜렷한 방식으로 합리적으로 이해 될 수 있다는 것이다. 또한 "분석적"과 "분석적"은 정확히 같은 것을 의미하지는 않습니다 ( "역사적"과 "역사적"이 다른 의미를 갖는 것처럼).
whuber

"분석 솔루션", "분석 솔루션"및 "폐쇄 형"사이에 차이가 있다는 것을 알지 못합니다. MathWorld에는 분석에 대한 별도의 항목이 없으며 알려진 함수, 상수 등의 관점에서 "닫힌 형태"로 작성할 수있는 문제에 대한 분석 솔루션을 정의합니다. MW는 분석 및 분석 은 변형 이라고 말합니다 . 역사와 역사의 구별은 유효하지만이 경우와 관련이있는 것은 따르지 않습니다. 내가 틀렸다면 정정 해주세요.
Dimitriy V. Masterov

2
많은 수학적 상황에서 "분석"은 양의 수렴 반경을 가진 전력 계열로 로컬로 표현할 수있는 모든 함수에 적용되는 정확한 용어입니다. BabakP의 인용에서 알 수 있듯이 "폐쇄 된 형태"는 일반적으로 받아 들여지는 값을 결합하는 절차의 맥락 내에서만 의미를 얻습니다 (보통 초등 함수는 아니지만 초등 함수로 구성됨).
whuber

13

웹 사이트는 다음과 같은 간단한 직관을 제공 한다고 생각합니다 .

닫힌 양식 솔루션 (또는 닫힌 양식 표현)은 한정된 수의 표준 작업에서 평가할 수있는 모든 공식입니다. ... 수치 해는 유한 표준 연산에서 평가할 수있는 근사치입니다. 폐쇄 형 솔루션과 수치 솔루션은 모두 한정된 수의 표준 작업으로 평가할 수 있다는 점에서 비슷합니다. 닫힌 솔루션은 정확하지만 수치 솔루션은 근사하다는 점이 다릅니다.


2
링크 만 제공하는 것이 가장 도움이되는 답변입니다.
Mike Williamson

2
링크에서 인용 한 웨인의 답변은 확실히 답을 향상 시켰습니다.
Glen_b

2
게다가 루카의 연결은 이제 죽었다.
Naramsim

-2

의미를 엄격하게 정의하는 평신도 나 고통스러운 언어를 찾고 계십니까? 다른 용어는 어디에서나 찾을 수 있기 때문에 평신도 용어를 사용합니다. 8의 제곱근의 닫힌 양식 솔루션을 원한다고 가정 해 봅시다. 닫힌 양식 솔루션은 2의 제곱근의 2 * (2) ^ 1 / 2 또는 2 배입니다. 이것은 닫히지 않은 양식 솔루션 2.8284와 대조적입니다. (1 / 10,000 이내의 정확한 소수점 이하 69 자리를 보려면 2의 wikipedia 제곱근 참조) 하나는 수학 용어로 절대적으로 정의되지만 다른 하나는 그렇지 않습니다. 닫힌 양식 솔루션은 정확한 답변을 제공하며 닫힌 양식이 아닌 솔루션은 근사치이지만 닫힌 양식 솔루션에 가까운 닫힌 양식 솔루션을 얻을 수 있습니다. 직관적으로 들리는 사운드이지만,보다 정확해야하는 경우 조금 더 많은 계산을 수행하십시오.


3
이것은 "폐쇄 양식"이라는 용어를 비정상적으로 사용하는 것입니다. 당신은 참조를 제공 할 수 있습니까?
whuber

1
내가 기꺼이 내놓는 것보다 더 많은 노력을 기울이지 않고도 이에 대한 토론에서 이길 수있는 충분한 수준의 지원 문서를 제공 할 수 있는지 확신 할 수 없지만 여기까지 간다. 닫힌 양식 표현식에 대해서는 Wikipedia를 참조하십시오. 마지막 두 섹션에서는 일반적으로 수치 계산을 사용하여 솔루션에 도달 할 수 있기 때문에 폐쇄 형 솔루션이 반드시 필요한 것은 아니며 다음 수학 섹션에서는 숫자 값에서 폐쇄 형 솔루션을 생성하는 방법을 설명합니다. 폐쇄 형 솔루션은 정확합니다 (공간 밖)
Cheesepipe

5
Wikipedia는 참고로 좋습니다. 이 경우 "폐쇄 된 양식 번호"와 "폐쇄 된 양식 표현식"이 함께 표시 될 수 있습니다. 그들은 같은 것을 의미하지 않습니다.
whuber

-2

닫힌 형태 = 닫힌 (기능적) 형태

닫힘은 더 이상 들어갈 수 없음을 의미합니다. 즉, 결과와 예측 변수 사이의 관계를 설정할 수있는 대안 => 단 하나의 솔루션 => 단 하나의 함수는 없습니다.


3
이것은 또한이 용어의 특이한 사용이다. 이 맥락에서 사용되는 몇 가지 예를 들어 주시겠습니까? 나는 종종 결과 또는 예측 변수가없는 적분에 관한 닫힌 형태 / 닫힌 형태를 듣지 않기 때문에 놀랐습니다.
매트 크라우스
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.