답변:
일상적인 절차를 통해 문제를 단순화 한 후 문제를 기본적인 증거로 잘 알려진 이중 최소화 프로그램으로 변환하면 문제를 해결할 수 있습니다. 아마도이 이중화는 문제에서 언급 된 "미묘한 단계"일 것입니다. 불평등은 또한 최대화함으로써 순전히 기계적인 방식으로 확립 될 수있다 라그랑주 승수 를 통해 .
우선, 나는 최소 제곱의 기하학을 기반으로보다 우아한 솔루션을 제공합니다. 사전 단순화가 필요하지 않으며 거의 즉각적으로 결과에 직접적인 직관을 제공합니다. 이 질문에서 제안했듯이 문제는 Cauchy-Schwarz 불평등으로 줄어 듭니다.
치다 로 점이있는 유클리드 공간의 3 차원 벡터 허락하다 ~이다 기본 벡터와 . 쓰다 과 의 직교 투영을 위해 과 직교 보체로 . (통계적 용어로, 평균과 관련하여 잔차입니다.) 그런 다음 과 ,
구성 요소입니다 에서 방향. Cauchy-Schwarz에 의해 정확하게 최대화됩니다 ~에 평행하다 을 위해
또한이 솔루션은 모든 경우에 대한 철저한 특성을 제공합니다. 최대화됩니다 : 그들은 모든 형태입니다
모든 진짜를 위해 .
이 분석은 다음과 같은 경우에 쉽게 일반화됩니다. 모든 회귀 세트로 대체됩니다. 분명히 최대 잔차 길이에 비례 , .
때문에 위치와 규모의 변화에 따라 변하지 않으며, 일반성을 잃지 않고 합은 0이고 제곱은 . 이것은 식별 와 , 이후 (평균 제곱)은 . 그것을 극대화하는 것은 가장 중요하다. 복용으로 일반성이 손실되지 않습니다, 이후 교환 할 수 있습니다.
이중 문제는 남은 값을 물어보세요 제곱의 합 을 최소화 하는 데 필요합니다 ~을 고려하면 . 때문에 이것이 최소화의 문제입니다 ~을 고려하면 .
솔루션은 여러 가지 방법으로 쉽게 찾을 수 있습니다. 가장 기본적인 것 중 하나는 글을 쓰는 것입니다
어떤 . 목적 함수를 확장하고이 합계 0 ID를 사용하여 생산을 단순화
독특한 솔루션을 즉시 보여줍니다 모든 . 이 솔루션의 경우
과
QED .
우리가 시작한 단순화 된 프로그램으로 돌아갑니다 :
에 따라
Lagrange multipliers (거의 순전히 기계적이고 간단하다)의 방법은이 세 함수의 기울기를 0에 대한 사소한 선형 조합과 같습니다.
구성 요소 별 구성 요소 방정식은
마지막 그들 중 하나를 암시 또는 . (우리는 후자의 경우를 배제 할 수 있습니다.)를 0으로 합산하면 제약 조건이 생성됩니다. . 제곱합 제약은 두 가지 솔루션을 제공합니다.
그들은 둘 다 생산
명시된 불평등은 사실이다. 불평등에 대한 가장 어려운 경우를 얻는다는 것은 직관적으로 분명합니다.) 하나의 값을 선택하여 다른 모든 것을 동일하게 유지하면서 가능한 한 큰. 이러한 구성의 예를 살펴 보겠습니다.
편집하다
우리는 이제 위에서 암시 된 것처럼 주장을 증명할 것입니다. 먼저 주어진 벡터에 대해 이 문제에서 우리는 그것을 불평등의 양쪽을 바꾸지 않고 따라서 다음에서는. 또한 레이블을 재 라벨링하여가장 큽니다. 그런 다음 먼저 선택하여 그리고 우리는 간단한 대수로 우리가 주장한 불평등에서 평등을 가지고 있는지 확인할 수 있습니다. 그래서 예리합니다.
그런 다음 (볼록한) 영역을 정의하십시오. 으로