보통 최소 제곱에서 보통은 무엇입니까?

내 친구가 최근에 보통 최소 제곱에 대해 그렇게 평범한 것을 물었습니다. 우리는 토론의 어느 곳에도 가지 않는 것 같았습니다. 우리는 OLS가 선형 모델의 특별한 경우이고 많은 용도가 있고 잘 알고 있으며 다른 많은 모델의 특별한 경우라는 것에 동의했습니다. 그러나 이것이 전부입니까?

따라서 알고 싶습니다 :

• 이름은 어디에서 유래 한 것입니까?
• 이름을 처음 사용한 사람은 누구입니까?

최소 제곱은 보통 최소 최소 제곱 (OLS)이라고합니다. 왜냐하면 1800 년경에 최초로 개발 된 통계적 절차이기 때문 입니다. 역사 참조 . 이는 규범 인 를 최소화하는 것과 같습니다 . 결과적으로 가중 최소 제곱, 다른 규범 최소화 (예 : ), 일반 최소 제곱 , M 추정 , 이변 량 최소화 (예 : 데밍 회귀), 비모수 회귀, 최대 가능성 회귀, 정규화 (예 : Tikhonov, 능선) 및 다른 역 문제 기술과 여러 다른 도구가 개발되었습니다. 누가 가우스 또는 레전드를 처음 적용했는지에 대해서는 여전히 논란이 있습니다$y$$L_2$$||Y-f(X)||_2$$L_1$링크 ). "일반적인"이라는 용어 ( 함축 된 )는 많은 대안 적 방법들이 생겨난 후에야 "가장 작은 사각형"에 분명히 추가되었다. 평범한 최소 제곱을 정확히 추가하면 자연 스럽거나 명백해지기 때문에 발생하기 때문에 추적하기가 어려울 것입니다.$y$$+$