스플라인 vs 가우시안 프로세스 회귀


15

가우시안 프로세스 회귀 (GPR)는 유연한 비선형 모델을 피팅하기 위해 스플라인을 사용하는 대신 사용할 수 있습니다. 어떤 상황에서 특히 베이지안 회귀 프레임 워크에서 어떤 상황이 다른 상황보다 더 적합한 지 알고 싶습니다.

이미 살펴 봤습니다 스플라인, 스무딩 스플라인 및 가우시안 프로세스 에뮬레이터의 장점과 단점은 무엇입니까? 그러나이 게시물에는 GPR에 아무것도없는 것 같습니다.


GP는 비선형 함수를 피팅하는 데보다 데이터 중심의 접근 방식이라고 말합니다. 스플라인은 일반적으로 n 번째 다항식으로 제한됩니다. GP는 다항식보다 더 복잡한 함수를 모델링 할 수 있습니다 (100 % 확실하지는 않음).
Vladislavs Dovgalecs

답변:


15

@j__의 답변에 동의합니다.

그러나 스플라인은 Gaussian Process 회귀 / kriging의 특별한 경우 라는 사실을 강조하고 싶습니다 .

가우스 프로세스 회귀 분석에서 특정 유형의 커널을 사용하면 스플라인 피팅 모델을 정확하게 얻을 수 있습니다.

이 사실은이 논문에서 Kimeldorf와 Wahba (1970)에 의해 입증되었습니다 . RKHS (kneling and Kernel Hilbert Spaces)를 재생하는 데 사용되는 커널 간의 링크를 사용하기 때문에 다소 기술적입니다.


2
예를 들어, 1 차원 경우 유명한 스무딩 스플라인의 GP 모델은 단순히 이중 통합 가우시안 화이트 노이즈입니다. 이것은 Craig Ansley와 Robert Kohn이 1980 년대 말에 효율적인 알고리즘을 설계하는 데 사용했습니다. 나는이 동등성이 RKHS의 심도있는 수학에 뛰어 들지 않고 부분적으로 이해 될 수 있다고 믿는다.
Yves

이것은 매우 좋은 답변입니다.
Astrid

6

매우 흥미로운 질문이다. 가우시안 프로세스와 스무딩 스플라인 사이의 동등성이 Kimeldorf와 Wahba 1970에서 보여졌다. 제한된 보간의 경우에이 통신의 일반화는 Bay et al. 2016.

베이 등. 2016. 제한 보간에 대한 Kimeldorf-Wahba 통신의 일반화. 전자 통계 저널.

본 논문에서는 베이지안 접근법의 장점에 대해 논의했다.


2

@xeon의 의견에 동의합니다 .GPR은 무한한 수의 함수에 확률 분포를 제시하고 평균 함수 (스플라인과 같은)는 MAP 추정치 일 뿐이지 만 그에 대한 차이가 있습니다. 이를 통해 실험 설계 (최대한 정보를 제공하는 입력 데이터 선택)와 같은 큰 기회를 얻을 수 있습니다. 또한 모델의 적분 (구적)을 수행하려는 경우 GP는 가우스 결과를 가지므로 결과에 자신감을 가질 수 있습니다. 최소한 표준 스플라인 모델에서는 불가능합니다.

실제로 GPR은 더 유익한 결과를 제공하지만 (내 경험에서) 스플라인 모델은 내 경험에서 더 빠른 것 같습니다.

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.