"커널 밀도 추정"은 무엇의 컨볼 루션입니까?

커널 밀도 추정에 대해 더 잘 이해하려고합니다.

Wikipedia의 정의 사용 : https://en.wikipedia.org/wiki/Kernel_density_estimation#Definition

$\hat{f_h}(x) = \frac{1}{n}\sum_{i=1}^n K_h (x - x_i) \quad = \frac{1}{nh} \sum_{i=1}^n K\Big(\frac{x-x_i}{h}\Big)$

하자 걸릴 제공하는 직사각형의 함수로 경우에 사이 및 및 그렇지 및 (창 크기) 1된다. $K()$ $1$ $x$ $-0.5$ $0.5$ $0$ $h$

밀도가 두 함수의 컨볼 루션이라는 것을 알고 있지만이 두 함수를 정의하는 방법을 잘 모르겠습니다. 그중 하나는 (아마도) R의 모든 지점에 대해 해당 위치에있는 데이터 지점 수 (대부분 ) 를 나타내는 데이터의 함수 일 것입니다 . 그리고 다른 함수는 아마도 창 크기와 결합 된 커널 함수의 수정일 것입니다. 그러나 그것을 정의하는 방법을 모르겠습니다. $0$

어떤 제안?

Bellow는 위의 정의 된 설정 (두 개의 가우시안과 혼합하여)을 복제하는 R 코드의 예 입니다. 여기서 우리가 의심하는 것처럼 복잡한 함수가 "증거"되고 있음을 알기를 희망합니다. . $n=100$

# example code:
set.seed(2346639)
x <- c(rnorm(50), rnorm(50,2))
plot(density(x, kernel='rectangular', width=1, n = 10**4))
rug(x)

여기에 이미지 설명을 입력하십시오

r kernel-smoothing convolution

— 탈 갈릴리
소스

바닥의 깔개는 약간의 직관력을 제공합니다. 에서 까지의 각 값 가 관련 가중치가 스파이크라고 가정 합니다. 이제 커널의 모양과 너비를 사용하여 각 스파이크를 번져서 아래 면적이 이되도록 높이와 같은 모양과 너비를 갖도록 스파이크를 변형합니다 . 결과를 추가하면 커널 밀도 추정값이 있습니다.

x_{i}

$x_i$

i = 1

$i = 1$

n

$n$

1 / n

$1/n$

1 / n

$1/n$

— Nick Cox

닉, 댓글 주셔서 감사합니다. 이것은 지금 직관에 이미 그것은 내가 :) 궁금했다 회선의 형태로 공식적으로 돌고, 가지고 (지금 Whuber의 대답을 통과 열망 해요!)

— 탈 Galili 한

모든 배치 데이터 에 해당하는 것은 "임시 밀도 함수"입니다. $X = (x_1, x_2, \ldots, x_n)$

f_{X} (x) = \frac{1}{n} \sum_{i = 1}^{n} δ (x - x_{i}) .

$f_X(x) = \frac{1}{n}\sum_{i=1}^{n} \delta(x-x_i).$

여기서 는 "일반화 된 함수"입니다. 그 이름에도 불구하고, 그것은 전혀 기능이 아닙니다 : 그것은 적분 내에서만 사용될 수있는 새로운 수학적 객체입니다. 그것의 정의 속성은 근처에서 연속적인 소형 지지대의 함수 에 대해 , $\delta$ $g$ $0$

\int_{R} δ (x) g (x) d x = g (0) .

$\int_{\mathbb{R}}\delta(x) g(x) dx = g(0).$

이름 에는 "원자"또는 "점"측정 값 및 " Dirac 델타 함수 "가 포함 됩니다 . 다음 계산에서이 개념은 한쪽에서만 연속되는 함수 를 포함하도록 확장되었습니다 . $\delta$ $g$

이러한 특성을 하는 것은 $f_X$

\begin{aligned} \int_{- \infty}^{x} f_{X} (y) d y & = \int_{- \infty}^{x} \frac{1}{n} \sum_{i = 1}^{n} δ (y - x_{i}) d y \\ = \frac{1}{n} \sum_{i = 1}^{n} \int_{- \infty}^{x} δ (y - x_{i}) d y \\ = \frac{1}{n} \sum_{i = 1}^{n} \int_{R} I (y \leq x) δ (y - x_{i}) d y \\ = \frac{1}{n} \sum_{i = 1}^{n} I (x_{i} \leq x) \\ = F_{X} (x) \end{aligned}

$\eqalign{ \int_{-\infty}^{x} f_X(y) dy &= \int_{-\infty}^{x} \frac{1}{n}\sum_{i=1}^{n} \delta(y-x_i)dy \\ &= \frac{1}{n}\sum_{i=1}^{n} \int_{-\infty}^{x} \delta(y-x_i)dy \\ &= \frac{1}{n}\sum_{i=1}^{n} \int_{\mathbb{R}} I(y\le x) \delta(y-x_i)dy \\ &= \frac{1}{n}\sum_{i=1}^{n} I(x_i \le x) \\ &= F_X(x) }$

여기서 는 일반적인 경험적 CDF이고 는 일반적인 특성 함수입니다 ( 인수가 참이면 , 그렇지 않으면 ). (I는 위에 정의 된 함수 컴팩트 지원 기능에서 이동하는데 필요한 엘리 멘터 제한 인자 이동 ; 때문에 단지 범위 내의 값에 대해 정의 될 필요가 컴팩트 한, 문제는 없다.) $F_X$ $I$ $1$ $0$ $\mathbb{R}$ $I$ $X$

다른 함수 와 의 컨벌루션 은 다음과 같이 정의됩니다. $f_X(x)$ $k$

\begin{aligned} (f_{X} * k) (x) & = \int_{R} f_{X} (x - y) k (y) d y \\ = \int_{R} \frac{1}{n} \sum_{i = 1}^{n} δ (x - y - x_{i}) k (y) d y \\ = \frac{1}{n} \sum_{i = 1}^{n} \int_{R} δ (x - y - x_{i}) k (y) d y \\ = \frac{1}{n} \sum_{i = 1}^{n} k (x_{i} - x) . \end{aligned}

$\eqalign{ (f_X * k)(x) &= \int_{\mathbb{R}} f_X(x - y) k(y) dy \\ &=\int_{\mathbb{R}} \frac{1}{n}\sum_{i=1}^{n} \delta(x-y-x_i) k(y) dy \\ &= \frac{1}{n}\sum_{i=1}^{n}\int_{\mathbb{R}} \delta(x-y-x_i) k(y) dy \\ &=\frac{1}{n}\sum_{i=1}^{n} k(x_i-x). }$

시키는 (와 동일 은 Wikipedia 수식 컨벌루션이다 : 우리는 결과를 얻을 항 - 대부분의 커널이 대칭 대칭 커널을위한). $k(x) = K_h(-x)$ $K_h(x)$

— 우버
소스

2 차원의 상황은 (더 구어 적 용어로) 설명되어 있으며 GIS 사이트 gis.stackexchange.com/questions/14374/…에 설명되어 있습니다.

— whuber

친애하는 Whuber, 나는 방금지나 가서 당신의 대답을 즐겁게 읽었습니다! 설명과 세부 사항에 대해 대단히 감사합니다. 답변 (이 답변과 다른 사람들)은 정말 고무적입니다. Yours, Tal

— Tal Galili

@Jan 귀하의 이해가 정확하지 않습니다. 유한 한 연속 측정의 의미에서 경험적인 "밀도"는 없습니다. 데이터의 표시기 기능은 0으로 통합됩니다 (Lebesgue 통합을 사용하든 Riemann 통합을 사용하든 차이는 없습니다). 일반화 된 함수 는 전혀 함수가 아닙니다. 적분 내에서만 사용할 수있는 새로운 수학적 객체입니다. 경험적 분포 는 적분 함수 에 대해 통합 될 때 값 의 합계 (모든 데이터 )를 반환 하는 수학적 객체입니다

δ

$\delta$

g,

$g,$

x_{i}

$x_i$

g (x_{i}) .

$g(x_i).$

— whuber

@whuber 감사합니다. 문장 일반화 된 함수 δ는 전혀 함수가 아닙니다. 적분 내에서만 사용할 수있는 새로운 수학적 객체입니다. 더 명확하게 만들었습니다. 언제나 그렇듯이 ;)

— Jan Vainer

@Jan 도움을 주셔서 감사합니다.이 아이디어에이 아이디어를 포함 시켰습니다.

— whuber