"이후

짧은 질문 : 왜 이것이 사실입니까?

긴 질문 :

간단히 말해서, 나는 첫 번째 방정식을 정당화하는 것을 알아 내려고 노력하고 있습니다. 내가 읽고있는이 책의 저자 ( 원한다면 여기에 문맥 은 있지만 필수는 아님)는 다음을 주장합니다.

거의 가우스의 가정으로 인해 다음과 같이 쓸 수 있습니다.

$p_{0} (ξ) = A ϕ (ξ) e x p (a_{n + 1} ξ + (a_{n + 2} + \frac{1}{2}) ξ^{2} + \sum_{i = 1}^{n} a_{i} G_{i} (ξ))$ $p_0(\xi) = A \; \phi(\xi) \; exp( a_{n+1}\xi + (a_{n+2} + \frac{1}{2})\xi^2 + \sum_{i=1}^{n} a_i G_i(\xi))$

여기서 는 최대 엔트로피를 갖는 관측 된 데이터의 PDF입니다 (단순한 숫자) 이라는 일련의 기대 만 보았을 때 및 는 표준화 된 가우스 변수의 PDF, 즉 0 평균 및 단위 분산입니다. $p_0(\xi)$ $c_i, i = 1 ... n$ $c_i = \mathbb{E}\{G_i(\xi)\}$ $\phi(\xi)$

이 모든 것이 진행되는 곳에서 그는 PDF를 더 단순 하게 만들기 위해 위의 방정식을 시작점으로 사용하며 어떻게하는지 알 수 있지만 위의 방정식을 정당화하는 방법을 얻지 못합니다. 출발점. $p_0(\xi)$

나는 누군가를 난독 화하지 않기 위해 간략하게 유지하려고 노력했지만 추가 세부 정보를 원하시면 의견에 알려주십시오. 감사!

— Spacey
소스

(참고 : 변경했습니다 $\xi$ 에 $x$ .)

랜덤 변수 $X$ 밀도 $p$ 제한이있는 경우

\int G_{i} (x) p (x) d x = c_{i},

$\int G_i(x)\,p(x)\,dx=c_i \, ,$ ...에 대한

i = 1, \dots, n

$i=1,\dots,n$ 최대 엔트로피 밀도는

피_{0} (엑스) = ㅏ 특급 (\sum_{나는 = 1}^{엔} ㅏ_{나는} 지_{나는} (엑스)),

$p_0(x)=A\exp\left(\sum_{i=1}^n a_iG_i(x)\right) \, ,$ 어디

a_{i}

$a_i$ 의에서 결정됩니다

c_{i}

$c_i$ '모래

A

$A$ 정규화 상수입니다.

이와 관련하여 가우스 근사 ( "가우시안")는 다음 두 가지를 의미합니다.

1) 두 가지 새로운 제약 조건을 도입하기로 동의합니다. $X$ 이다 $0$ 그리고 분산은 $1$ (말하다);

2) 해당 $a_{n+2}$ (아래 참조)는 다른 것보다 훨씬 큽니다. $a_i$ '에스.

이러한 추가 제약 조건은

지_{엔 + 1} (엑스) = 엑스, 씨_{엔 + 1} = 0,

$G_{n+1}(x)=x \, , \qquad c_{n+1}=0 \, ,$

지_{엔 + 2} (엑스) = {엑스}^{2}, 씨_{엔 + 2} = 1,

$G_{n+2}(x)=x^2 \, , \qquad c_{n+2}=1 \, ,$ 굽힐 수 있는

피_{0} (엑스) = ㅏ 특급 (ㅏ_{엔 + 2} {엑스}^{2} + ㅏ_{엔 + 1} 엑스 + \sum_{나는 = 1}^{엔} ㅏ_{나는} 지_{나는} (엑스)),

$p_0(x)=A\exp\left(a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$ 이것으로 다시 쓸 수 있습니다 (지수에 "0을 더하십시오")

피_{0} (엑스) = ㅏ 특급 (\frac{{엑스}^{2}}{2} - \frac{{엑스}^{2}}{2} + ㅏ_{엔 + 2} {엑스}^{2} + ㅏ_{엔 + 1} 엑스 + \sum_{나는 = 1}^{엔} ㅏ_{나는} 지_{나는} (엑스)),

$p_0(x)=A\exp\left(\frac{x^2}{2} - \frac{x^2}{2} + a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$ 당신이 원하는 것을 이끄는 :

피_{0} (엑스) = ㅏ^{'} ϕ (엑스) 특급 (ㅏ_{엔 + 1} 엑스 + (ㅏ_{엔 + 2} + \frac{1}{2}) {엑스}^{2} + \sum_{나는 = 1}^{엔} ㅏ_{나는} 지_{나는} (엑스));

$p_0(x)=A'\,\phi(x)\exp\left(a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, ;$ Taylor가 확장 될 준비가되었습니다 (가우스 근사치의 두 번째 조건 사용).

다음을 사용하여 물리학 자처럼 근사를 수행하십시오 (오류 용어의 순서에 신경 쓰지 않음을 의미합니다) $\exp(t)\approx 1+t$ 우리는 대략적인 밀도를 가지고 있습니다

피_{0} (엑스) \approx ㅏ^{'} ϕ (엑스) (1 + ㅏ_{엔 + 1} 엑스 + (ㅏ_{엔 + 2} + \frac{1}{2}) {엑스}^{2} + \sum_{나는 = 1}^{엔} ㅏ_{나는} 지_{나는} (엑스)) .

$p_0(x) \approx A'\,\phi(x)\left(1+a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, .$ 완료하기 위해, 우리는 결정해야

A^{'}

$A'$ 그리고의 가치

a_{i}

$a_i$ '에스. 이것은 조건을 부과하는 것입니다

\int 피_{0} (엑스) 디 엑스 = 1, \int 엑스 피_{0} (엑스) 디 엑스 = 0, \int {엑스}^{2} 피_{0} (엑스) 디 엑스 = 1

$\int p_0(x)\,dx=1 \, , \qquad \int x \,p_0(x)\,dx=0 \, , \qquad \int x^2 \,p_0(x)\,dx=1$

\int 지_{나는} (엑스) 피_{0} (엑스) 디 엑스 = 씨_{나는}, 나는 = 1, \dots, 엔,

$\int G_i(x)\, p_0(x)\,dx=c_i \, , \quad i=1,\dots,n \, ,$ 해를 구하는 방정식 시스템을 얻는 것

A^{'}

$A'$ 그리고

a_{i}

$a_i$ '에스.

에 추가 조건을 부과하지 않고 $G_i$ 의 닫힌 양식에 간단한 솔루션이 있다고 생각하지 않습니다.

PS Mohammad는 채팅 중에 추가 직교성 조건을 $G_i$ 우리는 시스템을 해결할 수 있습니다.

— 선
소스

젠, 정말 고마워 나는 (어떤) 지금 이해합니다. 하지만 나에게 분명하지 않다 무엇을, 당신이 말할 때입니다 X의 평균이 0임을와 분산 (말입니다 : "(가까운을 계산하게")이 문맥, 가우시안 근사에서 "두 개의 새로운 제약을 소개 동의 함을 의미 ) 1." , 나는 왜 '가우스 근처'가되어야 하는지를 이해하지 못한다.

μ = 0

$\mu=0$ 과

σ^{2} = 1

$\sigma^2=1$ . 같은 값을 가진 다른 RV라면 어떨까요?

— Spacey

안녕 모하마드 답변에 더 많은 정보를 추가했습니다. 의 이전 표현을 얻으려면

p_{0} (x)

$p_0(x)$ 내가 가우시안 근사치의 첫 번째 조건이라고하는 것만 사용합니다. Taylor 확장을 수행 할 때 두 번째 조건을 사용합니다.

p_{0} (x)

$p_0(x)$ . 이게 도움이 되길 바란다.

— Zen

에 대한 최종 표현을 의견으로 게시 하시겠습니까?

p_{0} (x)

$p_0(x)$ 나머지 계산을 한 후에? 감사.

— Zen

예, 그는 최종 표현은 다음과 같습니다.

p_{0} (z) \approx ϕ (z) (1 + \sum_{i = 1}^{N} c_{i} F_{i} (z))

$p_0(z) \approx \phi(z) (1 + \sum_{i=1}^{N} c_i F_i(z))$

— Spacey

마지막 방정식에 오타가 있다고 생각합니까? ...

a_{n + 1} x

$a_{n+1}x$

— Spacey