PyMC에서 두 개의 정규 분포에 대한 적합 모형

나는 시작하기 전에 더 많은 통계를 배우려고 노력하는 소프트웨어 엔지니어이기 때문에, 이것은 새로운 영역입니다.

PyMC를 배우고 실제로 (실제로) 간단한 예제를 통해 작업했습니다. 내가 일할 수없는 한 가지 문제 (및 관련 예제를 찾을 수 없음)는 두 정규 분포에서 생성 된 데이터에 모델을 피팅하는 것입니다.

1000 개의 값이 있다고 가정합니다. a에서 생성 된 500 Normal(mean=100, stddev=20)과 a에서 생성 된 다른 500 Normal(mean=200, stddev=20).

모델을 적합하게하려면 PyMC를 사용하여 두 평균과 단일 표준 편차를 결정하십시오. 나는 그것이 라인을 따라 무언가라는 것을 알고있다 ...

mean1 = Uniform('mean1', lower=0.0, upper=200.0)
mean2 = Uniform('mean2', lower=0.0, upper=200.0)
precision = Gamma('precision', alpha=0.1, beta=0.1)

data = read_data_from_file_or_whatever()

@deterministic(plot=False)
def mean(m1=mean1, m2=mean2):
    # but what goes here?

process = Normal('process', mu=mean, tau=precision, value=data, observed=True)

즉, 생성 프로세스는 정상이지만 mu는 두 값 중 하나입니다. 나는 값이에서 오는지 m1또는 에서 오는지 "결정"을 나타내는 방법을 모른다 m2.

아마도 나는 이것을 모델링하는 데 완전히 잘못된 접근법을 취하고 있습니까? 누구든지 예를들 수 있습니까? 버그와 JAGS를 읽을 수 있으므로 실제로는 아무 문제가 없습니다.

절반은 한 배포에서, 다른 절반은 다른 배포에서 온 것이 확실합니까? 그렇지 않다면, 우리는 비율을 랜덤 변수로 모델링 할 수 있습니다 (이것은 매우 베이지안입니다).

다음은 내가 할 일이며 일부 팁이 포함되어 있습니다.

from pymc import *

size = 10
p = Uniform( "p", 0 , 1) #this is the fraction that come from mean1 vs mean2

ber = Bernoulli( "ber", p = p, size = size) # produces 1 with proportion p.

precision = Gamma('precision', alpha=0.1, beta=0.1)

mean1 = Normal( "mean1", 0, 0.001 ) #better to use normals versus Uniforms (unless you are certain the value is  truncated at 0 and 200 
mean2 = Normal( "mean2", 0, 0.001 )

@deterministic
def mean( ber = ber, mean1 = mean1, mean2 = mean2):
    return ber*mean1 + (1-ber)*mean2


#generate some artificial data   
v = np.random.randint( 0, 2, size)
data = v*(10+ np.random.randn(size) ) + (1-v)*(-10 + np.random.randn(size ) )


obs = Normal( "obs", mean, precision, value = data, observed = True)

model = Model( {"p":p, "precision": precision, "mean1": mean1, "mean2":mean2, "obs":obs} )

위의 논의와 관련된 몇 가지 사항 :

1. 확산 법선 대 유니폼 선택은 (a) 컨쥬 게이션이 걱정되는 경우를 제외하고는 꽤 학문적입니다. . PyMC를 사용하면 특별히 Gibbs 샘플러를 사용하지 않는 한 접합에 대해 걱정할 이유가 없습니다.

2. 감마는 실제로 분산 / 정밀도 매개 변수 이전의 정보가없는 경우에 적합하지 않습니다. 더 유익하게 생각할 수 있습니다. 더 나은 선택은 표준 편차보다 균일 한 우선 순위를두고 역 제곱으로 변환하는 것입니다. 자세한 내용은 Gelman 2006 을 참조하십시오.