«maximum-likelihood» 태그된 질문

거기에는 파라미터 추정을위한 방법이 꽤 있습니다. MLE, UMVUE, MoM, 의사 결정 이론 및 기타 사항은 모두 매개 변수 추정에 유용한 이유에 대해 상당히 논리적 인 것처럼 보입니다. 어떤 방법이 다른 방법보다 낫습니까, 아니면 "최적의 적합"추정기가 무엇인지 정의하는 방법의 문제입니까 (직교 오차를 최소화하는 것이 일반적인 최소 제곱 접근법과 다른 추정치를 생성하는 …

12 estimation  mathematical-statistics  maximum-likelihood  method-of-moments  umvue 

가능성 비율 테스트의 점근 적 분포에 대한 규칙 성 조건이 무엇인지 알려주시겠습니까? 내가 보는 모든 곳에서 '정기 조건 아래'또는 '확률 규칙에 따라'라고 쓰여 있습니다. 조건은 정확히 무엇입니까? 제 1 및 제 2 로그 우도 미분이 존재하고 정보 매트릭스가 0이 아닌가? 아니면 다른 것이 있습니까?

12 maximum-likelihood  likelihood-ratio  asymptotics 

피셔의 정확한 테스트를 더 잘 이해하고 싶기 때문에 f와 m이 남성과 여성에 해당하고 n과 y가 "소다 소비"에 해당하는 다음 장난감 예제를 고안했습니다. > soda_gender f m n 0 5 y 5 0 분명히 이것은 과감한 단순화이지만 컨텍스트가 방해되는 것을 원하지 않았습니다. 여기서 나는 남자들이 음료수를 마시지 않고 여자들은 음료수를 마시고 …

12 fishers-exact  hypergeometric  clustering  supervised-learning  modeling  econometrics  r  regression  residuals  heteroscedasticity  independence  distributions  self-study  matlab  libsvm  self-study  conditional-probability  conditional-expectation  hypothesis-testing  self-study  multiple-comparisons  mode  statistical-significance  chi-squared  multiple-comparisons  maximum-likelihood  poisson-process  optimization  uncertainty  genetic-algorithms  bayesian  model-selection  overfitting  maximum-likelihood  optimization  approximation  r  prediction  model-evaluation  r  machine-learning  survival  neural-networks  cox-model  machine-learning  bayesian  bayesian-network  hierarchical-bayesian  pooling 

베이지안 정리에서 이고 내가 읽고있는 책에서 는 가능성 ,하지만 난 그냥있어 가정 조건부 확률 의 주어진 , 그렇지? P(X|Y)의 X, Yp(y|x)=p(x|y)p(y)p(x)p(y|x)=p(x|y)p(y)p(x)p(y|x) = \frac{p(x|y)p(y)}{p(x)}p(x|y)p(x|y)p(x|y)xxxyyy 최대 우도 추정 시도는 극대화 오른쪽? 그렇다면 가 모두 임의의 변수 이기 때문에 혼란 스럽 습니다. 극대화하기 위해 그냥 찾을 수 있습니다 ? 또 하나의 문제는,이 2 …

12 bayesian  maximum-likelihood 

주어진 수의 매개 변수로 모형을 추정하기 위해 표본이 얼마나 큰지를 알려줄 수있는 경험이 있습니까? 예를 들어, 5 개의 모수로 최소 제곱 회귀를 추정하려면 표본의 크기는 얼마입니까? 사용중인 추정 기술 (예 : 최대 가능성, 최소 제곱, GMM) 또는 수행 할 테스트 수 또는 몇 가지가 중요합니까? 결정을 할 때 표본 변동성을 …

12 sample-size  estimation  least-squares  maximum-likelihood 

독립적 인 관측치 이 주어진 것으로 알고 최우 추정기 (또는 평면과 등가의 MAP / 균일 종래)인지 식별 파라미터 \ mathbf {θ} 모델 분포 생성 P_ {모델} \ 이러한 관측치와 가장 일치하는 left (\, \ cdot \,; \ mathbf {θ} \ right)O = { O ( 1 ) , . . …

12 maximum-likelihood  deep-learning  cross-entropy 

PRML을 읽고 있는데 그림을 이해하지 못합니다. 그림을 이해하기위한 힌트와 가우시안 분포의 분산 MLE이 왜 편향 될 수 있습니까? 공식 1.55 : 공식 1.56 σ 2 M L E =1μ미디엄L E= 1엔∑n = 1엔엑스엔μ미디엄엘이자형=1엔∑엔=1엔엑스엔 \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n σ2미디엄L E= 1엔∑n = 1엔( x엔− μ미디엄L E)2σ미디엄엘이자형2=1엔∑엔=1엔(엑스엔−μ미디엄엘이자형)2 \sigma_{MLE}^2=\frac{1}{N}\sum_{n=1}^{N}(x_n-\mu_{MLE})^2

12 machine-learning  self-study  maximum-likelihood 

해당 모수에 대한 MLE부터 시작하여 실제 모수에 대한 점근 적 신뢰 구간을 어떻게 구성 할 수 있습니까?

12 confidence-interval  mathematical-statistics  maximum-likelihood  inference 

삼각형 분포에 일반적인 MLE 절차를 적용 할 수 있습니까? -노력하고 있지만 분포가 정의되는 방식으로 수학에서 한 단계 또는 다른 단계에서 차단 된 것 같습니다. c 위와 아래의 샘플 수를 알고 있다는 사실을 사용하려고합니다 (c를 모르고) :이 두 숫자는 cn이고 (1-c) n입니다 .n이 총 샘플 수인 경우. 그러나 그것은 파생에 도움이되지 …

12 distributions  mathematical-statistics  maximum-likelihood  triangular-distribution 

최대 우도 추정을 공부하는 동안 최대 우도 추정을 추론하려면 분산을 알아야합니다. 분산을 찾으려면 Cramer의 Rao Lower Bound를 알아야합니다.이 곡선은 곡률에 두 번째 편차가있는 Hessian Matrix와 같습니다. 공분산 행렬과 헤 시안 행렬 간의 관계를 정의하기 위해 혼합되어 있습니다. 질문에 대한 설명을들을 수 있기를 바랍니다. 간단한 예가 이해 될 것이다.

12 machine-learning  mathematical-statistics  maximum-likelihood  data-mining 

추정 할 모델 매개 변수 고려할 때 데이터 의 확률에 대한 가능성 함수 이 있습니다. 모수에 대해 사전에 평평하다고 가정하면, 그 가능성은 사후 확률에 비례합니다. 이 확률을 샘플링하기 위해 MCMC 방법을 사용합니다.L (일| θ)엘(디|θ)\mathcal{L}(d | \theta)디디dθ ∈ R엔θ∈아르 자형엔\theta \in \mathbf{R}^N 결과 수렴 체인을 살펴보면 최대 가능성 매개 변수가 사후 …

11 bayesian  maximum-likelihood  optimization  inference  mcmc 

최근에 나는 문헌에서 '무우 행 (freelihood-free)'방법이 사용되는 것을 알고있다. 그러나 나는 그것이 될 추론 또는 최적화 방법에 대해 무엇을 의미하는지에 취소하고 있지 않다 가능성이없는 . 기계 학습에서 목표는 보통 신경망의 가중치와 같은 기능에 맞는 일부 매개 변수의 가능성을 최대화하는 것입니다. 그렇다면 가능성이없는 접근법 의 철학은 정확히 무엇이며 GAN과 같은 적대적인 …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

나는 R의 lme4 패키지에 대한 Doug Bates의 이론 논문 을 읽고 혼합 모델의 핵심을 더 잘 이해하고 있으며 제한된 최대 우도 (REML)를 사용하여 분산을 추정하는 것에 대해 더 잘 이해하고 싶은 흥미로운 결과를 발견했습니다. . REML 기준의 3.3 절에서 분산 추정에 REML을 사용하는 것은 적합 선형 모형의 잔차 편차로부터 분산을 …

11 maximum-likelihood  mixed-model  unbiased-estimator  hierarchical-bayesian  reml 

나는 Franklin M. Fisher의 Econometrics에서 식별 문제 책을 읽었 으며 가능성 함수를 시각화하여 식별을 시연한다는 부분에 혼란 스러웠다. 문제는 다음과 같이 단순화 될 수 있습니다. 회귀의 경우 , 여기서 u ∼ i 입니다. 나는 . d . N ( 0 , σ 2 I를 ) , 및 b는 변수이다. Y …

11 mathematical-statistics  maximum-likelihood  geometry 

교차 검증에 대한 알려진 베이지안, ML 또는 MDL 해석이 있습니까? 교차 검증을 특별히 제작 된 이전에 올바른 업데이트를 수행하는 것으로 해석 할 수 있습니까?

11 bayesian  cross-validation  maximum-likelihood