«maximum-likelihood» 태그된 질문

일반적인 질문 우리는 IID 데이터 말해봐 x1x1x_1 , ... 우리는 재귀의 최대 우도 추정 계산하려면 스트리밍. \ boldsymbol {\ 세타} . 즉, \ hat {\ boldsymbol {\ theta}} _ {n-1} = \ underset {\ boldsymbol {\ theta} \ in \ mathbb {R} ^ p} {\ arg \ max} \ prod_ …

15 maximum-likelihood  online 

횡단면 및 패널 데이터의 계량 경제학 분석 (357 페이지) 에서 Jeffrey Wooldridge 는 경험적 Hessian이 "우리가 작업하고있는 특정 샘플에 대해 양의 정한 또는 심지어 반의 정한 것으로 보장되지는 않는다"고 말합니다. 이것은 (수치 적 문제를 제외하고) 헤 시안이 주어진 표본에 대한 목적 함수를 최소화하는 매개 변수의 값과 M- 추정기의 정의의 결과로 …

15 estimation  maximum-likelihood  econometrics  asymptotics 

최대 우도 추정이 통계에 사용되었는지 궁금합니다. 우리는 그것의 개념을 배우지 만 그것이 실제로 어떻게 사용되는지 궁금합니다. 데이터 분포를 가정하면 평균과 분산에 대한 두 개의 매개 변수를 찾을 수 있지만 실제로 실제 상황에서 사용합니까? 누군가가 그것이 사용되는 간단한 사례를 말해 줄 수 있습니까?

14 estimation  maximum-likelihood 

θ^θ^\hat\thetaθ∗θ∗\theta^*nnn∥θ^−θ∗∥‖θ^−θ∗‖\lVert\hat\theta-\theta^*\rVert 전형적 감소로서O(1/n−−√)O(1/n)O(1/\sqrt n). 삼각형의 불평등과 기대의 속성을 사용하면,이 오류 비율이 그 "편견"모두 의미 것을 보여주기 위해 가능∥Eθ^−θ∗∥‖Eθ^−θ∗‖\lVert \mathbb E\hat\theta - \theta^*\rVert와 "편차"∥Eθ^−θ^∥‖Eθ^−θ^‖\lVert \mathbb E\hat\theta - \hat\theta\rVert같은에서 감소O(1/n−−√)O(1/n)O(1/\sqrt{n})요율. 물론 모델이 더 빠른 속도로 축소되는 바이어스를 가질 수 있습니다. 많은 모형 (예 : 최소 최소 제곱 회귀)은 편향이 없습니다. 나는 O …

14 variance  estimation  maximum-likelihood  bias 

이 질문은 선형 버전의 특정 버전에서 제한된 최대 가능성 (REML) 추정을 다룹니다. Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), 여기서, 인 ( N × P )에 의해 매개 변수화 행렬 α ∈ R의 k는 , 그대로 Σ ( α ) . β 는 알려지지 않은 방해 파라미터 …

14 mixed-model  maximum-likelihood  linear-model  optimization  reml 

다른 기능 공간에서 추정의 수렴에 대해 이야기하는 대수 기하학 및 통계 학습 이론 책의 첫 번째 장 에서 베이지안 추정은 슈바르츠 분포 토폴로지에 해당하고 최대 가능성 추정은 정상 토폴로지에 해당한다고 언급합니다. (7 페이지) : 예를 들어, sup-norm, -norm, 엘피엘피L^pHilbert space 의 약한 토폴로지 엘2엘2L^2, Schwartz 배포 토폴로지 등이 있습니다. 수렴 …

14 bayesian  maximum-likelihood  statistical-learning 

glmnetwithin caret을 사용하여 최적의 람다를 검색 cv.glmnet하고 동일한 작업을 수행하는 것을 비교하는 데 많은 혼란이있는 것 같습니다 . 다음과 같은 많은 질문이 제기되었습니다. 분류 모델 train.glmnet 대 cv.glmnet? 캐럿과 함께 glmnet을 사용하는 올바른 방법은 무엇입니까? `caret`를 사용한 교차 유효성 검사`glmnet` 그러나 질문의 ​​재현 가능성으로 인한 답변이 없습니다. 첫 번째 질문에 …

14 r  caret  glmnet  machine-learning  neural-networks  maximum  softmax  probability  distributions  mathematical-statistics  random-variable  cdf  statistical-significance  variance  expected-value  ratio  sample-size  reliability  tolerance-interval  wilcoxon-signed-rank  self-study  variance  sampling  mean  machine-learning  svm  libsvm  self-study  sampling  ranks  data-visualization  histogram  machine-learning  classification  normal-distribution  mathematical-statistics  maximum-likelihood  mixture  predictive-models  prediction  seasonality 

MLE = 최대 가능성 추정 MAP = 사후 최대 MLE는 매개 변수가 주어진 관측 확률 (즉, 우도 함수) 로만 시작 하고 관측치에 가장 잘 맞는 매개 변수를 찾으려는 점에서 직관적 / 순진 합니다 . 그러나 사전 지식은 고려하지 않습니다. MAP는 베이 즈 규칙을 통한 사전 지식을 고려하기 때문에보다 합리적으로 보입니다. …

14 machine-learning  bayesian  estimation  maximum-likelihood  inference 

이항 결과 와이∈ { 0 , 1 }엔y∈{0,1}ny\in\{0,1\}^n 및 일부 예측 변수 행렬 X∈Rn×pX∈Rn×pX\in\mathbb{R}^{n\times p} 갖는 데이터 세트가 주어지면 표준 로지스틱 회귀 모델 은 이항 우도를 최대화하는 계수 βMLEβMLE\beta_{MLE} 를 추정 합니다. XXX 가 전체 순위 일 때 βMLEβMLE\beta_{MLE} 는 유일하다; 완벽한 분리가 없으면 유한합니다. 이 최대 우도 모델이 ROC …

13 logistic  maximum-likelihood  auc 

이것은 오래된 통계를 검토하는 동안의 이상한 생각이며 어떤 이유로 든 대답을 생각할 수없는 것 같습니다. 연속 PDF는 주어진 범위 내에서 관찰 값의 밀도를 알려줍니다. 즉, 예를 들어, 엑스~ N( μ , σ2)X∼N(μ,σ2)X \sim N(\mu,\sigma^2) 이면, 실현이 ㅏaa 와 비bb 사이에있을 확률 은 간단히 ∫비ㅏϕ ( x ) d엑스∫abϕ(x)dx\int_a^{b}\phi(x)dx 여기서 ϕϕ\phi …

13 normal-distribution  maximum-likelihood  pdf 

나는 최근에 Nancy Reid, Barndorff-Nielsen, Richard Cox의 오래된 논문을 검토했으며, 잦은 패러다임의 "조건부 추론"이라는 개념에 관한 작은 Ronald Fisher는 추론이 단지 전체 샘플 공간이 아니라 샘플 공간의 "관련 부분 집합". 주요 예로, 표본의 변동 계수 (보조 통계라고도 함)를 고려하면 t- 통계량을 기반으로하는 신뢰 구간을 개선 할 수 있습니다 (Goutis & …

13 confidence-interval  maximum-likelihood  inference 

ANOVA는 모멘트 방법을 사용하여 추정을 수행한다고 여러 곳에서 언급했습니다. 비록 순간의 방법에 익숙하지는 않지만, 그것이 최대 가능성의 방법과는 다르고 그와 동등한 것이 아니라는 것을 이해하기 때문에 나는 그 주장에 혼란을 느낀다. 반면, ANOVA는 범주 형 예측 변수를 사용하는 선형 회귀로 볼 수 있으며 회귀 모수에 대한 OLS 추정 은 최대 …

13 anova  mixed-model  maximum-likelihood  method-of-moments 

이 질문은 주석의 오랜 토론에서 영감을 얻었습니다. 선형 회귀는 정규 분포를 어떻게 사용합니까? 일반적인 선형 회귀 모델에서, 단순화를 위해 여기에서 하나의 예측 작성 : Yi=β0+β1xi+ϵiYi=β0+β1xi+ϵi Y_i = \beta_0 + \beta_1 x_i + \epsilon_i 를 Where xixix_i 상수를 공지되어 ϵiϵi\epsilon_i 제로 평균 독립 에러 조건이다. 또한 오차에 대한 정규 분포를 가정하면, …

13 regression  normal-distribution  mathematical-statistics  maximum-likelihood  least-squares 

회귀 분석을 수행하는 동안 다음과 같은 정의로 가면 : 부분 우도, 프로파일 우도 및 한계 우도의 차이점은 무엇입니까? 그 최우 L 극대화 찾기 β 및 θ (β, θ | 데이터). , Marginal Likelihood 우리는 β에 조건부 θ의 확률 분포를 식별 할 수 있다는 사실을 이용하여 가능성 방정식에서 θ를 통합합니다. 더 …

13 regression  maximum-likelihood 

중심을 설정 한 후 두 측정 x 및 -x 는 확률 밀도 함수를 사용하여 Cauchy 분포에서 독립적으로 관측 한 것으로 가정 할 수 있습니다. 1에프( x : θ ) =f(x:θ)=f(x :\theta) = ,−∞&lt;x&lt;∞1π( 1 + ( x − θ )2)1π(1+(x−θ)2)1\over\pi (1+(x-\theta)^2) , - ∞ &lt; X &lt; ∞,−∞&lt;x&lt;∞, -∞ < …

13 self-study  distributions  maximum-likelihood  cauchy