«regression» 태그된 질문

나는 회귀의 일반적인 설정, 즉 연속 함수를 가정합니다. hθ: X→아르 자형엔hθ:X→Rnh_\theta:X\to \mathbb R^n 가족에서 선택 {hθ}θ{hθ}θ\{h_\theta\}_\theta 주어진 데이터에 맞게 (엑스나는,와이나는) ∈ X×아르 자형엔, i = 1 , … , k(xi,yi)∈X×Rn,i=1,…,k(x_i,y_i)\in X\times \mathbb R^n, i=1,\ldots, k (엑스XX 큐브와 같은 공간이 될 수 있습니다 [ 0 , 1]미디엄[0,1]m[0,1]^m 또는 실제로 자연 기준에 …

9 regression  machine-learning  multiple-regression 

k- 폴드 CV를 사용하여 회귀 모델 중에서 선택하는 경우 일반적으로 표준 오류 SE와 함께 각 모델에 대해 개별적으로 CV 오류를 계산하고 CV 오류가 가장 낮은 모델의 1 SE 내에서 가장 간단한 모델을 선택합니다 (1 표준 오류 규칙 (예 : 여기 참조 ). 그러나 최근 에이 방법으로 변동성을 과대 평가하고 있으며 …

9 regression  cross-validation  model-selection 

선형 회귀 모델을 생각해 yi=xi⋅β+εi,i=1,…,n,yi=xi⋅β+εi,i=1,…,n, y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n, 여기서 εi∼L(0,b)εi∼L(0,b)\varepsilon _i \sim \mathcal L(0, b) , 즉 , 000 평균 및 bbb 스케일 모수를 갖는 라플라스 분포 는 모두 서로 독립적입니다. 알 수없는 모수 \ boldsymbol \ beta 의 최대 …

9 regression  laplace-distribution 

에서 이 종이 ( 분산 구성 요소에 대한 베이 즈 추론 대조 에러 만하여 , 작성자 청구 Harville 1974) 는 "공지이어야 선형 회귀 경우 (y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y-X\beta)'H^{-1}(y-X\beta)=(y-X\hat\beta)'H^{-1}(y-X\hat\beta)+(\beta-\hat\beta)'(X'H^{-1}X)(\beta-\hat\beta)y=Xβ+ϵ,y=Xβ+ϵ,y=X\beta+\epsilon,ϵ∼N(0,H).ϵ∼N(0,H).\epsilon\sim\mathcal{N}(0, H). 이것은 어떻게 잘 알려져 있습니까? 이것을 증명하는 가장 간단한 방법은 무엇입니까?

9 regression  regression-coefficients  heteroscedasticity  bias  linear-algebra 

기계 학습 서적에서 선형 회귀의 매개 변수는 기울기 하강에 의해 (다른 방법 중에서도) 추정 될 수 있지만, 로지스틱 회귀의 매개 변수는 일반적으로 최대 우도 추정에 의해 추정됩니다. 왜 선형 / 로지스틱 회귀 분석을 위해 다른 방법이 필요한지 초보자에게 설명 할 수 있습니까? aka 왜 선형 회귀에 대해 MLE가 아니고 로지스틱 …

9 regression  logistic  maximum-likelihood 

저자는 OLS를 다루는 나의 계량 경제학 교과서 (Introductory Econometrics)에서 "설명 변수가 추가 될 때 SSR이 떨어져야한다"고 썼다. 왜 그렇습니까?

9 regression  optimization  econometrics  intuition  sums-of-squares 

질문 : 부적절한 선형 모델이 실제로 사용되거나 과학 저널에 때때로 설명되는 호기심이 있습니까? 그렇다면 어떤 영역에서 사용됩니까? 그러한 모델의 다른 예가 있습니까? 마지막으로, 이러한 모델에 대해 OLS에서 가져온 표준 오류, , 등이 정확합니까, 아니면 어떻게 수정해야합니까?피피p아르 자형2아르 자형2R^2 배경 : 부적절한 선형 모델은 때때로 문헌에 설명되어 있습니다. 일반적으로 이러한 모델은 …

9 regression  references  linear-model  robust 

tutorial1 , link1 및 link2 에서 주요 구성 요소 분석의 기본 사항에 대해 읽었습니다 . 100 변수 (출력 변수 Y 포함)의 데이터 세트가 있고 PCA로 변수를 40으로 줄이고 그 40 변수를 사용하여 변수 Y를 예측하려고합니다. 문제 1 : 주요 구성 요소를 가져 와서 처음 40 개의 구성 요소를 선택한 후 …

9 regression  pca 

anova두 모델을 비교할 때 결과를 어떻게 이해해야 합니까? 예: Res.Df RSS Df Sum of Sq F Pr(>F) 1 9 54.032 2 7 4.632 2 49.4 37.329 0.0001844 *** 맨 페이지에는 "하나 이상의 적합 모델 객체에 대한 분산 (또는 편차) 테이블의 계산 분석"이 나와 있습니다. 그러나 교수는 모델 비교에 사용될 수 …

9 r  regression  anova 

때때로 우리는 회귀자가 고정되어 있다고 가정합니다. 즉, 비 확률 적입니다. 내가 생각 하는 방법 우리의 모든 예측은, 매개 변수 추정 등, 마우스 오른쪽 무조건? 더 이상 무작위 변수가 아니도록 지금까지 갈 수 있습니까? 반면에 우리는 경제학의 대부분의 회귀 분석가들이 외부 실험을 염두에두고 결정하지 않았기 때문에 확률 론적이라고 말한다. 그런 다음 …

9 regression  inference  philosophical  conditioning  ancillary-statistics 

균형 점수를 예측하고 여러 가지 회귀 분석 방법을 시도했습니다. 내가 주목 한 것은 예측 값에 일종의 상한이있는 것 같습니다. 즉, 실제 균형은 이지만 내 예측은 약 입니다. 다음 그림은 실제 대 예측 잔액을 보여줍니다 (선형 회귀로 예측 됨).[ 0.0 , 1.0 )[0.0,1.0)[0.0, 1.0)0.80.80.8 다음은 동일한 데이터에 대한 두 가지 분포도입니다. …

9 regression  distributions  data-transformation  prediction  bounds 

이 decompose기능을 사용하고 R월별 시계열의 3 가지 구성 요소 (추세, 계절 및 랜덤)를 생각해 냈습니다. 차트를 작성하거나 표를 보면 시계열이 계절성에 영향을 받는다는 것을 분명히 알 수 있습니다. 그러나 시계열을 11 계절 더미 변수에 회귀하면 모든 계수가 통계적으로 유의하지 않으므로 계절성이 없음을 나타냅니다. 왜 내가 두 가지 매우 다른 결과를 …

9 r  regression  time-series 

내 이해는 회귀조차도 인과 관계를 제공하지 않는다는 것입니다. y 변수와 x 변수 및 가능한 방향 사이의 연관성 만 제공 할 수 있습니다. 제가 맞습니까? 나는 대부분의 교과서와 온라인의 다양한 교과서 페이지에서도 "x predicts y"와 비슷한 문구를 발견했습니다. 그리고 회귀자를 종종 예측 변수라고하고 y를 반응이라고합니다. 선형 회귀에 사용하는 것이 얼마나 공정합니까? …

9 regression  logistic  predictive-models  terminology  causality 

다변량 회귀 분석에서 사람들은 조정 된 승산 비의 다른 정의를 사용하는 것으로 보입니다. 조정 된 OR 이 무엇인지, 그리고 조정 되지 않은 OR 과 어떻게 다른지 명확하게 설명해 주 시겠습니까? 감사!

9 regression  multivariate-analysis  odds-ratio 

우리 대학의 강사가 이와 같은 질문을했습니다 (수업이 끝나서 수업에 참여하지 않았기 때문에 숙제가 아님). 접근 방법을 알 수 없습니다. 문제는 각각 다른 종류의 과일을 포함하는 2 봉지에 관한 것입니다. 첫 번째 가방에는 다음과 같이 무작위로 선택된 과일이 들어 있습니다. + ------------- + -------- + --------- + | 직경 cm | …

9 regression  estimation