«least-squares» 태그된 질문

도시의 각 지역에서 살인 사건의 수를 설명하기 위해 회귀 분석을 시도하고 있습니다. 내 데이터가 포아송 분포를 따른다는 것을 알고 있지만 다음과 같이 OLS를 맞추려고했습니다. log(y+1)=α+βX+ϵlog(y+1)=α+βX+ϵlog(y+1) = \alpha + \beta X + \epsilon 그런 다음 포아송 회귀 분석도 시도했습니다. 문제는 내가 OLS 회귀에서 더 나은 결과를 얻는다는 것입니다. 의사 가 높고 …

18 regression  least-squares  poisson-regression 

James et al.의 통계 학습 에 이르기까지 Leave-One-Out Cross-Validation) 추정치는 여기서 입니다.MSEI=(Y는I - Y I)(2)CV(n)=1n∑i=1nMSEiCV(n)=1n∑i=1nMSEi\text{CV}_{(n)} = \dfrac{1}{n}\sum\limits_{i=1}^{n}\text{MSE}_iMSEi=(yi−y^i)2MSEi=(yi−y^i)2\text{MSE}_i = (y_i-\hat{y}_i)^2 증거가 없으면 식 (5.2)에 최소 제곱 또는 다항식 회귀의 경우 (한 변수에 대한 회귀에 적용되는지 여부는 알 수 없음) 여기서 " 는 원래 최소 제곱 피팅 의 번째 적합 값 ( …

18 regression  self-study  cross-validation  least-squares 

내가 읽은 여러 논문, 서적 및 기사를 기반으로 얻은 인상은 일련의 데이터에 확률 분포를 맞추는 권장 방법은 최대 가능성 추정 (MLE)을 사용하는 것입니다. 그러나 물리학 자로서보다 직관적 인 방법은 모형의 pdf를 최소 제곱을 사용하여 경험적 pdf에 맞추는 것입니다. 그렇다면 왜 확률 분포를 피팅 할 때 MLE이 최소 제곱보다 낫습니까? 누군가이 …

18 distributions  maximum-likelihood  least-squares  heteroscedasticity  fitting 

나는이 목록을보고 여기 와 최소 제곱를 해결하기 위해 많은 방법이 있었다 믿을 수 없었다. Wikipedia 의 "정상 방정식" 은 매우 간단 해 보입니다 : α^β^= y¯− β^엑스¯,= ∑엔나는 = 1( x나는− x¯) ( y나는− y¯)∑엔나는 = 1( x나는− x¯)2α^=와이¯−β^엑스¯,β^=∑나는=1엔(엑스나는−엑스¯)(와이나는−와이¯)∑나는=1엔(엑스나는−엑스¯)2 {\displaystyle {\begin{aligned}{\hat {\alpha }}&={\bar {y}}-{\hat {\beta }}\,{\bar {x}},\\{\hat {\beta }}&={\frac {\sum …

17 regression  least-squares  scikit-learn 

로지스틱 및 선형 회귀 분석에서 생략 된 변수 바이어스에 대한 질문이 있습니다. 선형 회귀 모델에서 일부 변수를 생략했다고 가정 해보십시오. 생략 된 변수는 모델에 포함 된 변수와 관련이없는 것으로 가정하십시오. 생략 된 변수는 내 모델의 계수를 바이어스하지 않습니다. 그러나 로지스틱 회귀 분석에서 나는 이것이 사실이 아니라는 것을 알게되었습니다. 생략 된 …

17 regression  logistic  least-squares  bias 

R 2 사이에 관계가 있는지 궁금합니다R2R2R^2 와 F-Test . 일반적으로 R2=∑(Y^t−Y¯)2/T−1∑(Yt−Y¯)2/T−1R2=∑(Y^t−Y¯)2/T−1∑(Yt−Y¯)2/T−1R^2=\frac {\sum (\hat Y_t - \bar Y)^2 / T-1} {\sum( Y_t - \bar Y)^2 / T-1} 이며 회귀에서 선형 관계의 강도를 측정합니다. F- 검정은 단지 가설을 입증합니다. R2R2R^2 와 F- 검정 사이에는 관계가 있습니까?

17 regression  hypothesis-testing  least-squares  goodness-of-fit 

표준 OLS 회귀 문제를 고려하십시오\newcommand{\Y}{\mathbf Y}\newcommand{\X}{\mathbf X}\newcommand{\B}{\boldsymbol\beta}\DeclareMathOperator*{argmin}{argmin}YY\YXX\Xββ\BL=∥Y−Xβ∥2.L=‖Y−Xβ‖2.L=\|\Y-\X\B\|^2.β^=argminβ{L}=(X⊤X)+X⊤Y.β^=argminβ⁡{L}=(X⊤X)+X⊤Y.\hat\B=\argmin_\B\{L\} = (\X^\top\X)^+\X^\top \Y. "역전 된"문제를 제기 할 수도 있습니다 : 와 , 산출하는 를 찾으십시오 . 즉, . 즉, I는 응답 행렬이 와 계수 벡터 난에 근접 계수를 산출 할 예측기 행렬 찾을 . 물론 이것은 솔루션 의 OLS 회귀 문제이기도합니다.β * X …

16 regression  least-squares  ridge-regression 

부분 최소 제곱 회귀 (PLSR) 또는 부분 최소 제곱 구조 방정식 모델링 (PLS-SEM)에서 "부분"이라는 용어는 무엇을 의미합니까?

16 multiple-regression  least-squares  terminology  sem  partial-least-squares 

여기서 정규화가 올바른 단어인지 확실하지 않지만, 내가 묻고 자하는 것을 설명하기 위해 최선을 다할 것입니다. 여기에 사용 된 추정값은 최소 제곱입니다. y = β 0 + β 1 x 1 을 가지고 있다고 가정하면 y = β ' 0 + β 1 x ′ 1 로 y=β0+β1x1y=\beta_0+\beta_1x_1평균 주위에 중심을 둘 …

16 regression  self-study  least-squares  regression-coefficients 

이 위키 백과 링크 에는 OLS 잔차 이분산성을 감지하는 여러 기술이 나열되어 있습니다. 이분산성에 영향을받는 영역을 감지하는 데 어떤 실습 기술이 더 효율적인지 알고 싶습니다. 예를 들어, 여기 OLS '잔여량 대 적합치'그림의 중앙 영역이 그림의 측면보다 더 높은 분산을 갖는 것으로 나타났습니다 (사실은 확실하지 않지만 문제의 경우라고 가정하겠습니다). 확인하기 위해 …

16 regression  least-squares  heteroscedasticity 

다음 형식의 기능을 최소화하기 위해 반복적으로 가중치를 매기는 최소 제곱 (IRLS)을 사용하고 있습니다. J(m)=∑Ni=1ρ(|xi−m|)J(m)=∑i=1Nρ(|xi−m|)J(m) = \sum_{i=1}^{N} \rho \left(\left| x_i - m \right|\right) 여기서 은 의 인스턴스 수이고 , 은 내가 원하는 강력한 추정치이며 는 적절한 강력한 페널티 함수입니다. 그것이 볼록하고 (엄격히 엄격하지는 않지만) 현재로서는 구별 할 수 있다고 가정 해 …

16 estimation  least-squares  robust  irls 

나는 이것에 익숙하지 않으므로 질문이 순진한 경우 용서하기를 바랍니다. (상황 : 나는 Davidson & MacKinnon의 저서 "Econometric Theory and Methods" 에서 계량 경제학을 배우고 있는데 이것을 설명하지 않는 것 같습니다. 또한 조금 더 진보 된 수준의 예측을 다루는 Luenberger의 최적화 책을 보았습니다. 운이 없다). 내가 직교 투영 와 관련 투영 …

16 regression  least-squares 

오늘은 작은 데이터 세트로 놀고 있었고 완벽한 다중 공선 성으로 인해 실패 할 것으로 예상 되는 간단한 OLS 회귀를 수행했습니다 . 그러나 그렇지 않았습니다. 이것은 다중 공선성에 대한 나의 이해가 잘못되었음을 의미합니다. 내 질문은 : 내가 어디 잘못입니까? 내 변수 중 하나가 다른 변수의 선형 조합임을 보여줄 수 있다고 생각합니다. …

15 multiple-regression  least-squares  multicollinearity 

선형 모델의 경우 OLS 솔루션은 매개 변수에 가장 적합한 선형 편향 추정기를 제공합니다. 물론 우리는 융기 회귀와 같은 낮은 분산에 대한 편견으로 거래 할 수 있습니다. 그러나 내 질문은 편견이 없다는 것입니다. 편향되지는 않지만 OLS 추정 매개 변수보다 분산이 큰 다소 일반적으로 사용되는 다른 추정기가 있습니까? 거대한 데이터 세트를 가지면 …

15 regression  least-squares  linear  unbiased-estimator  blue 

피팅 라인에 대한 프레젠테이션을하고 있습니다. 간단한 선형 함수 와이= 1 x + b와이=1x+by=1x+b 있습니다. 내 선이 동일한 방정식에 가장 잘 맞는 분산 형 그림에 넣을 수있는 분산 된 데이터 포인트를 얻으려고합니다. 이 기술을 R 또는 Excel 중 더 쉬운 방법으로 배우고 싶습니다.

15 r  regression  least-squares  excel