«least-squares» 태그된 질문

나는 내가 연구하지 않은 계량 경제학에서 프리쉬 우어 정리를 가르치기로되어있다. 나는 그 배후의 수학을 이해했으며 아이디어가 "여러 선형 모델에서 특정 계수에 대해 얻는 계수가 다른 회귀 변수의 영향을"제거 "하는 경우 단순 회귀 모형의 계수와 동일하기를 바랍니다. 이론적 아이디어는 멋지다. (내가 완전히 오해하면 정정을 환영합니다) 그러나 일부 고전적 / 실제적인 사용법이 …

15 regression  econometrics  least-squares  projection  decomposition 

영향력 기능이 어떻게 작동하는지 이해하려고 노력하고 있습니다. 간단한 OLS 회귀와 관련하여 누군가 설명 할 수 있습니까? yi=α+β⋅xi+εiyi=α+β⋅xi+εi\begin{equation} y_i = \alpha + \beta \cdot x_i + \varepsilon_i \end{equation} 대한 영향 함수 를 원합니다 .ββ\beta

15 regression  least-squares 

참고 : SSTSSTSST = 총 제곱합, SSESSESSE = 제곱 오차의 합, SSRSSRSSR = 회귀 제곱합. 제목의 방정식은 종종 다음과 같이 작성됩니다. ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar y)^2=\sum_{i=1}^n (y_i-\hat y_i)^2+\sum_{i=1}^n (\hat y_i-\bar y)^2 매우 간단한 질문이지만 직관적 인 설명을 찾고 있습니다. 직관적으로, SST≥SSE+SSRSST≥SSE+SSRSST\geq SSE+SSR 이 더 의미가있는 것처럼 보입니다 . 예를 들어, 가정하자 점 …

14 regression  least-squares  r-squared 

누군가 OLS 추정기를 계산하기 위해 6 가지 가정 각각이 필요한 이유를 간단히 설명해 줄 수 있습니까? 나는 다중 공선성에 대해서만 발견했습니다. 그것이 존재한다면 우리는 (X'X) 행렬을 뒤집을 수 없으며 전체 추정량을 추정 할 수 없습니다. 다른 것들은 어떻습니까 (예 : 선형성, 제로 평균 에러 등)?

14 least-squares  assumptions 

이 질문에 대한 내 맥락은 다음과 같습니다 survey. 가중 데이터와 패키지를 사용할 때 R에서 일반 최소 제곱 회귀를 실행할 수 없습니다 . 여기서 우리는 svyglm()대신 일반화 된 선형 모델을 실행하는 을 사용해야 합니다. OLS와 lm()함수를 통해 R 제곱 값을 계산합니다. 해석은 이해합니다. 그러나 svyglm()이것을 계산하지 않고 대신 Deviance를 제공합니다. 인터넷을 …

14 r  generalized-linear-model  least-squares  r-squared  deviance 

왜 우리는 최소화하기 위해 노력합니까 x^2대신 최소화의 |x|^1.95나 |x|^2.05. 숫자가 정확히 2 여야하는 이유가 있거나 단순히 수학을 단순화하는 이점이있는 규칙입니까?

14 standard-deviation  least-squares 

X 모양 (2, 5) 와 y 모양 (2,) 가 있다고 가정 해 봅시다. 이것은 작동합니다 : np.linalg.lstsq(X, y) X가 모양 (N, 5) 인 경우에만 이것이 작동 할 것으로 예상합니다. N> = 5 그러나 왜 그리고 어떻게? 예상대로 5 개의 가중치를 다시 얻지 만이 문제는 어떻게 해결됩니까? 우리가 2 개의 방정식과 …

14 least-squares  linear-algebra  numpy 

저는 현재 데이터 공학 석사 학위를 공부하고있는 비즈니스 및 경제학을 전공했습니다. 선형 회귀 (LR)와 시계열 분석 (TS)을 공부하면서 질문이 떠 올랐습니다. 여러 선형 회귀를 사용하고 지연된 변수를 추가하는 대신 (ACF 및 PACF를 사용하여 지연된 순서로) 완전히 새로운 방법, 즉 시계열 (ARIMA)을 만드는 이유는 무엇입니까? 그래서 선생님은이 문제에 대한 작은 에세이를 …

14 regression  time-series  multiple-regression  least-squares  arima 

일련의 점에서 선형 회귀를 수행하는 방법을 알고 있습니다. 즉, 선택한 다항식을 주어진 데이터 세트 (LSE 의미)에 맞추는 방법을 알고 있습니다. 그러나 내가 모르는 것은 내 솔루션이 내가 선택한 특정 지점을 통과하도록하는 방법입니다. 나는 이것이 전에 행해지는 것을 보았지만, 그것이 어떻게 수행되었는지는 물론이고 절차가 무엇인지 기억할 수 없다. 매우 간단하고 구체적인 …

14 regression  machine-learning  least-squares  linear-model  polynomial 

문제는 간단합니다. Y가 제한되고 이산적일 때 선형 회귀를 사용하는 것이 적절합니까 (예 : 시험 점수 1 ~ 100, 일부 사전 정의 된 순위 1 ~ 17)? 이 경우 선형 회귀를 사용하는 것이 "좋지 않다"거나 사용하는 것이 완전히 잘못 되었습니까?

14 regression  multiple-regression  least-squares  linear  bounds 

기계 학습에 관한 Bishop의 저서에서는 다항식 함수를 일련의 데이터 포인트에 곡선 맞춤하는 문제에 대해 설명합니다. M을 다항식 차수로하자. 그 상태로 우리는 M이 증가함에 따라 계수의 크기가 일반적으로 커짐을 알 수 있습니다. 특히 M = 9 다항식의 경우 계수는 양의 양수 값과 음수 값을 개발하여 데이터에 맞게 미세 조정되어 해당 다항식 …

13 regression  least-squares  curve-fitting  polynomial 

이 질문은 주석의 오랜 토론에서 영감을 얻었습니다. 선형 회귀는 정규 분포를 어떻게 사용합니까? 일반적인 선형 회귀 모델에서, 단순화를 위해 여기에서 하나의 예측 작성 : Yi=β0+β1xi+ϵiYi=β0+β1xi+ϵi Y_i = \beta_0 + \beta_1 x_i + \epsilon_i 를 Where xixix_i 상수를 공지되어 ϵiϵi\epsilon_i 제로 평균 독립 에러 조건이다. 또한 오차에 대한 정규 분포를 가정하면, …

13 regression  normal-distribution  mathematical-statistics  maximum-likelihood  least-squares 

모델 에서 정규 방정식을 사용하여 를 추정 할 수 있습니다 .β와이= Xβ+ ϵy=Xβ+ϵ{y} = X \beta + \epsilonββ\beta Y =X β .β^= ( X'엑스)− 1엑스'와이,β^=(X′X)−1X′y,\hat{\beta} = (X'X)^{-1}X'y, 우리가 얻을 수있는와이^= Xβ^.y^=Xβ^.\hat{y} = X \hat{\beta}. 잔차 벡터는 다음과 같이 추정됩니다. ϵ^= y− Xβ^= ( 난− X( X'엑스)− 1엑스') y= Q y= …

13 regression  least-squares  inference 

정규 최소 제곱 대신 최대 가능성 추정을 사용하는 것이 언제 바람직한가요? 각각의 장점과 한계는 무엇입니까? 일반적인 상황에서 각각을 사용할 위치에 대한 실용적인 지식을 수집하려고합니다.

13 regression  maximum-likelihood  least-squares 

표준 OLS 회귀 분석에서 두 가지 가정이 위반되는 경우 (정규 오차 분포, 균일 성), 표준 오차와 신뢰 구간의 부트 스트랩은 회귀 계수의 중요성과 관련하여 의미있는 결과를 얻기위한 적절한 대안입니까? 부트 스트랩 된 표준 오차와 신뢰 구간에 대한 유의성 검정이 이분산성으로 여전히 "작동"합니까? 그렇다면이 시나리오에서 사용할 수있는 해당 신뢰 구간 (백분위 …

13 regression  bootstrap  least-squares  heteroscedasticity