행렬 미적분학 교과서?

20

짧은 이야기 : 통계 학습의 요소를 읽은 후 와 같이 일부 결과를 확인하려고 할 때 좌절했습니다. 그런 다음 I 전통적인 미적분학 책처럼 쓰여진 행렬 미적분학 책을 찾고 있습니다 (즉, 이론 증명, 예제, 계산 연습 등). 나는 이미이 질문을 보았다

RSS (β) = {(와이 - 엑스 β)}^{티} (와이 - 엑스 β),

$\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,}$

\begin{aligned} \frac{\partial RSS}{\partial β} = - 2 {엑스}^{티} (와이 - 엑스 β) \\ \frac{\partial^{2} RSS}{\partial β \partial β^{티}} = 2 {엑스}^{티} 엑스 . \end{aligned}

$\begin{align}&\dfrac{\partial\text{RSS}}{\partial \beta} = -2\mathbf{X}^{T}\left(\mathbf{y}-\mathbf{X}\beta\right) \\ &\dfrac{\partial^2\text{RSS}}{\partial \beta\text{ }\partial \beta^{T}} = 2\mathbf{X}^{T}\mathbf{X}\text{.} \end{align}$ 매그너스와 뉴 데커의 글은 이론에 너무 많은 초점을 맞추고, 젠틀 의 글 은 이론과 계산 측면에 너무 초점을 맞 춥니 다.

학부 분석에 대한 배경 지식이있는 사람이 이용할 수있는 행복한 매체가 있습니까?

references matrix matrix-calculus

— Clarinetist
소스

4

통계학 자의 관점에서 Harville 's, Matrix Algebra 를 고려 했습니까 ? 첫 번째 챕터는 상대적으로 초급이어야하지만 그 다음에 줍습니다.

— usεr11852는 Reinstate Monic이

2

amazon.com/Matrix-Algebra-Econometric-Exercises-Vol/dp/…

— Khashaa

1

필자는 종종이 위키 백과 항목을 사용하여 행렬 미적분학 문제의 신원을 찾습니다. en.wikipedia.org/wiki/Matrix_calculus

— Tommy L

9

대부분의 매트릭스 질문에 대해서는 항상 "매트릭스 요리 책"을 참조 하십시오 ( 여기 참조 ).

다양한 소스의 피드백으로 인해 정기적으로 업데이트됩니다. 그 안에는 증거가 있지만 대부분 핸드북으로 작성되었습니다.

— Laurens van de Wiel
소스

3

Magnus와 Neudecker에서 너무 많은 이론을 발견했다면 Magnus가 저술 한이 이론을 추천합니다.

Abadir, KM 및 Magnus, JR Matrix Algebra Cambridge University Press, 2005

그것은 행렬 미적분의 응용에 더 중점을 둡니다.

— 아리고 베네 데티
소스

2

사용자는 다음과 같은 유용한 답변을 자체 삭제했습니다. 정보가 손실되지 않도록 완전히 재현했습니다.

ML에 대한 벡터 및 행렬 도함수에 대한 많은 결과가 실제로 필요하지는 않지만 Tom Minka의 논문이 대부분을 다루지 만 결정적인 처리는 Magnus & Neudecker의 Matrix Differential Calculus with Statistics and Econometrics의 응용입니다 .

실제로 Magnus & Neudecker는 Amazon에 대한 훌륭한 리뷰를 가지고 있으며 Tom Minka의 논문 ( 2000 년 통계에 유용한 Old and New Matrix Algebra )에는 "이것은 고급 소재입니다"라고 경고하지만 유용한 공식이 많이 포함되어 있습니다.

— 우버
소스

1

Stanford University의이 26 페이지 논문을 적극 권장합니다.

Zico Kolter의 " 선형 대수 검토 및 참조 "

실제로 많은 i와 j가있는 일반적인 Sum 계산 에 중점을두고 해당 행렬 계산을 알려줍니다 (예 : "벡터화 된"구현 사용).

그것은 당신이 도움이 즉시 인식 당신이 당신의 계산을 위해 작성해야 매트릭스 식의 유형.

— 망간
소스