답변:
이 링크 에는 놀라운 양의 딥 러닝 문헌 이 포함되어 있습니다. 여기에 요약 (초보자가 이상적으로 해야하는 순서로 진행)-참고 :이 모든 리소스는 주로 파이썬을 사용합니다.
1) 우선 머신 러닝에 대한 기본 지식이 필요합니다. Caltech의 Learning from data는 인터넷에서 제공되는 모든 기계 학습 과정에 이상적이라는 것을 알았습니다.
Andrew Ng의 Coursera 코스도 꽤 좋습니다.
2) 신경망의 경우 패트릭 윈스턴 박사 보다 더 잘 설명하는 사람은 없습니다 . 과제는 이해를 돕기 위해 시도해야합니다. 그들은 파이썬에 있습니다.
3) 신경망을 더 잘 이해하려면 Michael Nielsen 의 과정을 수행해야합니다 (Alexey가 제안한대로). 꽤 기본이지만 작동합니다.
4) 심층 신경망의 경우 GPU에서 더 빠르게 구현하기 위해 Theano , Caffe , Pybrain , Torch 등과 같은 여러 프레임 워크가 있습니다 . 이 Theano 중에서 사용자가 사용자 정의 NN을 작성할 수있는 더 나은 저수준 기능을 제공합니다. 파이썬 라이브러리이므로 numpy, scikit-learn, matplotlib, scipy를 함께 사용할 수 있다는 것이 큰 장점입니다. 깊은 학습 튜토리얼 리사 연구소가 작성한이 theano의 더 나은 이해를 위해 밖으로 시도해야한다.
5) Convolutional Neural Networks의 경우 andrej karpathy의 학습서를 따르십시오 .
6) 비지도 학습의 경우 여기 와 여기를 따르십시오 .
7) 딥 러닝과 NLP의 교차점은 Richard Socher의 수업을 따르십시오 .
8) LSTM의 경우 Hochreiter, S. 및 Schmidhuber, J. (1997)를 참조하십시오. 장기 단기 기억. 신경 계산, 9 (8), 1735-1780 및 Graves, Alex. 반복적 인 신경망을 이용한 감독 된 서열 표지. Vol. 385. Springer, 2012 .
LSTM의 Theano 코드 는 다음과 같습니다 .
이 주제는 새로운 것이기 때문에 대부분의 지혜가 논문에 흩어져 있지만 최근 두 권의 책이 있습니다.
그리고 실용적인 자료 : http://deeplearning.net/tutorial/
Michael Nielsen의 신경망과 딥 러닝. 이 책은 아직 진행중이지만, 꽤 흥미롭고 유망한 것 같습니다. 그리고 무료입니다! 링크는 다음과 같습니다. http://neuralnetworksanddeeplearning.com/
지금까지 5 개의 챕터 만 있으며, 대부분은 일반적인 신경망에 대해 이야기하지만 여전히 살펴볼 가치가 있습니다.
업데이트 : 책이 완성되었습니다!
주요 참고 사항 :
딥 러닝 과정 :
NLP 지향 :
비전 지향 :
툴킷 관련 학습서 :
또한 NLP와 딥 러닝의 교차점에 관한 Richard Socher의 최근 박사 학위 논문이 있습니다 : 자연 언어 처리 및 컴퓨터 비전을위한 재귀 딥 러닝
Back 전파 알고리즘의 파생을 이해하기 위해 Ryan Harris youtube 비디오를 추천 합니다. 두 번째 비디오도 찾을 수 있습니다.