신경망을 시작하는 방법

저는 신경망을 처음 접했지만 이해하는 데 관심이 많습니다. 그러나 시작하기가 쉽지 않습니다.
누구든지 좋은 책이나 다른 종류의 자료를 추천 할 수 있습니까? 반드시 읽어야합니까?
나는 어떤 종류의 팁에 감사합니다.

신경 네트워크는 오랫동안 사용되어 왔으며 수년에 걸쳐 크게 바뀌 었습니다. 웹상에서만 찌르면 "신경 네트워크" 는 역전 파로 훈련 된 멀티 레이어 피드 포워드 네트워크를 의미한다는 인상을 줄 수 있습니다 . 또는, 거의 사용되지 않고 기괴하게 명명 된 수십 가지 모델 중 하나를 발견하고 신경망이 연구 프로젝트보다 동물원이라고 생각할 수 있습니다. 또는 그들은 참신합니다. 또는...

계속할 수있었습니다. 명확한 설명이 필요하면 Geoffrey Hinton을 듣겠습니다 . 그는 영원히 주변에 있었고 (따라서?) 자신이 작업 한 모든 이질적인 모델을 하나의 응집력 있고 직관적이고 때로는 이론적 인 역사적 이야기로 짜는 데 큰 역할을했습니다. 그의 홈페이지에는 그가 수행 한 Google Tech Talks 및 Videolectures.net 강의 링크가 있습니다 ( RBM 및 딥 러닝 등).

내가 보는 방식에서 시작하여 최신 기술에 이르기까지 신경망을 이해하는 데 필요한 역사적이고 교육적인 로드맵이 있습니다.

• 퍼셉트론
  • 이해하기 쉬운
  • 심각하게 제한됨
• 역 전파에 의해 훈련 된 다층
  • 이것을 배울 수있는 많은 자료
  • 일반적으로 SVM뿐만 아니라하지 마십시오
• 볼츠만 기계
  • "에너지"측면에서 재귀 네트워크의 안정성에 대한 흥미로운 사고 방식
  • 봐 홉 필드 네트워크 당신이 원하는 경우 이해하기 쉽다 "에너지"와 재발 네트워크 (그러나 매우 실용적되지 않음) 예.
  • 이론적으로 흥미롭고 실제로는 쓸모가 없습니다 (대륙 드리프트와 같은 속도로 훈련)
• 제한된 볼츠만 기계
  • 유능한!
  • 볼츠만 기계 이론에서 구축
  • 웹에서 좋은 소개
• 깊은 믿음 네트워크
  • 내가 알 수있는 한, 이것은 반 감독 학습을 수행하기위한 다층 RBM 클래스입니다.
  • 일부 자료

이 강의를 시청 하고 이를 독서 자료로 사용 하는 것이 좋습니다 . 앤드류 응 (Andrew Ng)이 신경망에 대해 이야기하는 일반적인 기계 학습에 대한 강의는 초보자가 이용할 수 있도록 열심히 노력합니다.

이것들은 제 생각에는 아주 좋은 책입니다.

• R. Rojas : 신경망
• CM Bishop : 패턴 인식을위한 신경망

이 책들은 비슷한 점이 있습니다. 두 장의 길이는 모두 500 페이지 정도이며 1995 년부터 상당히 오래되었습니다. 그럼에도 불구하고 여전히 유용합니다. 두 책 모두 신경망이 무엇인지 설명함으로써 처음부터 시작합니다. 이해를 돕기 위해 명확한 설명, 좋은 예 및 좋은 그래프를 제공합니다. 신경망 훈련 문제, 다양한 형태와 형태, 그리고 할 수있는 것과 할 수없는 것을 설명합니다. 두 권의 책은 서로를 아주 잘 보충 해줍니다. 한 권의 책으로는 알아낼 수없는 것이 다른 책에서는 찾기가 쉽습니다.

Rojas에는 매트릭스 형태로 많은 레이어에 역 전파를 구현하는 방법에 대한 섹션이 있습니다. 또한 퍼지 로직에 대한 좋은 섹션과 복잡성 이론에 대한 섹션이 있습니다. 그러나 비숍에는 다른 멋진 섹션이 많이 있습니다.

로하스는 가장 접근하기 쉽다고 말할 것입니다. 주교는 더 수학적이고 더 정교합니다. 두 책 모두에서 수학은 주로 여러 변수 (부분 미분 등)의 함수에 대한 선형 대수 및 미적분학입니다. 이 주제들에 대한 지식이 없다면, 당신은 아마이 책들 중 어느 것도 매우 밝게 보이지 않을 것입니다.

로하스를 먼저 읽는 것이 좋습니다.

두 책 모두 분명히 알고리즘에 대해서는 말할 것이 많지만 코드의 특정 구현에 대해서는별로 언급하지 않습니다.

나에게이 책들은 배경 (온라인 코스 (예 : Hinton 's, Coursera))을 이해할 수있는 배경을 제공합니다. 이 책은 또한 온라인에서 할 수있는 것보다 훨씬 더 많은 내용을 다루고 있습니다.

이것이 도움이 되길 바랍니다. 책에 관한 질문에 기꺼이 답변 해 드리겠습니다.

다른 사람들이 지적했듯이 온라인에는 많은 (좋은) 자원이 있으며 개인적으로 그중 일부를 수행했습니다.

• Coursera에서 Ng의 ML 수업 소개
• Coursera의 힌튼 신경망 수업
• Ng의 딥 러닝 튜토리얼
• 원래 병렬 분산 처리 에서 관련 장 읽기

이러한 노출이 레이어 (합성 및 비선형 성을 함께 사용하는)가 기본 단위 인 고전적인 처리를 주로 따른다는 사실에 주목하고 싶습니다. torch-nn 및 tensorflow와 같은 대부분의 라이브러리에 구현 된보다 대중적이고 유연한 처리 방식은 이제 자동 차별화 기능이있는 계산 그래프를 사용하여 높은 모듈성을 달성합니다. 개념적으로 더 단순하고 자유 롭습니다. 이 치료를 위해 우수한 Stanford CS231n 공개 코스 를 강력히 추천합니다 .

엄격한 학습 이론 치료를 위해 Anthony와 Bartlett의 신경망 에 문의 할 수 있습니다 .

보다 통계적인 관점에서 치료를 원한다면 Brian Ripley의 "Pattern Recognition and Neural Networks"를 살펴보십시오. 이 책은 소개가 아니며 통계적 배경을 전제로합니다.

http://www.stats.ox.ac.uk/~ripley/PRbook/

신경망 분야의 학습 과정을 지원하는 웹 응용 프로그램을 만들었습니다.

https://blueneurons.ch/nn

설정 (아키텍처, 활성화 기능, 교육 설정)을 가지고 놀면서 설정이 예측에 미치는 영향을 관찰 할 수 있습니다. 모든 데이터 세트에는 채택 할 수있는 미리 구성된 값이 있습니다. 자신 만의 데이터 셋을 생성 할 수도 있습니다.

구현 된 요소에 대한 지침 및 설명 :

사용자 설명서