인공 신경망에 대해 배울 수있는 좋은 리소스는 무엇입니까? [닫은]

저는 인공 신경망에 정말 관심이 있지만 시작할 곳을 찾고 있습니다.

어떤 리소스가 있으며 좋은 시작 프로젝트는 무엇입니까?

다음은 신경망 프로그래밍의 몇 가지 예입니다. http://www.codeproject.com/KB/recipes/neural_dot_net.aspx

여기에서 읽을 수 있습니다. http://web.archive.org/web/20071025010456/http://www.geocities.com/CapeCanaveral/Lab/3765/neural.html

나는 그것에 관한 과정을 방문하고 일부 문헌을 연구했습니다.

우선, 인공 신경망이 뇌와 관련이 있지만 생물학적 뉴런의 네트워크와 유사성을 통과한다는 개념을 포기하십시오. 생물학을 배우는 것은 신경망을 효과적으로 적용하는 데 도움이되지 않습니다. 선형 대수, 미적분, 확률 이론을 학습합니다. 최소한 함수의 기본 미분, 연쇄 규칙, 편도 함수 (그라데이션, 야 코비 및 헤세 행렬), 행렬 곱셈 및 대각 화에 대한 개념에 익숙해 져야합니다.

네트워크를 훈련 할 때 실제로 수행하는 작업은 대규모 다차원 함수를 최적화하는 것이므로 (네트워크의 각 가중치에 대한 오류 측정을 최소화하는 것) 비선형 수치 최적화 기술을 조사하는 것이 도움이 될 수 있습니다. 이것은 신경망 외부의 광범위한 문헌에서 광범위하게 연구 된 문제이며 웹에서 사용할 수있는 수치 최적화에 대한 많은 강의 노트가 있습니다. 시작하기 위해 대부분의 사람들은 단순한 경사 하강 법을 사용 하지만 이는 다음과 같은 미묘한 방법보다 훨씬 느리고 덜 효과적 일 수 있습니다.

기본 아이디어를 얻으면 히든 레이어에서 다양한 "스 쿼싱"기능을 실험하고 다양한 종류의 정규화를 추가하고 학습 속도를 높이기위한 다양한 조정을 시작할 수 있습니다. "모범 사례"의 포괄적 인 목록은 이 문서 를 참조하십시오 .

이 주제에 관한 최고의 책 중 하나는 패턴 인식을위한 Chris Bishop의 신경망 입니다. 이 단계에서는 상당히 오래되었지만 여전히 훌륭한 리소스이며 약 $ 30에 온라인에서 중고 사본을 찾을 수 있습니다. 그의 새로운 책인 패턴 인식 및 기계 학습 의 신경망 장도 상당히 포괄적입니다. 특히 훌륭한 구현 중심 자습서 는 CodeProject.com 에서 컨볼 루션 네트워크라고하는 영리한 종류의 네트워크를 구현하는 이 자습서를 참조하십시오.이 네트워크는 시각적 패턴을 분류하는 방법을 배우는 데 매우 능숙하게 만드는 방식으로 연결을 제한합니다.

지원 벡터 머신과 기타 커널 방법은 당신이 무슨 일을하는지 알지 못해도 적용 할 수 있고 종종 허용 가능한 결과를 얻을 수 있기 때문에 꽤 인기가 있습니다. 반면 신경망은 많은 문제, 특히 컴퓨터 비전과 같은 영역의 대규모 문제에 여전히 선호되지만 신중한 조정이 필요한 거대한 최적화 문제입니다.

Code Project 에서 Anoop Madhusudanan의이 훌륭한 시리즈를 강력히 추천합니다 .

그는 이해하기 쉬운 방식으로 작동 방식을 이해하기 위해 기본 사항을 안내하고 자신의 brainnet라이브러리를 사용하여 자신의 라이브러리를 만드는 방법을 보여줍니다 .

신경망은 요즘 일종의 declasse입니다. 지원 벡터 머신 과 커널 방법 은 역 전파보다 더 많은 문제 클래스에 더 좋습니다. 신경망과 유전 알고리즘은 현대 기계 학습에 대해 잘 모르지만 최신 기술은 아닌 사람들의 상상력을 포착합니다.

AI와 머신 러닝에 대해 더 자세히 알고 싶다면 Peter Norvig의 인공 지능 : 현대적인 접근 방식을 읽는 것이 좋습니다 . AI와 많은 현대 기술에 대한 광범위한 조사입니다. 역사와 오래된 기술에 대해서도 다루며 AI 및 머신 러닝의 기초에 대한보다 완벽한 기초를 제공합니다.

하지만 신경망은 꽤 쉽습니다. 특히 유전 알고리즘을 사용하여 가중치를 결정하는 대신 적절한 역 전파를 사용하는 경우.

나는 Chris Bishop이 패턴 인식 을 위한 신경망에 대한 dwf 의 추천을 두 번째로하였습니다 . 그러나 아마도 시작 텍스트는 아닙니다. Norvig 또는 온라인 자습서 (Matlab의 코드 포함!)가 더 부드러운 소개가 될 것입니다.

좋은 시작 프로젝트는 OCR (Optical Character Recognition)입니다. 텍스트 페이지를 스캔하고 분류를 수행하기 위해 네트워크를 통해 각 문자를 공급할 수 있습니다. (물론 네트워크를 먼저 훈련시켜야합니다!).

Raul Rojas의 책 은 아주 좋은 시작입니다 (또한 무료입니다). 또한 Haykin의 책 3 판 은 비록 많은 양이지만 매우 잘 설명되어 있습니다.

시작하지 말아야 할 곳을 추천 할 수 있습니다. 저는 Amazon에 대해 좋은 평가를 받고 "인지 및 컴퓨터 과학에서 가장 중요한 주제 중 하나에 대한 접근성이 높은 소개"라고 주장하는 Kevin Gurney 의 An Introduction to Neural Networks를 구입했습니다 . 개인적으로이 책을 시작으로 추천하지 않습니다. 나는 그것의 10 % 정도만 이해할 수 있지만, 어쩌면 나뿐일지도 모릅니다 (영어는 나의 모국어가 아닙니다). 이 스레드에서 다른 옵션을 살펴 보겠습니다.

http://www.ai-junkie.com/ann/evolved/nnt1.html 은 다중 레이어 퍼셉트론에 대한 명확한 소개이지만 역 전파 알고리즘을 설명하지는 않습니다.

일반적으로 AI에 대한 많은 기사를 제공하고 신경망에 대한 훌륭한 텍스트를 제공하는 generation5.org를 살펴볼 수도 있습니다.

돈을 쓰는 것에 신경 쓰지 않는다면, The Handbook of Brain Theory and Neural Networks 는 매우 좋습니다. 여러 분야의 연구를 다루는 287 개의 기사가 포함되어 있습니다. 소개와 이론으로 시작한 다음 기사를 통해 귀하의 관심사를 가장 잘 다루는 경로를 강조합니다.

첫 번째 프로젝트의 경우 Kohonen지도 는 분류 에 흥미 롭습니다 . 음악 컬렉션에서 숨겨진 관계를 찾 거나 스마트 로봇을 구축 하거나 Netflix 상품을 해결하는 것 입니다.

좋은 출발점은 항상 위키 백과 라고 생각합니다 . 신경망을 사용하는 문서 및 프로젝트에 대한 유용한 링크도 있습니다.

공부하는 동안 사용한 두 권의 책 :

입문 과정 : Igor Aleksander와 Helen Morton의 신경 컴퓨팅 입문.

고급 과정 : Robert Hecht-Nielsen의 신경 계산

저는 Fausett의 Fundamentals of Neural Networks 가 간단하고 쉽게 입문 교과서를 찾았습니다 .

나는 교과서 "Computational Intelligence"가 매우 유용하다는 것을 알았습니다.

Programming Collective Intelligence 는 검색 및 순위 알고리즘의 맥락에서이를 논의합니다. 또한 여기 에서 사용할 수있는 코드 (4 장)에서이 책에서 논의 된 개념은 Python 예제로 설명되어 있습니다.

나는 생물학을 공부하는 것이 좋은 출발점이 아니라고 말한 다른 사람들의 의견에 동의합니다. 생물학에는 무관 한 정보가 많기 때문입니다. 뉴런이 기능을 재생성하기 위해 어떻게 작동하는지 이해할 필요는 없습니다. 동작을 시뮬레이션하기 만하면됩니다. 저는 Ray Kurzweil의 "How To Create A Mind"를 추천합니다. 이것은 계산 모델과 관련된 생물학 측면 (여러 입력을 결합하고 임계 값에 도달하면 발사하여 시뮬레이션 된 뉴런을 생성)으로 이동하지만 다음과 같은 관련없는 것은 무시합니다. 뉴런이 실제로 thouse 입력을 추가하는 방법. (예를 들어 임계 값과 비교하기 위해 + 및 부등식을 사용합니다.)

나는 또한이 책이 '마음 창조'에 관한 것이 아니라 계층 적 패턴 인식 / 대뇌 피질에만 초점을 맞추고 있음을 지적해야합니다. 내가 믿는 1980 년대 이후로 일반적인 주제에 대해 이야기 해 왔기 때문에 같은 정보의 약간 오래된 형식을 포함하는 오래된 책이 많이 있습니다. 예를 들어 비전 시스템이 다층 패턴 인식기라는 오래된 문서를 읽었습니다. 그는 이것이 전체 대뇌 피질에 적용된다고 주장합니다. 또한, 그의 '예측'을 염두에 두십시오. 그의 하드웨어 추정치는 아마도 꽤 정확할 것입니다. 그러나 저는 그가 단순한 작업이 얼마나 복잡한 지 (예 : 자동차 운전) 과소 평가한다고 생각합니다. 물론, 그는 많은 진전을 보았지만 (그리고 그 일부였습니다) 나는 여전히 그가 지나치게 낙관적이라고 생각합니다. 인간이 할 수있는 99.9 + %와 비교할 때 AI 자동차가 90 %의 시간 동안 성공적으로 1 마일을 운전할 수 있다는 것에는 큰 차이가 있습니다. 나는 어떤 AI가 적어도 20 년 동안 나를 몰아 낼 것이라고 기대하지 않는다 ... (나는 BMW가 실제 코스에서 '훈련'되어야하는 트랙 카는 실제로 똑같이 플레이하지 않기 때문에 계산하지 않는다. 경기)

AI가 무엇이며 어떻게 모델링 할 수 있는지에 대한 기본 아이디어가 이미 있다면 좀 더 기술적 인 것으로 건너 뛰는 것이 좋습니다.

실제 시뮬레이터에서 일부 신경망 개념의 응용에 대해 빠르게 배우고 싶다면 http://grey.colorado.edu/CompCogNeuro/index에 'Computational Cognitive Neuroscience'라는 훌륭한 온라인 책 (현재 위키)이 있습니다. php / CCNBook / Main

이 책은 학교에서 교과서로 사용되며 개별 뉴런에서 고차원 실행 기능에 이르기까지 다양한 뇌 영역을 안내합니다.

또한 각 섹션은 이미 내려진 숙제 '프로젝트'로 보완됩니다. 다운로드하고 단계를 따르고 장에서 언급 한 모든 것을 시뮬레이션하십시오. 그들이 사용하는 소프트웨어 인 Emergent는 약간 까다 롭지 만 믿을 수 없을 정도로 강력합니다. 10 년 이상의 작업을 통해 얻은 제품입니다.

지난 학기 학부 수업을 들었는데 정말 좋았어요. 모든 것을 단계별로 안내합니다.