«neural-networks» 태그된 질문

경우에 따라 다변량 선형 회귀 분석을 통해 신경망과 유사한 결과를 얻을 수 있으며 다변량 선형 회귀 분석이 매우 빠르고 쉽습니다. 어떤 상황에서 신경망은 다변량 선형 회귀보다 더 나은 결과를 제공 할 수 있습니까?

53 regression  multiple-regression  neural-networks 

대부분의 Tensorflow 코드에서 Adam Optimizer가 일정한 학습 속도 1e-4(예 : 0.0001) 와 함께 사용되는 것을 보았습니다 . 코드는 일반적으로 다음과 같습니다. ...build the model... # Add the optimizer train_op = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy) # Add the ops to initialize variables. These will include # the optimizer slots added by AdamOptimizer(). init_op = …

53 neural-networks  deep-learning  gradient-descent  tensorflow  adam 

필자가 읽은 많은 저자들은 SVM이 회귀 / 분류 문제에 직면 할 수있는 우수한 기술이며, NN을 통해 유사한 결과를 얻을 수 없다는 것을 알고 있습니다. 종종 비교는 NN 대신 SVM 강력한 창립 이론을 가지고 2 차 프로그래밍으로 글로벌 최적 달성 적절한 수의 매개 변수를 선택하는 데 문제가 없습니다 과적 합의 경향이 …

52 machine-learning  svm  neural-networks 

나는 artificial neural network (ANN)예측에서 오류를 줄임으로써 피팅을 개선하기 위해 역 전파를 사용하여 감독 방식으로 훈련 될 수있는 방법을 이해합니다 . 나는 ANN이 비지도 학습에 사용될 수 있다고 들었지만 최적화 단계를 안내하기 위해 일종의 비용 함수없이 어떻게 할 수 있습니까? k- 평균 또는 EM 알고리즘에는 각 반복이 증가하도록 검색하는 기능이 …

52 clustering  neural-networks  unsupervised-learning  self-organizing-maps 

확률 적 그라디언트 디센트는 각 반복을 다른 훈련 데이터 세트 샘플로 업데이트하여 역 전파를 사용하여 신경망을 최적화하는 데 사용될 수 있음을 이해합니다. 배치 크기는 얼마나 커야합니까?

49 machine-learning  neural-networks  gradient-descent  backpropagation 

로지스틱 함수를 사용하여 입력의 선형 조합을 비선형 출력으로 변환하기 때문에 어떻게 로지스틱 회귀를 선형 분류기로 간주 할 수 있습니까? 선형 회귀는 숨겨진 계층이없는 신경망과 같으므로 신경망이 왜 비선형 분류기로 간주되고 로지스틱 회귀가 선형입니까?

48 logistic  classification  neural-networks 

재발 성 신경망과 재귀 신경망이 있습니다. 둘 다 일반적으로 동일한 약어로 표시됩니다 : RNN. Wikipedia 에 따르면 Recurrent NN은 실제로 Recursive NN이지만 설명을 이해하지 못합니다. 또한, 자연어 처리에 어떤 것이 더 나은지 (예를 들어) 알지 못하는 것 같습니다. 사실 Socher는 자신의 튜토리얼 에서 NLP에 재귀 NN을 사용하지만 재귀 신경 네트워크의 …

48 machine-learning  neural-networks  deep-learning  natural-language 

최근 몇 년 동안 CNN (Convolutional Neural Networks)은 컴퓨터 비전의 객체 인식을위한 최첨단 기술이되었습니다. 일반적으로 CNN은 여러 개의 컨볼 루션 레이어로 구성되고 그 뒤에 완전히 연결된 두 레이어가 있습니다. 이것에 대한 직관은 컨볼 루션 레이어가 입력 데이터의 더 나은 표현을 배우고 완전히 연결된 레이어는 레이블 세트 로이 표현을 분류하는 법을 …

46 machine-learning  neural-networks  svm  deep-learning  conv-neural-network 

Rong Ge 의 최근 블로그 게시물 에서 다음과 같이 말했습니다. 딥넷 학습을 포함한 많은 문제의 경우 거의 모든 지역 최소값이 전역 최적 값과 매우 유사한 기능 값을 가지므로 지역 최소값을 찾는 것으로 충분합니다. 이 믿음은 어디에서 왔습니까?

45 machine-learning  neural-networks  optimization  deep-learning 

XOR-Gate 모델링하는 TensorFlow 에서 간단한 MLP 를 작성했습니다 . 그래서 : input_data = [[0., 0.], [0., 1.], [1., 0.], [1., 1.]] 다음을 생성해야합니다. output_data = [[0.], [1.], [1.], [0.]] 네트워크에는 입력 레이어, 숨겨진 레이어 및 각각 2, 5 및 1 뉴런이있는 출력 레이어가 있습니다. 현재 다음과 같은 교차 엔트로피가 있습니다. …

45 machine-learning  neural-networks  error  gradient-descent  supervised-learning 

Gradient Descent는 Local Minima에 갇히는 데 문제가 있습니다. 전역 최소값을 찾으려면 경사 하강 지수 시간을 실행해야합니다. 누구든지 장단점과 함께 신경망 학습에 적용되는 경사 하강의 대안에 대해 말해 줄 수 있습니까?

45 machine-learning  svm  neural-networks 

신경망 훈련을위한 기본 그래디언트 디센트 알고리즘에 익숙합니다. 나는 Adam : ADAM : 확률 적 최적화를위한 방법을 제안하는 논문을 읽었다 . 나는 적어도 약간의 통찰력을 얻었지만 , 논문은 전체적으로 나에게 너무 높은 수준으로 보입니다. 예를 들어, 비용 함수 는 종종 많은 다른 함수들의 합이므로 그 값을 최적화하기 위해 방대한 양의 계산이 …

44 neural-networks  optimization  gradient-descent  adam 

컨볼 루션 신경망의 컨볼 루션 부분을 이해하려고합니다. 다음 그림을 보면 : 4 개의 다른 커널 (크기 ) 이있는 첫 번째 회선 레이어를 이해하는 데 아무런 문제가 없습니다. 크기 는 입력 이미지와 함께 4 개의 기능 맵을 얻습니다.k × kk×kk \times k 내가 이해하지 못하는 것은 4 개의 기능 맵에서 6 …

44 machine-learning  neural-networks  deep-learning  conv-neural-network 

숨겨진 레이어에 대한 활성화 기능의 선택은 분명하지만 (주로 시그 모이 드 또는 탄), 출력 레이어의 활성화 기능을 결정하는 방법이 궁금합니다. 일반적인 선택은 선형 함수, S 자형 함수 및 소프트 맥스 함수입니다. 그러나 언제 어느 것을 사용해야합니까?

44 neural-networks 

신경망을 배우고 싶습니다. 저는 전산 언어 학자입니다. 통계 머신 러닝 접근법을 알고 있으며 파이썬으로 코딩 할 수 있습니다. 나는 개념부터 시작하여 계산 언어학 관점에서 유용 할 수있는 인기있는 모델을 알고 있습니다. 참고 용으로 웹을 탐색하고 몇 권의 책과 자료를 찾았습니다. Ripley, Brian D. (1996) 케임브리지 패턴 인식 및 신경망 비숍, …

43 neural-networks  deep-learning  references  natural-language  computer-vision