«neural-networks» 태그된 질문

나는 케라 컨볼 루션 문서 를 겪고 있었고 Conv1D와 Conv2D의 두 가지 유형의 경련을 발견했습니다. 나는 웹 검색을했는데 이것이 Conv1D와 Conv2D에 대해 내가 이해하는 것입니다. Conv1D는 시퀀스에 사용되고 Conv2D는 이미지에 사용됩니다. 나는 항상 컨볼 루션 신경 네트워크가 이미지에만 사용되었고 CNN이 이런 식으로 시각화되었다고 생각했습니다. 이미지는 큰 행렬로 간주되며 필터가이 행렬 …

19 machine-learning  neural-networks  conv-neural-network  keras 

대학원생과 노블 상 수상자 인 Feynman의 물리학 교수들은 항상 고조파 발진기, 진자, 회전하는 상단 및 블랙 박스와 같은 물리학의 기본 개념과 방법을 설명하기 위해 장난감 모델이라고 부르는 것을 항상 제시했습니다. 신경망 적용의 기본 개념과 방법을 설명하기 위해 어떤 장난감 모델이 사용됩니까? (참고하시기 바랍니다.) 장난감 모델이란 기본 방법을 제시 할 수있는 …

18 machine-learning  neural-networks  deep-learning 

비선형 분류 모델의 수학적 의미를 이해하려고합니다. 방금 신경망이 비선형 분류 모델이라는 기사를 읽었습니다. 그러나 나는 단지 그것을 깨닫는다. 첫 번째 레이어 : h1= x1※ wx 1 시간 1+ x2※ wx 1 시간 2h1=x1∗wx1h1+x2∗wx1h2h_1=x_1∗w_{x1h1}+x_2∗w_{x1h2} h2= x1※ wx 2 시간 1+ x2※ wx 2 시간 2h2=x1∗wx2h1+x2∗wx2h2h_2=x_1∗w_{x2h1}+x_2∗w_{x2h2} 후속 레이어 와이= b * wB의 …

18 neural-networks  nonlinear-regression  nonlinear 

온라인 많은 자습서에서 그라디언트 디센트에 대해 이야기하고 거의 모든 단계가 고정 단계 크기 (학습 속도 )를 사용합니다. 역 검색 (예 : 역 추적 라인 검색 또는 정확한 라인 검색)을 사용하지 않는 이유는 무엇 입니까?αα\alpha

18 machine-learning  neural-networks  optimization  deep-learning 

많은 논의에서 비슷한 결론을 보았습니다. 미니 배치 크기가 커질수록 SGD의 수렴이 실제로 더 어려워지고 악화됩니다. 이 논문 과 이 답변을 . 또한 초기 단계에서 소규모 학습 속도 또는 배치 크기와 같은 트릭을 사용하여 배치 크기가 큰 문제를 해결하는 사람들에 대해 들었습니다. 그러나 미니 배치의 평균 손실이 데이터 분포에 대한 예상 …

18 machine-learning  neural-networks  optimization  gradient-descent  sgd 

우리는 에포크가 사용 가능한 모든 훈련 샘플 전체를 통과 한 것으로 정의하고, 미니 배치 크기는 그라디언트를 내리는 데 필요한 가중치 / 바이어스에 대한 업데이트를 평균화하는 평균 샘플 수로 정의합니다. 내 질문은 에포크 내에서 각 미니 배치를 생성하기 위해 일련의 교육 예제를 대체하지 않고 끌어 야하는지 여부입니다. 실제로 에포크 종료 요구 …

18 machine-learning  neural-networks  optimization  deep-learning 

CNN과 관련하여 혼란스러워하는 몇 가지 질문이 있습니다. 1) CNN을 사용하여 추출한 기능은 스케일과 회전이 변하지 않습니까? 2) 데이터와의 컨볼 루션에 사용하는 커널은 이미 문헌에 정의되어 있습니까? 이 커널들은 어떤 종류입니까? 응용 프로그램마다 다릅니 까?

18 neural-networks  deep-learning  conv-neural-network 

아래 6 가지 결정 경계가 제공됩니다. 결정 경계는 보라색 선입니다. 점과 십자가는 서로 다른 두 데이터 집합입니다. 우리는 어느 것을 결정해야합니다 : 리니어 SVM 커널 SVM (2 차 다항식 커널) 퍼셉트론 로지스틱 회귀 신경망 (10 개의 정류 된 선형 단위를 갖는 숨겨진 계층 1 개) 신경망 (10 tanh 단위의 숨겨진 …

17 machine-learning  self-study  classification  neural-networks  svm 

드롭 아웃 을 설명 할 반 페이지가 있다면 어떻게 진행 하시겠습니까? 이 기술의 근거는 무엇입니까?

17 neural-networks  deep-learning  regularization  dropout 

저는 RNN (Recurrent Neural Networks)을 처음 접하면서도 개념을 배우고 있습니다. ESN (Echo State Network)은 입력이 제거 된 후에도 일련 의 입력, 즉 신호 를 (재) 생성 할 수 있다는 추상적 인 수준에서 이해 합니다. 그러나 나는 Scholarpedia 기사를 완전히 이해하고 이해하기가 너무 어렵다는 것을 알았 습니다. 누군가가 가장 간단한 형태로 …

17 neural-networks 

자동차 분류 광고 사이트에서 제공되는 가격과 기능을 사용하여 자동차 가격을 예측하기위한 최상의 모델을 식별하려고합니다. 이를 위해 scikit-learn 라이브러리의 몇 가지 모델과 pybrain 및 neurolab의 신경망 모델을 사용했습니다. 지금까지 사용한 접근법은 일부 모델 (기계 학습 알고리즘)을 통해 고정 된 양의 데이터를 실행 하고 scikit-learn 메트릭 모듈로 계산 된 R2R2R^2 값을 비교하는 …

17 machine-learning  neural-networks  random-forest  r-squared  elastic-net 

주교의 책 "패턴 분류 및 기계 학습"에서 신경망의 맥락에서 정규화하는 기술을 설명합니다. 그러나 훈련 과정에서 모델의 복잡성과 함께 자유도가 증가한다는 단락을 이해하지 못합니다. 관련 인용문은 다음과 같습니다. 네트워크의 효과적인 복잡성을 제어하는 ​​방법으로 정규화의 대안은 조기 중지 절차입니다. 비선형 네트워크 모델의 학습은 일련의 학습 데이터와 관련하여 정의 된 오류 함수의 반복 …

17 machine-learning  neural-networks  regularization  degrees-of-freedom 

나는 신경망의 분야에 뛰어 들었고 그들에 매료되었습니다. 마지막으로 증권 거래소에서 거래 시스템을 테스트하기위한 애플리케이션 프레임 워크를 개발했으며 이제는 첫 번째 신경망을 구현할 것입니다. 매우 간단하고 원시적 인 것으로, 실제 거래 용이 아닌 초보자 용입니다. 내 접근 방식이 좋은 접근 방법인지 알고 싶습니다. 그리고 당신이 내가 무언가를 놓치고 있거나 (또는 ​​무언가에 …

17 machine-learning  neural-networks 

LSTM 신경망에서 다음 블로그를 살펴보고 있습니다. http://machinelearningmastery.com/understanding-stateful-lstm-recurrent-neural-networks-python-keras/ 저자는 LSTM의 다른 구성을 위해 입력 벡터 X를 [샘플, 시간 단계, 특징]으로 재구성합니다. 저자는 쓴다 실제로, 문자의 순서는 별개의 특징의 1 시간 단계가 아닌 하나의 특징의 시간 단계이다. 우리는 네트워크에 더 많은 맥락을 주었지만 예상했던 것보다 더 많은 순서는 없습니다 이것은 무엇을 의미 …

17 neural-networks  lstm  rnn  tensorflow  tensor 

최근에는 자동 인코더를 연구하고 있습니다. 내가 올바르게 이해한다면, 자동 인코더는 입력 레이어가 출력 레이어와 동일한 신경망입니다. 따라서 신경망은 입력을 황금 표준으로 사용하여 출력을 예측하려고 시도합니다. 이 모델의 유용성은 무엇입니까? 일부 출력 요소를 재구성하여 입력 요소와 최대한 동일하게 만들면 어떤 이점이 있습니까? 왜이 기계를 모두 사용하여 같은 출발점에 도달해야합니까?

17 neural-networks  autoencoders