«neural-networks» 태그된 질문

라이브러리 (Convnet 또는 TensorFlow와 같은)에 의존하지 않는 Python 코드를 작성하여 회선 신경 네트워크를 더 잘 이해하려고 노력하고 있으며 커널 매트릭스의 값을 선택하는 방법에 대한 문헌에 갇혀 있습니다. 이미지에서 컨볼 루션을 수행합니다. 아래 그림의 CNN 계층을 보여주는 기능 맵 사이의 단계에서 구현 세부 사항을 이해하려고합니다 . 이 다이어그램에 따르면 : 커널 …

24 machine-learning  neural-networks  deep-learning  feature-construction  conv-neural-network 

설명서 http://keras.io/optimizers/ 를 보면 SGD에 부패에 대한 매개 변수가 있습니다. 이것이 시간이 지남에 따라 학습 속도가 감소한다는 것을 알고 있습니다. 그러나 정확히 어떻게 작동하는지 알 수 없습니다. lr = lr * (1 - decay) 지수 등의 학습률을 곱한 값 입니까? 또한 모델에서 사용중인 학습 속도를 어떻게 확인할 수 있습니까? model.optimizer.lr.get_value()몇 …

23 neural-networks  python 

나는 최근에 텐서 흐름을 실행하고 배우고 있었고 해석하는 방법을 모르는 몇 가지 히스토그램을 얻었습니다. 보통 막대의 높이를 주파수 (또는 상대 주파수 / 카운트)로 생각합니다. 그러나 일반적인 히스토그램에서와 같이 막대가 없으며 사물이 음영 처리된다는 사실이 혼란스러워합니다. 한 번에 많은 선 / 높이가있는 것 같습니까? 다음 그래프를 해석하는 방법을 아는 사람이 있습니까 …

23 machine-learning  neural-networks  conv-neural-network  tensorflow 

그래서 나는 convolutional net을 사용하여 인간의 이미지에 대해 사전 훈련을하려고합니다. 나는 논문 ( Paper1 및 Paper2 ) 과이 stackoverflow link를 읽었 지만 그물의 구조를 이해하고 있는지 잘 모르겠습니다 (논문에 잘 정의되어 있지 않습니다). 질문 : 입력과 노이즈 레이어, 컨볼 루션 레이어, 풀링 레이어를 차례로 가질 수 있는데, 출력을하기 전에 풀링을 …

23 neural-networks  deep-learning  autoencoders  deep-belief-networks 

방금 통계와 모델에 대해 공부하기 시작했습니다. 현재 MLE을 사용하여 모델에 가장 적합한 모수를 추정한다는 것을 알고 있습니다. 그러나 신경망의 작동 방식을 이해하려고하면 매개 변수를 추정하기 위해 다른 접근법을 일반적으로 사용하는 것처럼 보입니다. 왜 MLE를 사용하지 않습니까? 아니면 MLE을 전혀 사용할 수 없습니까?

23 maximum-likelihood  neural-networks 

여기에는 비슷한 스레드가 있습니다 ( 신경 네트워크의 비용 함수는 볼록하지 않습니까? ). 나는 거기에 대한 답변의 요점을 이해할 수 없었으며 이것을 다시 요구하는 이유는 몇 가지 문제를 분명히 할 것입니다. 제곱 차분 비용 함수의 합계를 사용하는 경우 궁극적으로 형식의 것을 최적화합니다.ΣNi=1(yi−yi^)2Σi=1N(yi−yi^)2 \Sigma_{i=1}^{N}(y_i - \hat{y_i})^2 여기서 는 훈련 중 실제 레이블 …

22 machine-learning  neural-networks  optimization  loss-functions  convex 

ResNet 모듈 / 건너 뛰기 연결을 사용하여 그라디언트가 신경망을 통해 어떻게 전파되는지 궁금합니다. ResNet에 대한 몇 가지 질문을 보았습니다 (예 : 스킵 레이어 연결을 가진 신경망 ). 이것은 훈련 중 그라디언트의 역 전파에 대해 특별히 묻습니다. 기본 아키텍처는 다음과 같습니다. 필자는이 논문 인 이미지 인식을위한 잔차 네트워크 연구 (Research of …

22 machine-learning  neural-networks  conv-neural-network  gradient-descent  backpropagation 

Tensorflow에 의해 숨겨진 레이어가 하나 인 간단한 신경망을 가지고 놀고 있었고 숨겨진 레이어에 대해 다른 활성화를 시도했습니다. 렐루 시그 모이 드 Softmax (일반적으로 softmax는 마지막 레이어에서 사용됩니다.) Relu는 최고의 열차 정확도 및 검증 정확도를 제공합니다. 이것을 설명하는 방법을 잘 모르겠습니다. 우리는 Relu가 그라디언트 사라짐과 같은 희소성과 같은 좋은 특성을 가지고 …

22 machine-learning  neural-networks  conv-neural-network  tensorflow  sigmoid-curve 

역 전파 알고리즘을 사용하여 신경망을 훈련 할 때, 경사 하강 법이 가중치 업데이트를 결정하는데 사용된다. 내 질문이있다 : 오히려 천천히 일정한 무게에 대한 최소한의 포인트를 찾을 그라데이션 하강 방법을 사용하는 것보다, 왜 우리는 단지 파생 설정하지 , 그리고 오차를 최소화하는 무게 값 를 찾으 십니까?d(Error)dw=0d(Error)dw=0\frac{d(\text{Error})}{dw}=0www 또한 역 전파의 오차 함수가 …

22 neural-networks  gradient-descent  backpropagation 

필터의 치수 선택, 단위 풀링 및 컨볼 루션 레이어의 수를 결정하는 체계적인 방법을 다루는 좋은 논문이 있습니까?

22 neural-networks  deep-learning  conv-neural-network 

내가 직면하고있는 분류 문제에 대해 신경망을 실험하고 싶었습니다. 나는 RBM에 대해 이야기하는 논문을 접했다. 그러나 내가 이해할 수있는 것은 다층 신경망을 갖는 것과 다르지 않습니다. 이것이 정확합니까? 또한 R로 작업하고 RBM에 대한 통조림 패키지가 보이지 않습니다. 나는 기본적으로 RBM이 쌓여있는 딥 러닝 네트워크에 관해 이야기하는 문헌을 보았지만 R에서 그것들을 구현하려는 …

22 r  machine-learning  classification  neural-networks 

내 질문을 설명하기 위해 입력에 잡음이 있지만 출력이없는 훈련 세트가 있다고 가정하십시오. # Training data [1.02, 1.95, 2.01, 3.06] : [1.0] [2.03, 4.11, 5.92, 8.00] : [2.0] [10.01, 11.02, 11.96, 12.04] : [1.0] [2.99, 6.06, 9.01, 12.10] : [3.0] 여기서 출력은 노이즈가없는 경우 (실제 그래디언트가 아닌) 입력 어레이의 그래디언트입니다. 네트워크를 …

22 regression  machine-learning  neural-networks  confidence-interval  prediction-interval 

문제는 모든 것을 말합니다. "신경망 사전 훈련"이란 무엇입니까? 누군가 순수하고 간단한 영어로 설명 할 수 있습니까? 관련 리소스가없는 것 같습니다. 누군가 나를 가리킬 수 있다면 좋을 것입니다.

22 neural-networks  pre-training 

나는 깊고 회선이 많은 신경망으로 이미지 인식, 이미지 분류 등과 관련하여 많은 발전이 있었다는 것을 알고 있습니다. 그러나 PNG 이미지와 같이 그물을 훈련하면 인코딩 된 이미지 에만 작동 합니까? 다른 이미지 속성 이 이것에 영향을 줍니까? (알파 채널, 인터레이스, 해상도 등?)

22 neural-networks  deep-learning  image-processing 

배경: 예, RBM (Restricted Boltzmann Machine)을 사용하여 신경망의 가중치를 시작할 수 있습니다. 또한 "신속한 계층"방식으로 심층 네트워크를 구축 (즉, 최상위 계층에서 번째 계층 을 학습 한 다음 의 상단 층 번째 번째 층 헹군 반복 ...)( N - 1 ) , N + 1 , Nnnn(n−1)(n−1)(n-1)n+1n+1n+1nnn . RBM 사용 방법에 …

21 machine-learning  neural-networks  deep-learning  deep-belief-networks  rbm