«deep-learning» 태그된 질문

ASL (American Sign Language) 제스처 를 분류하기위한 제스처 인식 시스템을 구축하려고합니다 . 따라서 입력은 카메라 또는 비디오 파일에서 프레임 시퀀스로 가정되며 시퀀스를 감지하여 해당하는 것에 매핑합니다 수업 (수면, 도움, 식사, 달리기 등) 문제는 이미 비슷한 시스템을 구축했지만 정적 이미지 (모션 포함 되지 않음)의 경우 손이 많이 움직이지 않고 CNN 을 …

10 neural-network  deep-learning  keras  rnn  lstm 

어떤 이유로 든 AlphaGo Zero는 놀라운 결과에도 불구하고 Original AlphaGo만큼 많은 홍보를 얻지 못했습니다. 처음부터 시작하여 이미 AlphaGo Master를 이겼으며 수많은 다른 벤치 마크를 통과했습니다. 훨씬 더 믿을 수없이 40 일 만에이 작업이 완료됩니다. 구글은이를 "세계 최고의 Go 플레이어"라고 지었다 . DeepMind는 이것이 "새로운 형태의 강화 학습"이라고 주장합니다.이 기법은 참신한가요? …

10 machine-learning  deep-learning 

Keras 사용법을 배우고 있으며 Chollet 's Deep Learning for Python 의 예제를 사용하여 레이블이 지정된 데이터 세트로 합리적인 성공을 거두었습니다 . 데이터 세트는 3 개의 잠재적 클래스를 가진 길이가 3125 인 ~ 1000 시계열입니다. 70 %의 예측률을 제공 하는 기본 Dense 레이어를 넘어서서이 책에서 LSTM 및 RNN 레이어에 대해 논의하려고합니다. …

10 python  deep-learning  time-series  lstm  rnn 

Keras의 초보자이며 라이브러리가 실제로 어떻게 작동하는지 이해하기 위해 MNIST 예제로 시작했습니다. Keras 예제 폴더에서 MNIST 문제의 코드 스 니펫은 다음과 같습니다. import numpy as np np.random.seed(1337) # for reproducibility from keras.datasets import mnist from keras.models import Sequential from keras.layers import Dense, Dropout, Activation, Flatten from keras.layers import Convolution2D, MaxPooling2D from …

10 python  neural-network  deep-learning  keras 

방금 자동 인코더 변환에 관한 Geoff Hinton의 논문을 읽었습니다. Hinton, Krizhevsky 및 Wang : 자동 인코더 변환 . 인공 신경 네트워크 및 기계 학습에서, 2011. 이런 식으로 장난하고 싶습니다. 그러나 그것을 읽은 후에는 실제로 그것을 구현할 수있는 방법에 대한 논문에서 충분한 세부 정보를 얻을 수 없었습니다. 입력 픽셀과 캡슐 간의 …

10 neural-network  deep-learning  autoencoder 

Convolutional Neural Networks에 대해 배웠습니다. Keras예제를 볼 때 세 가지 다른 회선 방법을 발견했습니다. 즉, 1D, 2D 및 3D입니다. 이 세 계층의 차이점은 무엇입니까? 그들의 사용 사례는 무엇입니까? 유스 케이스를 보여주는 링크 또는 참조가 있습니까?

10 machine-learning  neural-network  deep-learning  keras  cnn 

Ilya Sutskever와 Quoc Le의 신경망을 이용한 시퀀스 학습 의 초석 논문을 읽고 있습니다. 첫 페이지에는 다음과 같이 간단히 언급되어 있습니다. A surprising example of the power of DNNs is their ability to sort N N-bit numbers using only 2 hidden layers of quadratic size 숨겨진 레이어를 2 개만 사용하여 숫자를 …

10 deep-learning 

이제 "Scikit-Learn 및 TensorFlow를 사용한 실습 머신 러닝" 이라는 책을 읽었으며 11 장에는 ELU (지수 적 ReLU)에 대한 설명이 있습니다. 셋째,이 기능은 z = 0을 포함하여 모든 곳에서 부드럽습니다. z = 0만큼 좌우로 튀지 않기 때문에 그라데이션 하강 속도를 높이는 데 도움이됩니다. z수단은 상기 그래프에서 X 축. z < 0선에 …

10 deep-learning  gradient-descent 

에서 소개 난 그냥 변경 loss = tf.reduce_mean(tf.square(y - y_data)) 에 loss = tf.reduce_mean(tf.abs(y - y_data)) 모델은 손실이 시간이 지남에 따라 커짐을 알 수 없습니다. 왜?

10 neural-network  deep-learning  tensorflow 

정의상 Relu는 max(0,f(x))입니다. 그런 다음 그라디언트는 다음과 같이 정의됩니다 1 if x > 0 and 0 if x < 0. x <0 일 때 그래디언트가 항상 0 (사라짐)을 의미하지 않습니까? 그렇다면 왜 Relu가 기울기 소멸 문제로 고통받지 않는다고 말합니까?

10 deep-learning 

을 감안할 때 어려운 학습 과제 (예 : 높은 차원, 고유 데이터의 복잡성) 깊은 신경망은 기차 열심히된다. 많은 문제를 해결하기 위해 : 품질 데이터 표준화 및 핸드 픽 다른 학습 알고리즘을 선택하십시오 (예 : Gradient Descent 대신 RMSprop) 더 가파른 그래디언트 비용 함수 선택 (예 : MSE 대신 교차 엔트로피) …

10 machine-learning  neural-network  deep-learning  randomized-algorithms 

두 개의 회선 레이어 (c1, c2)와 두 개의 숨겨진 레이어 (c1, c2)로 인공 신경망을 훈련하려고합니다. 표준 역 전파 접근법을 사용하고 있습니다. 역방향 패스에서 이전 레이어의 오류, 이전 레이어의 가중치 및 현재 레이어의 활성화 기능에 대한 활성화의 기울기를 기반으로 레이어의 델타 항을 계산합니다. 보다 구체적으로 l 계층의 델타는 다음과 같습니다. delta(l) …

10 machine-learning  data-mining  neural-network  deep-learning 

배치 정규화와 ReLU는 모두 사라지는 기울기 문제에 대한 솔루션입니다. 배치 정규화를 사용하는 경우 시그 모이 드를 사용해야합니까? 또는 batchnorm을 사용할 때에도 가치가있는 ReLU 기능이 있습니까? batchnorm에서 수행 된 정규화는 0의 활성화를 마이너스로 전송한다고 가정합니다. 이것은 batchnorm이 "dead ReLU"문제를 해결한다는 의미입니까? 그러나 탄과 물류의 지속적인 특성은 여전히 ​​매력적입니다. batchnorm을 사용하는 경우 …

9 deep-learning  batch-normalization 

사전 훈련 된 모델을 사용하여 Pascal VOC2012에서 Deeplabv3 + 의이 Keras 구현 을 훈련하려고합니다 (이 데이터 세트에서도 훈련 됨). 정확도가 1.0으로 빠르게 수렴되는 이상한 결과를 얻었습니다. 5/5 [==============================] - 182s 36s/step - loss: 26864.4418 - acc: 0.7669 - val_loss: 19385.8555 - val_acc: 0.4818 Epoch 2/3 5/5 [==============================] - 77s 15s/step …

9 python  deep-learning  keras  tensorflow 

단어 또는 문자열 집합을 스캔하고 기계 학습 또는 딥 러닝을 사용하여 이름, 휴대폰 번호, 주소, 도시, 주, 국가 및 기타 엔티티로 분류 할 수있는 지능형 모델을 생성하려고합니다. 나는 접근법을 찾았지만 불행히도 취할 접근법을 찾지 못했습니다. 나는 끈이 이름인지 도시인지를 예측하기 위해 bag of words 모델과 gloved word embedding을 사용해 보았습니다. …

9 machine-learning  deep-learning  text-mining  natural-language-process