«neural-network» 태그된 질문

나는 tf.nn.conv2d 여기 에 대한 tensorflow의 문서를보고 있었습니다 . 그러나 나는 그것이 무엇을하는지 또는 달성하려는 것을 이해할 수 없습니다. 문서에 나와 있습니다. # 1 : 필터를 모양이있는 2 차원 행렬로 평탄화 [filter_height * filter_width * in_channels, output_channels]. 이제 무엇을합니까? 그 요소 별 곱셈입니까 아니면 일반 행렬 곱셈입니까? 또한 문서에 언급 …

135 neural-network  tensorflow 

원래 질문은 특히 TensorFlow 구현에 관한 것이 었습니다. 그러나 대답은 일반적인 구현에 대한 것입니다. 이 일반적인 답변은 TensorFlow에 대한 정답이기도합니다. TensorFlow에서 일괄 정규화 및 드롭 아웃 (특히 contrib.layers 사용)을 사용할 때 순서에 대해 걱정해야합니까? 드롭 아웃을 사용하고 즉시 일괄 정규화를 사용하면 문제가있을 수 있습니다. 예를 들어, 배치 정규화의 이동이 더 …

116 python  neural-network  tensorflow  conv-neural-network 

PyTorch의 네트워크에서 가중치와 편향을 초기화하는 방법 (예 : He 또는 Xavier 초기화 사용)?

116 python  neural-network  deep-learning  pytorch 

tf.nn.avg_pool, tf.nn.max_pool, tf.nn.conv2d 의 strides 인수 를 이해하려고합니다 . 문서는 반복적으로 말한다 strides : 길이가 4보다 큰 정수 목록입니다. 입력 텐서의 각 차원에 대한 슬라이딩 창의 보폭입니다. 내 질문은 다음과 같습니다. 4 개 이상의 정수는 각각 무엇을 나타 냅니까? convnet에 대해 strides [0] = strides [3] = 1이 필요한 이유는 …

115 python  neural-network  convolution  tensorflow  conv-neural-network 

나는 PyTorch의 문서를 읽고 있고 그들이 쓰는 예제를 찾았습니다. gradients = torch.FloatTensor([0.1, 1.0, 0.0001]) y.backward(gradients) print(x.grad) 여기서 x는 y가 생성 된 초기 변수입니다 (3- 벡터). 문제는 그래디언트 텐서의 0.1, 1.0 및 0.0001 인수는 무엇입니까? 문서는 그것에 대해 명확하지 않습니다.

112 neural-network  gradient  pytorch  torch  gradient-descent 

이 메서드 zero_grad()는 훈련 중에 호출해야합니다. 그러나 문서 는별로 도움이되지 않습니다. | zero_grad(self) | Sets gradients of all model parameters to zero. 이 메서드를 호출해야하는 이유는 무엇입니까?

112 python  neural-network  deep-learning  pytorch  gradient-descent 

나는 최근에 tf.nn.sparse_softmax_cross_entropy_with_logits 를 발견 했고 그 차이가 tf.nn.softmax_cross_entropy_with_logits 와 비교되는 것을 알 수 없습니다 . y를 사용할 때 훈련 벡터 가 원-핫 인코딩 되어야 한다는 유일한 차이점은 sparse_softmax_cross_entropy_with_logits무엇입니까? API를 읽으면서 .NET과 비교하여 다른 차이점을 찾을 수 없습니다 softmax_cross_entropy_with_logits. 그런데 왜 추가 기능이 필요한가요? 원-핫 인코딩 된 학습 데이터 / …

111 neural-network  tensorflow  softmax  cross-entropy 

닫은. 이 질문은 Stack Overflow 지침을 충족하지 않습니다 . 현재 답변을 받고 있지 않습니다. 이 질문을 개선하고 싶으십니까? Stack Overflow의 주제에 맞게 질문을 업데이트하세요 . 휴일 육년 전 . 이 질문 개선 저는 인공 신경망에 정말 관심이 있지만 시작할 곳을 찾고 있습니다. 어떤 리소스가 있으며 좋은 시작 프로젝트는 무엇입니까?

109 neural-network 

LSTM과 Keras를 사용하여 구축하는 방법을 이해하려고합니다. RNN을 실행하는 데 주로 4 가지 모드가 있다는 것을 알아 냈습니다 (사진에서 올바른 4 가지 모드). 이미지 출처 : Andrej Karpathy 이제 Keras에서 각각에 대한 최소한의 코드 조각이 어떻게 생겼는지 궁금합니다. 그래서 뭔가 model = Sequential() model.add(LSTM(128, input_shape=(timesteps, data_dim))) model.add(Dense(1)) 4 가지 작업 각각에 …

108 machine-learning  neural-network  deep-learning  keras  recurrent-neural-network 

FlattenKeras 에서 기능 의 역할을 이해하려고합니다 . 아래는 간단한 2 계층 네트워크 인 내 코드입니다. 모양 (3, 2)의 2 차원 데이터를 가져 와서 모양 (1, 4)의 1 차원 데이터를 출력합니다. model = Sequential() model.add(Dense(16, input_shape=(3, 2))) model.add(Activation('relu')) model.add(Flatten()) model.add(Dense(4)) model.compile(loss='mean_squared_error', optimizer='SGD') x = np.array([[[1, 2], [3, 4], [5, 6]]]) y …

108 machine-learning  tensorflow  neural-network  deep-learning  keras 

닫은. 이 질문은 Stack Overflow 지침을 충족하지 않습니다 . 현재 답변을 받고 있지 않습니다. 이 질문을 개선하고 싶으십니까? Stack Overflow의 주제에 맞게 질문을 업데이트하세요 . 어제 휴무 입니다. 이 질문 개선 신경망을 처음부터 구축하려고합니다. 모든 AI 문헌에는 네트워크가 더 빠르게 수렴하기 위해 가중치를 임의의 숫자로 초기화해야한다는 합의가 있습니다. 그러나 신경망 …

105 machine-learning  neural-network  artificial-intelligence  mathematical-optimization  gradient-descent 

고유 벡터가 10 개인 경우 입력 계층에 10 개의 신경 노드를 가질 수 있습니다 .5 개의 출력 클래스가 있으면 출력 계층에 5 개의 노드를 가질 수 있습니다. 그러나 MLP에서 숨겨진 계층의 수와 신경의 수를 선택하는 기준은 무엇입니까? 1 개의 은닉층에있는 노드?

104 machine-learning  neural-network  deep-learning  perceptron 

부분적으로 훈련 된 Keras 모델을 저장하고 모델을 다시로드 한 후 훈련을 계속할 수 있는지 궁금합니다. 그 이유는 앞으로 더 많은 훈련 데이터를 갖게 될 것이고 전체 모델을 다시 훈련시키고 싶지 않기 때문입니다. 내가 사용하는 기능은 다음과 같습니다. #Partly train model model.fit(first_training, first_classes, batch_size=32, nb_epoch=20) #Save partly trained model model.save('partly_trained.h5') #Load …

98 python  tensorflow  neural-network  keras  resuming-training 

두 개의 레이어가있는 신경망의 예가 있습니다. 첫 번째 계층은 두 개의 인수를 취하고 하나의 출력을 갖습니다. 두 번째는 첫 번째 계층의 결과로 하나의 인수와 하나의 추가 인수를 취해야합니다. 다음과 같이 표시됩니다. x1 x2 x3 \ / / y1 / \ / y2 그래서 두 개의 레이어가있는 모델을 만들고 병합하려고했지만 오류가 …

96 python  machine-learning  keras  neural-network 

TensorFlow를 사용하여 구현 된 많은 사용 가능한 신경망 코드에서 정규화 용어는 손실 값에 추가 용어를 수동으로 추가하여 구현되는 경우가 많습니다. 내 질문은 다음과 같습니다. 수동으로 수행하는 것보다 더 우아하거나 권장되는 정규화 방법이 있습니까? 나는 또한 그것이 get_variable논쟁 을 가지고 있음 을 발견했다 regularizer. 어떻게 사용해야합니까? 내 관찰에 따르면 정규화를 여기에 …

94 python  neural-network  tensorflow  deep-learning