«neural-network» 태그된 질문

github (link) 에서 LSTM 언어 모델의이 예제를 살펴 보았습니다 . 일반적으로하는 일은 나에게 매우 분명합니다. 그러나 나는 여전히 contiguous()코드에서 여러 번 발생 하는 호출 이 무엇을하는지 이해하는 데 어려움을 겪고 있습니다. 예를 들어 74/75 행의 코드 입력 및 LSTM의 대상 시퀀스가 ​​생성됩니다. 데이터 (에 저장 됨 ids)는 2 차원이며 첫 …

90 neural-network  deep-learning  lstm  pytorch  contiguous 

훈련 중에 자주 발생하는 것이 NAN소개되고 있음을 알았습니다 . 종종 내부 제품 / 완전 연결 또는 컨볼 루션 레이어의 가중치로 인해 발생하는 것처럼 보입니다. 그래디언트 계산이 폭발하기 때문에 발생합니까? 아니면 가중치 초기화 때문입니까 (그렇다면 가중치 초기화가이 효과가있는 이유)? 아니면 입력 데이터의 특성 때문일까요? 여기서 가장 중요한 질문은 간단합니다. NAN이 훈련 …

85 machine-learning  neural-network  deep-learning  caffe  gradient-descent 

로지스틱 회귀 또는 다항 로지스틱 회귀와 같은 분류 문제는 교차 엔트로피 손실을 최적화합니다 . 일반적으로 교차 엔트로피 계층 은 확률 분포를 생성 하는 소프트 맥스 계층을 따릅니다 . tensorflow에는 적어도 십여 개의 다른 교차 엔트로피 손실 함수가 있습니다 . tf.losses.softmax_cross_entropy tf.losses.sparse_softmax_cross_entropy tf.losses.sigmoid_cross_entropy tf.contrib.losses.softmax_cross_entropy tf.contrib.losses.sigmoid_cross_entropy tf.nn.softmax_cross_entropy_with_logits tf.nn.sigmoid_cross_entropy_with_logits ... 이진 분류에서만 작동하는 …

84 python  tensorflow  neural-network  logistic-regression  cross-entropy 

현재 다음 코드를 사용합니다. callbacks = [ EarlyStopping(monitor='val_loss', patience=2, verbose=0), ModelCheckpoint(kfold_weights_path, monitor='val_loss', save_best_only=True, verbose=0), ] model.fit(X_train.astype('float32'), Y_train, batch_size=batch_size, nb_epoch=nb_epoch, shuffle=True, verbose=1, validation_data=(X_valid, Y_valid), callbacks=callbacks) 2 Epoch 동안 손실이 개선되지 않으면 Keras에게 훈련을 중단하라고 지시합니다. 그러나 손실이 일정한 "THR"보다 작아지면 훈련을 중단하고 싶습니다. if val_loss < THR: break 나는 문서에서 자신의 …

82 python  machine-learning  neural-network  conv-neural-network  keras 

Keras에서 TimeDistributed 래퍼가 수행하는 작업을 파악하려고합니다. TimeDistributed는 "입력의 모든 시간 조각에 레이어를 적용합니다." 하지만 실험을 좀 해보니 이해할 수없는 결과가 나왔습니다. 요컨대 LSTM 계층과 관련하여 TimeDistributed 및 Just Dense 계층은 동일한 결과를 나타냅니다. model = Sequential() model.add(LSTM(5, input_shape = (10, 20), return_sequences = True)) model.add(TimeDistributed(Dense(1))) print(model.output_shape) model = Sequential() model.add(LSTM(5, …

82 python  machine-learning  keras  neural-network  deep-learning 

파이썬에서 tensorflow 변수에 새 값을 할당하려고합니다. import tensorflow as tf import numpy as np x = tf.Variable(0) init = tf.initialize_all_variables() sess = tf.InteractiveSession() sess.run(init) print(x.eval()) x.assign(1) print(x.eval()) 그러나 내가 얻는 출력은 0 0 따라서 값은 변경되지 않았습니다. 내가 무엇을 놓치고 있습니까?

79 python  tensorflow  neural-network  deep-learning  variable-assignment 

현상금이 만료 10시간에 . 이 질문에 대한 답변은 +150 평판 현상금을 받을 수 있습니다 . sirjay 는 평판이 좋은 곳에서 답을 찾고 있습니다. 데이터 스톡 예측을위한지도 학습을 통해 LSTM (RNN) 신경망을 만들었습니다. 문제는 자체 교육 데이터에서 잘못 예측하는 이유는 무엇입니까? (참고 : 아래의 재현 가능한 예 ) 다음 5 일 …

13 python  tensorflow  machine-learning  keras  neural-network 

나는 MSE로 차별자가 최소화되고 발전기가 최대화되어야하는 생성적인 적대적 네트워크를 가지고 있습니다. 둘 다 반대 목표를 추구하는 상대이기 때문입니다. generator = Sequential() generator.add(Dense(units=50, activation='sigmoid', input_shape=(15,))) generator.add(Dense(units=1, activation='sigmoid')) generator.compile(loss='mse', optimizer='adam') generator.train_on_batch(x_data, y_data) 높은 MSE 가치에서 이익을 얻는 발전기 모델을 얻으려면 어떻게 적응해야합니까?

11 python  tensorflow  keras  neural-network  maximize 

신경망 모델의 매개 변수를 업데이트 / 변경하려고 시도한 후 업데이트 된 신경망의 전달 패스를 계산 그래프에 넣었습니다 (얼마나 많은 변경 / 업데이트가 있더라도). 나는이 아이디어를 시도했지만 그것을 할 때마다 pytorch는 업데이트 된 텐서 (모델 내부)를 리프로 설정하여 그라디언트를 받고 싶은 네트워크의 그라디언트 흐름을 죽입니다. 리프 노드는 내가 원하는 방식으로 계산 …

10 python  machine-learning  neural-network  pytorch 

문제 요약 및 질문 열거 할 수는 있지만 색인을 생성 할 수없는 객체 내부의 일부 데이터를 보려고합니다. 나는 여전히 파이썬에 익숙하지 않지만 이것이 어떻게 가능한지 이해하지 못합니다. 열거 할 수 있다면 열거와 같은 방식으로 인덱스에 액세스 할 수없는 이유는 무엇입니까? 그렇지 않은 경우 항목에 개별적으로 액세스 할 수있는 방법이 있습니까? …

10 python  tensorflow  neural-network  kaggle 

권장 사항에 대한 오류가 있습니다 (TensorFlow 2.0을 지원하지 않는 Kera. 권장 사항을 사용 tf.keras하거나 TensorFlow 1.14로 다운 그레이드하는 것이 좋습니다). 감사 import keras #For building the Neural Network layer by layer from keras.models import Sequential #To randomly initialize the weights to small numbers close to 0(But not 0) from keras.layers …

9 python  tensorflow  keras  neural-network  tf.keras 

딥 러닝 애플리케이션에 Gekko의 뇌 모듈을 사용하는 방법을 배우고 있습니다. numpy.cos () 함수를 배우고 비슷한 결과를 내기 위해 신경망을 설정했습니다. 훈련 범위가 다음과 같은 경우에 적합합니다. x = np.linspace(0,2*np.pi,100) 그러나 범위를 확장하려고하면 모델이 분리됩니다. x = np.linspace(0,3*np.pi,100) 다른 경계에서 작동하도록 모델의 유연성을 높이려면 신경망에서 무엇을 변경해야합니까? 이것은 내 코드입니다. from …

9 neural-network  deep-learning  gekko