«softmax» 태그된 질문

로부터 Udacity의의 깊은 학습 클래스 , y_i의 softmax를 전체 Y 벡터의 지수의 합으로 나눈 지수는 간단하다 : 어디 S(y_i)의 softmax를 함수 y_i와 e지수 함수이며, j노입니다. 입력 벡터 Y의 열 수 나는 다음을 시도했다. import numpy as np def softmax(x): """Compute softmax values for each sets of scores in x.""" e_x …

247 python  numpy  machine-learning  logistic-regression  softmax 

신경망의 출력 레이어에서 softmax 함수를 사용하여 확률 분포를 근사화하는 것이 일반적입니다. 지수로 인해 계산 비용이 많이 듭니다. 왜 모든 변환이 양수가되도록 Z 변환을 수행 한 다음 모든 출력을 모든 출력의 합으로 나눠서 정규화하지 않겠습니까?

159 math  neural-network  softmax 

나는 최근에 tf.nn.sparse_softmax_cross_entropy_with_logits 를 발견 했고 그 차이가 tf.nn.softmax_cross_entropy_with_logits 와 비교되는 것을 알 수 없습니다 . y를 사용할 때 훈련 벡터 가 원-핫 인코딩 되어야 한다는 유일한 차이점은 sparse_softmax_cross_entropy_with_logits무엇입니까? API를 읽으면서 .NET과 비교하여 다른 차이점을 찾을 수 없습니다 softmax_cross_entropy_with_logits. 그런데 왜 추가 기능이 필요한가요? 원-핫 인코딩 된 학습 데이터 / …

111 neural-network  tensorflow  softmax  cross-entropy