«cross-entropy» 태그된 질문

다음 TensorFlow 함수에서, 우리는 최종 층에서 인공 뉴런의 활성화를 공급해야합니다. 이해합니다. 그러나 왜 그것이 로짓이라고 불리는 지 이해하지 못합니까? 수학 함수가 아닌가? loss_function = tf.nn.softmax_cross_entropy_with_logits( logits = last_layer, labels = target_output )

250 tensorflow  machine-learning  neural-network  deep-learning  cross-entropy 

나는 최근에 tf.nn.sparse_softmax_cross_entropy_with_logits 를 발견 했고 그 차이가 tf.nn.softmax_cross_entropy_with_logits 와 비교되는 것을 알 수 없습니다 . y를 사용할 때 훈련 벡터 가 원-핫 인코딩 되어야 한다는 유일한 차이점은 sparse_softmax_cross_entropy_with_logits무엇입니까? API를 읽으면서 .NET과 비교하여 다른 차이점을 찾을 수 없습니다 softmax_cross_entropy_with_logits. 그런데 왜 추가 기능이 필요한가요? 원-핫 인코딩 된 학습 데이터 / …

111 neural-network  tensorflow  softmax  cross-entropy 

교차 엔트로피가 무엇인지에 대한 설명이 많이 있다는 것을 알고 있지만 여전히 혼란 스럽습니다. 손실 함수를 설명하는 방법 일 뿐입니 까? 손실 함수를 사용하여 최소값을 찾기 위해 경사 하강 법 알고리즘을 사용할 수 있습니까?

93 machine-learning  cross-entropy 

로지스틱 회귀 또는 다항 로지스틱 회귀와 같은 분류 문제는 교차 엔트로피 손실을 최적화합니다 . 일반적으로 교차 엔트로피 계층 은 확률 분포를 생성 하는 소프트 맥스 계층을 따릅니다 . tensorflow에는 적어도 십여 개의 다른 교차 엔트로피 손실 함수가 있습니다 . tf.losses.softmax_cross_entropy tf.losses.sparse_softmax_cross_entropy tf.losses.sigmoid_cross_entropy tf.contrib.losses.softmax_cross_entropy tf.contrib.losses.sigmoid_cross_entropy tf.nn.softmax_cross_entropy_with_logits tf.nn.sigmoid_cross_entropy_with_logits ... 이진 분류에서만 작동하는 …

84 python  tensorflow  neural-network  logistic-regression  cross-entropy