«neural-networks» 태그된 질문

분류 또는 회귀를 수행하기 위해 심층 신경망을 훈련시키고 싶지만 예측이 얼마나 자신감이 있는지 알고 싶습니다. 어떻게하면 되나요? 내 생각은 위의 신경계에서의 예측 성능을 기반으로 모든 훈련 기준에 대한 교차 엔트로피를 계산하는 것입니다. 그런 다음 회귀를 위해 두 번째 신경망을 훈련시켜 각 데이텀을 입력으로 사용하고 교차 엔트로피를 출력 (한 출력 노드)으로 …

9 machine-learning  neural-networks 

문제는 : 교차 엔트로피 손실과 함께 입력-> 숨김-숨겨진 최대-> 출력에 시그 모이 드를 사용하여 단일 숨겨진 레이어 신경망에 대한 입력 레이어에 대한 그라디언트를 도출하십시오. 체인 규칙을 사용하여 대부분의 파생 작업을 수행 할 수 있지만 실제로 함께 "체인"하는 방법에 대해서는 확실하지 않습니다. 몇 가지 표기법 정의 r=xW1+b1r=xW1+b1 r = xW_1+b_1 h=σ(r)h=σ(r) …

9 neural-networks  gradient 

LeCun et al (1998)의 "Efficient Backprop"에 따르면 모든 입력이 0을 중심으로하고 최대 2 차 미분의 범위 내에 있도록 모든 입력을 정규화하는 것이 좋습니다. 예를 들어 "Tanh"함수에 [-0.5,0.5]를 사용합니다. 이것은 Hessian이 더욱 안정적이됨에 따라 역 전파 진행을 돕는 것입니다. 그러나, 나는 정류기 뉴런 (max (0, x))으로 무엇을 해야할지 확신하지 못했습니다. (그 …

9 machine-learning  neural-networks  normalization  deep-learning  multidimensional-scaling 

오토 인코더 네트워크는 일반 분류 자 ​​MLP 네트워크보다 훨씬 까다로운 것으로 보입니다. Lasagne를 사용하여 여러 번 시도한 후에 재구성 된 출력에서 ​​얻는 것은 입력 숫자가 실제로 무엇인지에 대한 구분없이 MNIST 데이터베이스 의 모든 이미지의 모호한 평균과 유사 합니다. 내가 선택한 네트워크 구조는 다음 캐스케이드 계층입니다. 입력 레이어 (28x28) 2D 컨볼 …

9 machine-learning  neural-networks  dimensionality-reduction  unsupervised-learning  autoencoders 

CNN에서는 컨벌루션 레이어에서 피쳐 맵을 생성하는 필터를 학습합니다. 자동 인코더에서 각 레이어의 단일 숨겨진 단위를 필터로 간주 할 수 있습니다. 이 두 네트워크에서 필터의 차이점은 무엇입니까?

9 machine-learning  neural-networks  conv-neural-network  autoencoders 

입력 이미지에서 특정 기능의 위치와 같이 매우 드문 입력이 있습니다. 또한 각 기능에는 여러 감지 기능이있을 수 있습니다 (시스템 디자인과 관련이 있는지 확실하지 않음). 이 I는 그 특징의 존재를 나타내는 ON 픽셀을 가진 k 채널 '이진 이미지'로 제시 될 것이며, 그 반대도 마찬가지입니다. 우리는 그러한 입력이 매우 희박하다는 것을 알 …

9 neural-networks  deep-learning  sparse 

저는 박사 과정을 시작하고 있으며, 제가 스스로 결정한 궁극적 인 목표는 작업 환경을 모니터링하고 당면한 문제에 맞게 아키텍처를 동적으로 조정하는 ANN을 개발하는 것입니다. 데이터 세트가 연속적이지 않고 시간이 지나도 변경되지 않는 경우 왜 조정해야합니까? 가장 큰 문제는 최근에 딥 러닝이 등장함에 따라 여전히 관련 주제입니까? FFNN은 개념 드리프트 문제에서 틈새 …

9 machine-learning  neural-networks 

비정규 분산 데이터를 사용하여 인공 신경망 (역 전파, 피드 포워드)을 훈련하고 있습니다. 근 평균 제곱 오차 외에, 문헌은 종종 훈련 된 그물의 품질을 평가하기위한 피어슨 상관 계수를 제안합니다. 그러나 훈련 데이터가 정규 분포가 아닌 경우 Pearson 상관 계수가 합리적입니까? 순위 기반 상관 측정 (예 : Spearman rho)을 사용하는 것이 더 …

9 correlation  neural-networks  spearman-rho 

텍스트에 대한 감정 분석을 수행하고 여러 기사를 살펴보고 일부는 "Naive Bayes"를 사용 하고 다른 일부는 "Recurrent Neural Network (LSTM)"입니다 . 반면에 감정 분석을위한 Python 라이브러리를 보았습니다. NLTK입니다. 그것은 사용 "나이브 베이 즈 ' 깡통 사람이 두 가지를 사용 사이의 차이점은 무엇입니까 설명? 나는 또한이 게시물을 겪었지만 두 가지에 대해서는 명확하지 …

8 machine-learning  neural-networks  python  natural-language