통계 및 빅 데이터 autoencoders

4

컨볼 루션 신경망, 제한된 볼츠만 기계 및 자동 인코더의 차이점은 무엇입니까?

최근에 저는 딥 러닝에 대해 읽었으며 용어 (또는 기술)에 대해 혼란스러워합니다. 차이점은 무엇입니까 컨볼 루션 신경망 (CNN) 제한된 볼츠만 기계 (RBM) 및 자동 인코더?

123 neural-networks deep-learning conv-neural-network autoencoders rbm

7

VAE의 매개 변수화 트릭은 어떻게 작동하며 왜 중요합니까?

VAE (variational autoencoders) 의 매개 변수화 트릭 은 어떻게 작동합니까? 기본 수학을 단순화하지 않고 직관적이고 쉬운 설명이 있습니까? 그리고 왜 '트릭'이 필요한가?

57 mathematical-statistics autoencoders variational-bayes generative-models

4

PCA와 자동 인코더의 차이점은 무엇입니까?

PCA와 오토 인코더는 모두 디멘션 감소를 수행 할 수 있으므로 차이점은 무엇입니까? 어떤 상황에서 나는 서로를 사용해야합니까?

56 machine-learning pca neural-networks autoencoders

4

스파 스 코딩과 자동 인코더의 차이점은 무엇입니까?

희소 코딩은 입력 벡터를 나타 내기 위해 과도하게 완료된 기본 벡터 세트를 학습하는 것으로 정의됩니다 (<-왜 우리가 이것을 원합니까?). 스파 스 코딩과 자동 인코더의 차이점은 무엇입니까? 스파 스 코딩 및 자동 인코더는 언제 사용합니까?

35 machine-learning neural-networks unsupervised-learning deep-learning autoencoders

3

심층 컨볼 루션 신경망에서 사전 훈련?

심층 컨볼 루션 신경망에서 사전 훈련에 관한 문헌을 본 사람이 있습니까? 오토 인코더 또는 제한된 boltzman 기계에서 감독되지 않은 사전 훈련 만 보았습니다.

33 machine-learning neural-networks deep-learning conv-neural-network autoencoders

3

PCA를 능가하기 위해 Tensorflow에서 자동 인코더 구축

신경망으로 데이터의 차원을 줄이는 데있어 Hinton과 Salakhutdinov는 과학 2006 은 딥 오토 인코더를 사용하여 비선형 PCA를 제안했습니다. Tensorflow를 사용하여 PCA 자동 인코더를 빌드하고 훈련하려고 시도했지만 선형 PCA보다 더 나은 결과를 얻을 수 없었습니다. 자동 인코더를 효율적으로 훈련시킬 수있는 방법은 무엇입니까? (@amoeba의 나중에 편집 :이 질문의 원래 버전에는 올바르게 작동하지 않는 …

31 pca python deep-learning tensorflow autoencoders

2

변형 자동 인코더에서 KLD 손실 대 재구성 손실을 가중시키는 방법

VAE에서 보았던 거의 모든 코드 예제에서 손실 함수는 다음과 같이 정의됩니다 (이것은 텐서 흐름 코드이지만 테 아노, 토치 등에서도 비슷합니다. 또한 convnet 용이지만 너무 관련이 없습니다. , 합계가 인수되는 축에만 영향을 미칩니다) : # latent space loss. KL divergence between latent space distribution and unit gaussian, for each batch. # …

26 machine-learning deep-learning tensorflow autoencoders variational-bayes

1

변형 자동 엔코더 란 무엇이며 어떤 학습 작업에 사용됩니까?

당 이 와 이 대답 autoencoders는 차원 감소를 위해 신경 네트워크를 사용하는 기술이 될 것으로 보인다. 또한 가변 자동 인코더 ( "기존"자동 인코더에 대한 주요 차이점 / 이점)와이 알고리즘이 사용되는 주요 학습 작업이 무엇인지 알고 싶습니다.

24 machine-learning bayesian deep-learning autoencoders variational-bayes

2

자동 인코더는 의미있는 기능을 배울 수 없습니다

이 두 가지와 같은 50,000 개의 이미지가 있습니다. 그들은 데이터 그래프를 묘사합니다. 이 이미지에서 기능을 추출하고 싶어서 Theano (deeplearning.net)에서 제공하는 자동 인코더 코드를 사용했습니다. 문제는 이러한 자동 인코더가 기능을 배우지 않는 것입니다. RBM을 시도했지만 동일합니다. MNIST 데이터 세트는 훌륭한 기능을 제공하지만 내 데이터가 전혀 생성되지 않는 것 같습니다. 아래 예제를 …

24 machine-learning neural-networks feature-construction rbm autoencoders

3

스택 형 컨볼 루션 오토 인코더의 아키텍처는 무엇입니까?

그래서 나는 convolutional net을 사용하여 인간의 이미지에 대해 사전 훈련을하려고합니다. 나는 논문 ( Paper1 및 Paper2 ) 과이 stackoverflow link를 읽었 지만 그물의 구조를 이해하고 있는지 잘 모르겠습니다 (논문에 잘 정의되어 있지 않습니다). 질문 : 입력과 노이즈 레이어, 컨볼 루션 레이어, 풀링 레이어를 차례로 가질 수 있는데, 출력을하기 전에 풀링을 …

23 neural-networks deep-learning autoencoders deep-belief-networks

1

자동 인코더에 대한 손실 기능

비트 자동 인코더를 실험하고 있으며 tensorflow를 사용하여 MNIST 데이터 세트를 재구성하는 모델을 만들었습니다. 내 네트워크는 매우 간단합니다. X, e1, e2, d1, Y. 여기서 e1과 e2는 인코딩 레이어이고 d2와 Y는 디코딩 레이어입니다 (Y는 재구성 된 출력). X는 784 개, e1은 100, e2는 50, d1은 다시 100, Y 784를 다시 갖습니다. 레이어 …

22 mse autoencoders tensorflow cross-entropy

4

자동 인코더와 달리 가변형 자동 인코더를 언제 사용해야합니까?

나는 가변 자동 인코더와 일반 (결정적) 자동 인코더의 기본 구조와 그 뒤에있는 수학을 이해하지만 언제 어떤 유형의 자동 인코더를 다른 유형보다 선호합니까? 내가 생각할 수있는 것은 가변 오토 인코더의 잠복 변수의 사전 분포가 잠복 변수를 샘플링 한 다음 새로운 이미지를 구성 할 수 있다는 것입니다. 결정적 오토 인코더에 비해 가변 …

19 deep-learning autoencoders variational-bayes

3

자동 인코더가 필요한 이유는 무엇입니까?

최근에는 자동 인코더를 연구하고 있습니다. 내가 올바르게 이해한다면, 자동 인코더는 입력 레이어가 출력 레이어와 동일한 신경망입니다. 따라서 신경망은 입력을 황금 표준으로 사용하여 출력을 예측하려고 시도합니다. 이 모델의 유용성은 무엇입니까? 일부 출력 요소를 재구성하여 입력 요소와 최대한 동일하게 만들면 어떤 이점이 있습니까? 왜이 기계를 모두 사용하여 같은 출발점에 도달해야합니까?

17 neural-networks autoencoders

1

머신 러닝 모델의 "용량"은 무엇입니까?

Carl Doersch의 Variational Autoencoders에 대한 이 자습서를 공부하고 있습니다. 두 번째 페이지에는 다음과 같이 표시됩니다. 가장 인기있는 프레임 워크 중 하나는이 자습서의 주제 인 Variational Autoencoder [1, 3]입니다. 이 모델의 가정은 약하고 역 전파를 통해 훈련이 빠릅니다. VAE는 근사값을 계산하지만이 근사값으로 인한 오차는 고용량 모델을 감안할 때 매우 작습니다 . …

15 machine-learning deep-learning autoencoders variational-bayes

1

스택 형 오토 인코더와 2 계층 신경망 훈련간에 차이가 있습니까?

2 레이어 스택 형 자동 인코더와 2 레이어 신경망을 구축하는 알고리즘을 작성한다고 가정 해 봅시다. 그것들이 같은 것입니까 아니면 차이점입니까? 내가 이해하는 것은 누적 된 자동 인코더를 빌드 할 때 레이어별로 빌드한다는 것입니다. 신경망의 경우, netowork의 모든 매개 변수를 초기화 한 다음 각 데이터 포인트에 대해 네트워크를 통해 전달하고 손실 …

14 neural-networks deep-learning autoencoders

«autoencoders» 태그된 질문