자동 인코더가 필요한 이유는 무엇입니까?


17

최근에는 자동 인코더를 연구하고 있습니다. 내가 올바르게 이해한다면, 자동 인코더는 입력 레이어가 출력 레이어와 동일한 신경망입니다. 따라서 신경망은 입력을 황금 표준으로 사용하여 출력을 예측하려고 시도합니다.

이 모델의 유용성은 무엇입니까? 일부 출력 요소를 재구성하여 입력 요소와 최대한 동일하게 만들면 어떤 이점이 있습니까? 왜이 기계를 모두 사용하여 같은 출발점에 도달해야합니까?

답변:


17

자동 인코더에는 입력 레이어, 숨겨진 레이어 및 출력 레이어가 있습니다. 입력은 출력과 동일해야하므로 우리가 관심을 갖는 숨겨진 레이어입니다.

숨겨진 레이어는 일종의 입력 인코딩 을 형성합니다 . "자동 인코더의 목표는 일련의 데이터에 대한 압축 된 분산 표현 (인코딩)을 배우는 것입니다." 입력이 100 차원 벡터이고 숨겨진 레이어에 60 개의 뉴런이있는 경우 자동 인코더 알고리즘은 입력을 인코딩하는 60 차원 벡터를 제공하는 과정에서 출력 레이어에 100 차원 벡터로 입력을 복제합니다. .

따라서 자동 엔코더의 목적은 다른 많은 것들 중에서도 차원 축소 입니다.


감사합니다 @ Madhulika, 아마도 이해했을 것입니다. 이 알고리즘은 다음과 같이 작동합니다. 입력 레이어가 있고 입력 레이어와 동일한 출력 레이어를 갖도록 신경망을 훈련시킵니다. 입력 레이어와 출력 레이어를 비교하는 것보다 다르며, 다른 경우 신경망을 계속 재교육합니다. 동일하면 중지합니다. 완료되면 마지막 숨겨진 레이어를 입력 레이어의 최고의 차원 축소 근사치로 사용하여 필요한 목표에 사용합니다. 이 올바른지?
larry

그래, 거의 맞아 :) 그것에 대한 추가 문헌을 읽으십시오.
Madhulika Mukherjee

5

또한 모집단을 모델링하여 새 벡터를 입력 할 때 입력의 출력이 얼마나 다른지 확인할 수 있습니다. 그것들이 "quite"이라면 입력이 모집단과 일치한다고 가정 할 수 있습니다. "quite"가 다르면 입력이 모델링 한 모집단에 속하지 않을 수 있습니다.

데이터를 설명하는 함수를 사용하려고하는 일종의 "신경망에 의한 회귀"라고 생각합니다. 출력은 입력과 같습니다.


3

어쩌면이 사진들은 당신에게 직관력을 줄 것입니다. 위의 설명자가 말했듯이 자동 인코더는 교육 예제에서 일부 고급 기능을 추출하려고합니다. 두 번째 그림에서 딥 NN에 대해 각각의 숨겨진 레벨을 개별적으로 훈련시키기 위해 예후 알고리즘이 어떻게 사용되는지 알 수 있습니다.

여기에 이미지 설명을 입력하십시오

여기에 이미지 설명을 입력하십시오

러시아 위키 백과에서 찍은 사진입니다.


2
사진에 대한 의견이 도움이 될 것입니다.
Tim
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.