자동 학습기를지도 학습에 사용할 수 있습니까?


9

출력 레이어를 추가하지 않고도 자동 학습기를 감독 학습에 사용할 수 있습니까 ? 훈련을 위해 연결된 입력-출력 벡터를 단순히 공급하고 추론을 수행 할 때 입력 부분에서 출력 부분을 재구성 할 수 있습니까? 출력 부분은 추론 중에 결 측값으로 취급되며 일부 대치가 적용됩니다.


잘 모르겠습니다. 입 / 출력 벡터를 사용하여 학습하는 경우 네트워크에 피드를 제공하기 위해 추론하는 동안 출력 벡터도 필요합니다. 당신은 그것에 대해 무엇을 할 것입니까?
Didam I

아니요, 결 측값으로 취급되어 어떤 식 으로든 대치됩니다. 그러면 자동 인코더가이를 재구성하려고 시도합니다 (다중 반복이 필요할 수 있음). 문제는이 아이디어의 실현 가능성에 관한 것입니다. 명확히하기 위해 편집 할 것입니다.
rcpinto

답변:


2

내가 알고 구현 한 논문 중 하나는 Ladder Networks를 사용한 Semi-Supervised Learning 입니다. 여기에 모델에 대한 설명이 인용됩니다.

우리의 접근 방식은 Valpola (2015)를 따르며, 보조 작업이 모델의 모든 수준에서 표현의 노이즈를 제거하는 래더 네트워크를 제안했습니다. 모델 구조는 인코더에서 디코더로의 스킵 연결을 가진 자동 인코더이며 학습 작업은 자동 인코더의 노이즈 제거와 유사하지만 입력이 아닌 모든 레이어에 적용됩니다. 스킵 연결은 스킵 연결을 통해 디코더가 인코더에 의해 폐기 된 모든 세부 사항을 복구 할 수 있기 때문에 모델의 상위 계층에서 세부 사항을 나타내도록 압력을 완화합니다.

아키텍처에 대한 자세한 설명은 Yoshua Bengio 의 래더 네트워크 아키텍처 해체를 확인하십시오 .


1

나는 당신을 올바르게 이해한다면, 그런 시스템들에 관한 논문을 읽는 것을 기억하지만, 현재 타이틀을 기억할 수는 없습니다.

아이디어는 문자 기반 생성 RNN을 사용하여 "datadatadatadata | answer"와 같이 인코딩 된 시퀀스에서 학습 한 다음 "otherdatadata |"를 입력 할 때 학습하는 것이 었습니다. 그런 다음 어떤 종류의 예상 답변을 계속 생성합니다.

그러나 내가 기억하는 한, 그것은 감독 된 일을 할 데이터가 있다면 기존의 방법으로 더 나은 결과를 얻을 수 있기 때문에 깔끔한 예입니다.

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.