컨벌루션 신경망에서 선형 임베딩 레이어를 알아낼 수 없습니까?

"심층 순위와 함께 세분화 된 이미지 유사성 학습" 이라는 논문 의 네트워크 아키텍처 를 가지고 있으며 3 개의 병렬 네트워크의 출력이 선형 포함 레이어를 사용하여 어떻게 병합되는지 파악할 수 없습니다. 논문에서이 레이어에 제공된 유일한 정보는

마지막으로 세 부분에서 임베딩을 정규화하고 선형 임베딩 레이어와 결합합니다. 임베드의 차원은 4096입니다.

저자가이 계층에 대해 이야기 할 때 저자가 정확히 무엇을 의미하는지 알아내는 데 도움이 될 수 있습니까?

선형 임베딩 레이어는 활성화되지 않은 고밀도 레이어의 멋진 이름이어야합니다. '선형'은 활성화가 없음을 의미합니다 (활성화는 ID 임). 임베딩은 입력 데이터의 벡터 표현 (예 : 단어 임베딩)에 대한 개념입니다. 두 번째 벡터의 요소는 첫 번째 요소에 단순히 요소별로 추가된다고 생각합니다.

논문에 언급되어 있습니다.

로컬 노멀 라이즈 레이어는 로컬 노멀 주변의 피쳐 맵을 표준화하여 단위 노름과 평균이 0입니다. 조명과 대비의 차이에 강인한 특징 맵으로 이어집니다.

모델의 각 부분을 가져와 별도로 정규화합니다.

당신이 언급했듯이, 그것들을 결합하는 것은 비선형 성이 필요없는 완전한 표현이 아닌 가장 두드러진 특징을 포착합니다.