컨볼 루션 신경망 교육


11

현재 컨볼 루션 신경망을 사용하여 얼굴을 인식하는 얼굴 인식 소프트웨어를 개발 중입니다. 나의 독서에 기초하여, 나는 컨볼 루션 신경망이 가중치를 공유하여 훈련하는 동안 시간을 ​​절약 할 수 있다는 것을 모았다. 그러나 어떻게 역 전파 (backpropagation)를 조정하여 컨볼 루션 신경망에서 사용될 수 있습니까? 역 전파에서, 이와 유사한 공식을 사용하여 가중치를 훈련시킵니다.

New Weight  = Old Weight +  LEARNING_RATE * 1 * Output Of InputNeuron * Delta

그러나 회선 신경 네트워크에서 가중치가 공유되므로 각 가중치는 여러 뉴런과 함께 사용되므로 어느 것을 사용할지 어떻게 결정 Output of InputNeuron합니까?

다시 말해, 가중치가 공유되므로 가중치를 얼마나 변경해야하는지 어떻게 결정합니까?

답변:


13

먼저 wieght가 공유되지 않은 것처럼 모든 업데이트를 계산해야하지만 저장 만하고 실제로 업데이트를 수행하지는 마십시오.

wkIk={(i,j):wi,j=wk}Δwi,j=ηJwi,jηJwi,j

wi,j=wi,j+Δwi,j.
Δwk=(i,j)IkΔwi,j
wk=wk+Δwk.

1
이것에 대한 언급이 있습니까? 더 읽을 거리
Jon
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.