신경망이 이미지 인식을 수행하는 상황에서 "순열 불변"은 무엇을 의미합니까?


답변:


17

이 맥락에서 이것은 모델이 피처 간의 공간 관계를 가정하지 않는다는 사실을 나타냅니다. 예를 들어 다층 퍼셉트론의 경우 픽셀을 퍼 뮤트 할 수 있으며 성능은 동일합니다. 이웃 관계를 가정하는 컨볼 루션 네트워크의 경우에는 해당되지 않습니다.


1
예, 그것은 혼란스러운 부분입니다. 숫자를 분류 할 때 공간적 관계가 있어야합니까?
RockTheStar

1
MNIST는 신경망에서 벤치 마크 (또는 온 전성 검사)로 널리 사용됩니다. 변이 불변 MNIST에서 순열에 대해 1 % 미만의 오차가 발생할 수 있다면 문제가있는 것입니다.
bayerj

1
예, 숫자로 공간적인 관계가 없습니까? 숫자 픽셀을 바꾸면 픽셀 순서가 변경되어 본질적으로 성능에 영향을 미칩니다!
RockTheStar

1
모델이 그렇게 가정하는 경우에만. mlps는 그렇지 않습니다. 이것이 mnist에서 convnet을 mlp와 비교하는 것이 다소 불공평 한 이유입니다.
bayerj

1
내가 참조! 따라서 mnist 데이터 세트에서 mlps가 더 나은 성능을 보입니까?
RockTheStar

6

fx=(x1,,xn)fxn=3

f((x1,x2,x3))=f((x2,x1,x3))=f((x3,x1,x2))

1
기계 학습에서 학습 알고리즘 은 종종 순열이 변하지 않지만 반환되는 함수는 그렇지 않기 때문에이 대답은 약간 오도 합니다.
bayerj

@ bayerj : 흥미로운 정보이지만 , 그것이 내가 잘못 정의한 정의를 만드는 것을 볼 수는 없습니다 . 정확한 정의이지만이 맥락에서 완전한 대답은 아닙니다.
kjetil b halvorsen

당신 말이 맞습니다. 정의가 정확합니다. 그러나 당신이 그것을 기록하는 방식에는 적용되지 않습니다. OP가 요구 한 순열 불변량 MNIST와 관련하여 기록한 형식의 기능은 발생하지 않습니다.
bayerj
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.