VC 치수와 자유도의 관계

저는 머신 러닝을 공부하고 있는데 VC 차원의 개념과 더 고전적인 (통계적) 자유도 개념 사이에는 강한 관계가 있다고 생각합니다.

누구든지 그런 연결을 설명 할 수 있습니까?

Yaser Abu-Mostafa 교수

자유도는 유효 개수의 매개 변수를 추상화 한 것입니다. 유효 숫자는 사용되는 실제 값 매개 변수의 수보다는 얻을 수있는 이분법 수를 기반으로합니다 . 2 차원 퍼셉트론의 경우 기울기와 절편 (영역이 +1이되는 2 진 자유도)을 생각하거나 3 개의 매개 변수 w_0, w_1, w_2를 생각할 수 있습니다 (무게는 결과 가설에 영향을주지 않으면 서 동시에 확장 또는 축소). 그러나 자유도는 3입니다. 매개 변수 수를 세는 방식이 아니라 3 점을 산산조각내는 유연성이 있기 때문입니다.

VC 차원은 이 논문 에서 2.1 절과 그 이후의 기본 정리 및 증명과 함께 잘 설명되어있다 . 이것을 통해 갈 수 있습니다.