k- 평균 알고리즘의 사이클링


9

위키 에 따르면 가장 널리 사용되는 수렴 기준은 "보조가 변경되지 않았습니다"입니다. 이러한 수렴 기준을 사용하면 사이클링이 가능한지 궁금합니다. 누군가가 사이클링의 예를 제공하거나 이것이 불가능하다는 것을 입증하는 기사에 대한 참조를 지적하면 기뻐합니다.


2
거리 함수와 평균 함수가 동일한 기준을 최적화 할 수 있도록 수렴 증명에 (제곱 된) 유클리드 거리가 필요 하다는 것을 강조합니다 (이는 종종 간과 되었으므로 ) . 다른 거리를 사용하는 경우 (실제로 거리를 사용하지 말고 "최소 제곱합") k- 평균의 수렴을 잃을 수 있습니다.
종료-익명-무스

답변:


7

이 논문 은 유한 한 단계로 수렴을 증명하는 것으로 보인다.


1
정확히 내가 찾던 것!
Tomek Tarczynski

4

-means 목적 함수는 엄격 자동 재시동 융합을 의미 할당의 각 변경에 따라 감소한다. 더욱이, 평균 의 각 단계에서 생성 된 파티션 은 각 지점이 항상 가장 가까운 중심에 할당되므로 "Voronoi 속성"을 만족시킵니다. 이는 가능한 파티션의 총 수에 대한 상한을 의미하며 평균 의 종료 시간에 유한 한 상한을 생성합니다 .kkk


고맙게도, 목적 함수가 감소한다는 것은 직관적이지만, 엄격하게 감소한다고 확신하지 못했습니다. 선형 프로그래밍에서와 같이 패 터너 티브 사례가 없는지 확인하고 싶었습니다
Tomek Tarczynski

예, 아니오 수렴하는 동안 심플 렉스와 마찬가지로 지수 시간이 걸릴 수 있습니다. 또한, 두 문제 모두에서, "부드러운"변형이 다항식 시간에 수렴한다는 것을 알 수 있습니다
Suresh Venkatasubramanian

2

에서 유한 정밀도 , 자전거가 나타날 수 있습니다.

사이클링은 단 정밀도에서는 빈번하고 배정 밀도는 예외입니다.

극소값에 근접하면 반올림 오차로 인해 목적 함수가 약간 증가 할 수 있습니다. 알고리즘 기능이 다시 감소하고 결국 로컬 최소값에 도달 할 때 이는 종종 무해합니다. 그러나 때때로 알고리즘이 이전에 방문한 과제를 수행하고 사이클을 시작합니다.

실제 정지 기준 구현에서 사이클을 감시하는 것이 쉽고 안전합니다.

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.