교차 유효성 검사를 통해 근거가없는 데이터 집합에서 서로 다른 클러스터링 방법을 비교할 수 있습니까?
답변:
내가 아는 클러스터링에 교차 유효성 검사를 적용하는 유일한 방법은 다음과 같습니다.
샘플을 4 개 부품 세트와 1 개 부품 세트로 나눕니다.
트레이닝 세트에 클러스터링 방법을 적용하십시오.
테스트 세트에도 적용하십시오.
2 단계의 결과를 사용하여 테스트 세트의 각 관측 값을 훈련 세트 클러스터 (예 : k- 평균에 가장 가까운 중심)에 할당합니다.
테스트 세트에서 단계 3의 각 군집에 대해 각 군집이 단계 4에 따라 동일한 군집에있는 군집의 관측 쌍 수를 계산합니다 (따라서 @cbeleites가 지적한 군집 식별 문제 방지). 각 군집의 쌍 수로 나누어 비율을 제공합니다. 모든 군집에서 가장 낮은 비율은이 방법이 새 표본에 대한 군집 구성원을 얼마나 잘 예측하는지 측정하는 것입니다.
교육 및 테스트 세트의 다른 부품으로 1 단계부터 반복하여 5 배로 만듭니다.
Tibshirani & Walther (2005), "예측 강도에 의한 클러스터 검증", 전산 및 그래픽 통계 저널 , 14 , 3.
새로운 데이터가 중심과 기존의 클러스터링 분포를 변경하기 때문에 k- 평균과 같은 클러스터링 방법에 교차 검증을 적용하는 방법을 이해하려고합니다.
클러스터링에 대한 감독되지 않은 유효성 검사와 관련하여 재 샘플링 된 데이터에서 다른 클러스터 번호로 알고리즘의 안정성을 수량화해야 할 수도 있습니다.
군집 안정성의 기본 개념은 아래 그림에 나와 있습니다.
군집 수가 2 또는 5 인 경우 적어도 두 개의 다른 군집 결과가 있지만 (그림의 분할 대 시선 참조) 군집 수가 4 인 경우 결과가 비교적 안정적임을 알 수 있습니다.
군집 안정성 : Ulrike von Luxburg의 개요 가 도움이 될 수 있습니다.
fold 교차 검증 동안 수행 된 것과 같은 리샘플링 은 몇 가지 사례를 제거하여 원래 데이터 세트와 다른 "새"데이터 세트를 생성합니다.
설명과 명확성을 위해 클러스터링을 부트 스트랩했습니다.
일반적으로 재 샘플링 된 클러스터링을 사용하여 솔루션의 안정성을 측정 할 수 있습니다. 전혀 변경되지 않거나 완전히 변경됩니까?
기본 정보는 없지만 동일한 방법 (리샘플링)을 다르게 실행하거나 다른 클러스터링 알고리즘의 결과를 표로 작성하여 클러스터링을 비교할 수 있습니다.
km1 <- kmeans (iris [, 1:4], 3)
km2 <- kmeans (iris [, 1:4], 3)
table (km1$cluster, km2$cluster)
# 1 2 3
# 1 96 0 0
# 2 0 0 33
# 3 0 21 0
군집이 공칭이므로 순서가 임의로 변경 될 수 있습니다. 그러나 이는 클러스터가 일치하도록 순서를 변경할 수 있음을 의미합니다. 그런 다음 대각선 * 요소가 동일한 군집에 지정된 사례를 계산하고 비대 각 요소는 배정이 변경된 방식을 보여줍니다.
table (km1$cluster, km2$cluster)[c (1, 3, 2), ]
# 1 2 3
# 1 96 0 0
# 3 0 21 0
# 2 0 0 33
각 방법 내에서 클러스터링이 얼마나 안정적인지 확인하기 위해 리샘플링이 좋습니다. 그렇지 않으면 결과를 다른 방법과 비교하는 것이 너무 의미가 없습니다.
* 군집 수가 다른 경우 비정 방 행렬에도 사용할 수 있습니다. 그런 다음 요소 가 이전 대각선의 의미를 갖도록 정렬 합니다. 그런 다음 여분의 행 / 열은 새 클러스터가 어떤 클러스터에서 케이스를 가져 왔는지 보여줍니다.
k- 폴드 교차 검증과 k- 평균 군집을 혼합하지 않습니까?