가장 먼저 분류 할 상위 5 개 분류기

명백한 분류기 특성 외에도

• 계산 비용,
• 기능 / 라벨의 예상 데이터 유형
• 데이터 세트의 특정 크기 및 차원에 대한 적합성

아직 잘 모르는 새로운 데이터 세트에 대해 먼저 시도해야하는 상위 5 개 (또는 10, 20?) 분류기는 무엇입니까 (예 : 의미 및 개별 기능의 상관 관계)? 일반적으로 Naive Bayes, Nearest Neighbor, Decision Tree 및 SVM을 시도합니다.하지만이 선택에 대한 이유는 없지만 그것들을 알고 그 작동 방식을 대부분 이해합니다.

가장 중요한 일반 분류 방법 을 다루는 분류기를 선택해야한다고 생각합니다 . 해당 기준에 따라 또는 다른 이유로 어떤 것을 선택 하시겠습니까?

업데이트 : 이 질문에 대한 대체 공식은 다음과 같습니다. "분류에 대한 일반적인 접근 방법은 무엇이며 어떤 방법이 가장 중요 / 인기 / 유망한 방법을 다루고 있습니까?"

랜덤 포레스트

빠르고 강건하며 우수한 정확도, 대부분의 경우 튜닝 할 필요가 없으며 정규화가 필요 없으며 공선성에 면역성이 없으며 훈련의 부작용으로 사소한 병렬로 눈에 깜빡이는 예측으로 상당히 우수한 오차 근사와 유용한 중요도 순위를 생성합니다.

단점 : kNN 또는 NB와 같은 사소한 방법보다 속도가 느리며 동등한 클래스에서 가장 잘 작동하며 커널 트릭을 필사적으로 요구하는 문제에 대해 SVM보다 정확도가 떨어지며 하드 블랙 박스이며 커피를 만들지 않습니다.

가우시안 프로세스 분류기 (Laplace 근사법을 사용하지 않음), 바람직하게는 하이퍼 파라미터의 최적화보다는 주변 화가 있습니다. 왜?

1. 그들은 확률 적 분류를하기 때문에
2. 벡터가 아닌 데이터를 직접 조작하거나 전문 지식을 통합 할 수있는 커널 기능을 사용할 수 있습니다
3. 모델을 올바르게 피팅 할 때의 불확실성을 처리하며 의사 결정 프로세스를 통해 불확실성을 전파 할 수 있습니다.
4. 일반적으로 매우 우수한 예측 성능.

단점

1. 느린
2. 많은 메모리가 필요합니다
3. 대규모 문제에는 실용적이지 않습니다.

첫 번째 선택은 정규화 된 로지스틱 회귀 또는 능선 회귀입니다. [기능 선택없이]-대부분의 문제에서 매우 간단한 알고리즘은 다소 잘 작동하고 잘못하기가 더 어렵습니다 (실제로 알고리즘 간의 성능 차이는 성능 차이보다 작습니다) 운전자를 운전하는 것).

새로운 데이터 세트에 접근 할 때는 모든 문제를 감시해야합니다. 우선 범주 형 특징에 대한 분포와 각 연속적인 특징에 대한 평균 및 표준 편차를 얻습니다. 그때:

• X % 이상의 결 측값이있는 피쳐를 삭제합니다.
• 특정 값이 상대 빈도의 90-95 % 이상이되면 범주 형 피쳐를 삭제합니다.
• CV = std / mean <0.1;로 연속 피처 삭제
• 매개 변수 순위를 얻습니다 (예 : 연속 분석에 대한 분산 분석 및 범주에 대한 카이 제곱 분석).
• 기능의 중요한 부분 집합을 확보하십시오.

그런 다음 일반적으로 분류 기술을 흰색 상자와 블랙 박스 기술의 두 세트로 나눕니다. '분류 기가 작동하는 방식'을 알아야하는 경우 의사 결정 트리 또는 규칙 기반 분류기와 같은 첫 번째 세트에서 선택해야합니다.

모델을 구축하지 않고 새 레코드를 분류해야하는 경우 KNN과 같이 열성적인 학습자를 살펴 봐야합니다.

그 후 정확성과 속도 사이에 임계 값을 두는 것이 낫다고 생각합니다. 신경망은 SVM보다 약간 느립니다.

이것이 나의 상위 5 가지 분류 기술입니다.

1. 의사 결정 트리;
2. 규칙 기반 분류 자;
3. SMO (SVM);
4. 나이브 베이 즈;
5. 신경망.