누락 된 데이터를 처리하기위한 기계 학습 알고리즘

실험실 값을 포함한 고차원 임상 데이터를 사용하여 예측 모델을 개발하려고합니다. 5k 샘플과 200 개의 변수로 데이터 공간이 희소합니다. 아이디어는 피처 선택 방법 (IG, RF 등)을 사용하여 변수의 순위를 매기고 예측 모델을 개발하기 위해 최상위 피처를 사용하는 것입니다.

Naïve Bayes 접근 방식으로 기능 선택이 잘 진행되는 동안 가변 공간에서 데이터 누락 (NA)으로 인해 예측 모델을 구현하는 데 문제가 있습니다. 누락 된 데이터가있는 샘플을 신중하게 처리 할 수있는 기계 학습 알고리즘이 있습니까?

사용하는 모델에 따라 다릅니다. 생성 모델을 사용하는 경우 결 측값 ()을 처리하는 원칙적인 방법이 있습니다. 예를 들어 Naive Bayes 또는 Gaussian Processes와 같은 모델에서는 결측 변수를 통합하고 나머지 변수에 가장 적합한 옵션을 선택합니다.

차별적 모델의 경우 불가능하므로 더 정교합니다. 여러 가지 접근 방식이 있습니다. Gharamani와 Jordan 은 결 측값을 숨겨진 변수로 취급하고 EM 알고리즘의 변형을 사용하여이를 추정하는 원칙적인 접근 방식을 설명합니다. 유사한 방식으로, Smola et al. 문제를 명시 적으로 해결하는 SVM 알고리즘의 변형을 설명합니다.

결 측값을 변수의 평균값으로 대체하는 것이 좋습니다. 첫 번째 논문에서 설명한 것처럼 문제가 있습니다. 때로는 결 측값을 추정하기 위해 변수에 대해 회귀 분석을 수행하는 논문을 보았지만 귀하의 사례에 해당되는지 여부를 말할 수는 없습니다.

Breiman의 임의 포리스트를 구현하는 R 패키지 randomForestSRC는 광범위한 분석 (회귀, 분류, 생존, 경쟁 위험, 감독되지 않은, 다변량)에 대한 누락 된 데이터를 처리합니다.

다음 게시물을 참조하십시오.

랜덤 포레스트가 예측 변수의 결 측값을 처리하지 않는 이유는 무엇입니까?

누락 된 데이터를 제거하려면 가장 가까운 이웃을 사용하여 대치를 시도하십시오.

또한 Caret 패키지에는 다양한 알고리즘에 대한 인터페이스가 있으며 모두 새로운 데이터를 예측하는 데 사용할 수있는 예측 방법이 R로 제공됩니다. 동일한 패키지를 사용하여 k- 폴드 교차 검증을 사용하여 성능 메트릭을 추정 할 수도 있습니다.

분류 및 회귀 트리와 같은 예측 모델을 작성할 때 결 측값을 고유하고 다른 값으로 사용할 수있는 알고리즘도 있습니다. xgboost와 같은

lightgbm은 상자에서 NaN을 처리 할 수 ​​있습니다 ( http://lightgbm.readthedocs.io/en/latest/ ).