랜덤 포레스트 모델로부터의 예측을 설명하는 방법이 있습니까?

임의 포리스트 (R의 randomForest 패키지 사용)를 기반으로 예측 분류 모델이 있다고 가정합니다. 최종 사용자가 예측을 생성 할 항목을 지정할 수 있도록 설정하고 분류 가능성을 출력하려고합니다. 지금까지 아무런 문제가 없습니다.

그러나 변수 중요도 그래프와 같은 것을 출력 할 수 있지만 훈련 세트가 아닌 특정 항목에 대해 예측할 수 있으면 유용하고 멋집니다. 다음과 같은 것 :

항목 X는 개일 것으로 예상됩니다 (73 % 가능성)
:
다리 = 4
호흡 = 나쁜
털 = 짧은
음식 = 불쾌한

당신은 요점을 얻습니다. 훈련 된 임의의 포리스트에서이 정보를 추출하는 표준 또는 적어도 정당화 가능한 방법이 있습니까? 그렇다면 randomForest 패키지 에서이 작업을 수행하는 코드가 있습니까?

첫 번째 아이디어는 변수 중요도에서 녹아웃 전략을 모방하고 각 속성을 혼합하여 객체 분류 (OOB 및 일부 반복)에서 포리스트 신뢰를 어떻게 저하시키는 지 테스트하는 것입니다. 이를 위해서는 약간의 코딩이 필요하지만 확실히 달성 할 수 있습니다.

그러나 나는 그것이 나쁜 생각이라고 생각합니다. 결과는 아마도 지옥 (객체에 대한 평균의 영향을 안정화시키지 않고), 시끄러운 (그렇지 않은 객체의 경우 말도 안되는 속성이 큰 영향을 줄 수 있음)과 같이 변할 것입니다. 해석 (두 개 이상의 속성 협력 규칙이 각 기여 속성에 임의의 영향을 줄 수 있음).

부정적인 대답을 남기지 않기 위해 근접 매트릭스와 그것이 공개 할 수있는 가능한 원형을 보려고합니다. 훨씬 안정적이고 간단 해 보입니다.

나는 라임 프레임 워크로 시도 할 것 입니다.

많은 모델 (임의의 포리스트 포함)에서 작동합니다. 그것은 사용할 수 있습니다 지방 해석 (하나의 예측을 설명입니다,) 또는 대한 글로벌 해석 (전체 모델을 설명한다).

asbtract에서 인용

이 연구에서는 예측 주위의 해석 가능한 모델을 학습함으로써 해석자 및 충실한 방식으로 분류 자의 예측을 설명하는 새로운 설명 기법 인 LIME을 제안합니다. 또한 대표 개별 예측과 설명을 비 중복 방식으로 제시하여 과제를 하위 모듈 식 최적화 문제로 구성함으로써 모델을 설명하는 방법을 제안합니다.

R 및 python 용 패키지가 있으며 Google의 경우 많은 예제가 있습니다.