최근에는 두 기사를 읽었습니다. 첫 번째 는 상관의 역사에 관한 것이고 두 번째는 는 는 MIC (Maximal Information Coefficient)라는 새로운 방법에 관한 것입니다. 변수 간의 비선형 상관 관계를 추정하기 위해 MIC 방법을 이해하는 데 도움이 필요합니다.

또한 R에서의 사용 지침은 작성자 웹 사이트 ( Downloads 아래 ) 에서 찾을 수 있습니다 .

이것이이 방법을 논의하고 이해하기에 좋은 플랫폼이되기를 바랍니다. 이 방법의 직관과 저자가 말한대로 확장 할 수있는 방법에 대해 토론하고 싶습니다.

" ... 우리는 MIC (X, Y)를 MIC (X, Y | Z)로 확장해야합니다. MIC를 안정적으로 추정하기 위해 얼마나 많은 데이터가 필요한지, 이상치에 얼마나 민감한 지, 어떤 것이 3 개인 지 알아야합니다. -또는 더 높은 차원의 관계는 놓칠 것입니다. MIC는 큰 발전이지만 더 많은 조치가 필요합니다. "

통계적 동료 검토가 확실치 않은 비 통계 저널에이 내용이 게시되었다고 말하지 않습니까? 이 문제는 비닝이나 여러 단계가 필요없는 간단한 알고리즘을 개발 한 1948 년 (수학 통계 19 : 546) Hoeffding에 의해 해결되었습니다. Hoeffding의 연구는 과학 기사에서도 언급되지 않았습니다. 이것은 수년간 패키지 의 R hoeffd기능에 Hmisc있었습니다. 다음은 예제입니다 ( example(hoeffd)R 유형 ).

# Hoeffding's test can detect even one-to-many dependency
set.seed(1)
x <- seq(-10,10,length=200)
y <- x*sign(runif(200,-1,1))
plot(x,y)  # an X
hoeffd(x,y)  # also accepts a numeric matrix

D
     x    y
x 1.00 0.06
y 0.06 1.00

n= 200 

P
  x  y 
x     0   # P-value is very small
y  0   

hoeffdHoeffding 방법의 상당히 효율적인 포트란 구현을 사용합니다. 그의 테스트의 기본 아이디어는 X와 Y의 조인트 랭크와 X의 한계 랭크와 Y의 한계 랭크의 곱 사이의 차이를 적절히 스케일링하는 것입니다.

최신 정보

$D$

Hmisc$D$$|F(x,y) - G(x)H(y)|$$D$

MIC 방법은 상호 정보 (MI)를 기반으로하며 , X와 Y의 공동 분포와 X와 Y가 독립적 인 경우의 공동 분포는 어떤 관계가 있는지를 정량화합니다 (예 : Wikipedia 항목 참조 ). 수학적으로 MI는 다음과 같이 정의됩니다.

저자의 주요 아이디어 는 데이터를 여러 다른 2 차원 격자로 이산화시키고 각 격자에서 두 변수의 상호 정보를 나타내는 정규화 된 점수를 계산하는 것입니다. 점수는 서로 다른 그리드 간의 공정한 비교를 보장하기 위해 정규화되며 0 (비 상관)과 1 (높은 상관) 사이에서 변합니다.

MIC는 획득 한 최고 점수로 정의되며 두 변수가 얼마나 강한 상관 관계가 있는지를 나타냅니다. 실제로, 저자 는 무소음 기능 관계의 경우 MIC 값이 결정 계수와 비슷하다고 주장 합니다 ($R^2$).

좀 더 명확 특히 MIC의 아이디어를 설명하는 두 개의 좋은 기사를 발견 이 하나; 여기 두 번째 입니다.

이 읽기에서 알 수 있듯이 그리드의 다른 조합을 탐색하여 두 변수 사이의 다른 복잡성과 관계의 규모를 확대 할 수 있습니다. 이 그리드는 2 차원 공간을 셀로 분할하는 데 사용됩니다. 셀이 MIC를 선택하는 공간을 분할하는 방법에 대한 대부분의 정보를 보유하는 그리드를 선택합니다.

"mblot-all-scatterplots-and-peak-those-withs-biggest-white-area"와 O (M2)의 비현실적인 복잡성을 확장 할 수 있는지 @mbq에게 물어보고 싶습니다.