기계 학습과보다 복잡한 형태의 복잡성 이론을 결합한 작업이 있습니까?

머신 러닝 / 데이터 마이닝 전문가는 P와 NP에 익숙하지만 좀 더 미묘한 복잡성 클래스 (예 : NC, BPP 또는 IP)와 데이터를 효과적으로 분석하는 데 미치는 영향에 대해서는 거의 이야기하지 않는 것 같습니다. 이 작업에 대한 설문 조사가 있습니까?

cc.complexity-theory reference-request machine-learning

— 마이크 이즈 비키
소스

내가 알고 있지만,이 게시물에서 "양자 학습"(# 5)이 포인터를 확인하는 것이 더 조사하지 : blog.computationalcomplexity.org/2012/10/quantum-workshop.html

— 수레 쉬 벤 카트

머신 러닝은 "글로벌"최적화의 경우 NP 외부에서 발생하지만 "로컬"최적화의 경우보다 NP 이하에서 발생하는 매우 어려운 문제를 정기적으로 공격합니다. 복잡성 클래스의 전체 개념은 응용 프로그램에 따른 품질 측정에 의해 더 많이 측정되는 "충분한"결과에 대해 최적화 할 때 알고리즘이

— 흐려집니다

@vzn 저에게 그 미묘함은 복잡성에주의를 기울여야 할 더 많은 이유처럼 보입니다! 매우 흥미로운 통찰력을 제공 할 수 있습니다.

— Mike Izbicki

학습 이론, 회로 복잡성, 암호화 사이에는 확실히 관련이 있습니다. 그러나 이것은 머신 러닝 실습에서 약간 제거 된 학습 이론의 코너입니다. 당신이 관심이 있다면, 나는 몇 가지 포인터를 생각해 낼 수 있습니다

— Sasho Nikolov

예, 또 다른 예에서, BDD (이진 결정 다이어그램)는 데이터베이스 알고리즘 / 데이터 마이닝에 사용되었으며 회로 복잡성과 밀접한 관련이 있습니다. 그러나 많은 기계 학습이 실용적이며 적용 ML의 복잡성이 이론적으로 예측하거나 엄격하게 분류하려고 시도하지 않고 알고리즘의 실제 구현 을 분석하여 간접적으로 / 임시적으로 연구하기 때문에 전체 질문은 약간 까다로운 전제 일 수 있습니다.

— vzn

응용 머신 러닝과 TCS / 복잡성 이론의 두 분야 간에는 접근 방식의 고유 한 차이점이나 비 유사성이 있습니다.

다음은 프린스턴의 전산 다루기 힘든 센터 주제에 관한 최근의 워크샵입니다.

설명 : 머신 러닝의 많은 현재 접근 방식은 휴리스틱입니다. 성능이나 실행 시간에 대한 좋은 한계를 입증 할 수는 없습니다. 이 작은 워크숍은 성능을 엄격하게 분석 할 수있는 알고리즘 및 접근 방식을 설계하는 프로젝트에 중점을 둘 것입니다. 목표는 가능한 범위가 이미 존재하는 설정을 넘어 보는 것입니다.

워크숍 : 기계 학습의 입증 된 한계 — 2012 년 8 월 1-2 일

TCS에서 "학습"에 대한 주요 연구 분야는 때때로 "머신 러닝"이라고도 불명확하게 PAC 이론 이라고 할 수 있습니다. 1980 년대 초에는 "머신 러닝"에 대한 훨씬 더 현대적인 연구가 시작되었습니다. 위키 백과는 그것을 현장 계산 학습 이론 의 일부라고 부릅니다 . PAC는 종종 분포 등의 통계 샘플이 제공된 부울 공식 학습의 결과와 다양한 알고리즘 또는 제한된 샘플이 주어지면 학습의 달성 가능한 정확도에 관한 것입니다. 복잡한 클래스와 연계하여 엄격한 이론적 방법으로 연구됩니다. 그러나 머신 러닝 에 대한 적용된 연구 및 위키 백과 페이지는 그것을 나열하지도 않습니다.

Kearns 의 기계 학습 박사 논문 의 전산 복잡성
Xing slides on (PAC) 기계 학습

— vzn
소스

"wikipedia calls"... 주제에 대해 실제로 아는 것이 있습니까? 1) 기계 학습에 대한 위키에는 계산 학습 이론 페이지와 연결되는 이론 섹션이 있습니다. 2) Vapant, Vapnik, Schapire의 학습 이론은 무엇보다도 기계 학습에 큰 영향을 미쳤습니다.

— Sasho Nikolov