저는 VC-Dimension의 이론에 대해 잘 알고 있지만 통계 학습 이론의 최근 (최근 10 년) 발전을보고 있습니다. 정리, 유사 치수, 지방 산란 치수, 포장 번호, Rademacher 구성 및 내가 모르는 기타 결과 / 도구.
웹 사이트, 설문 조사, 기사 모음 또는 무엇보다도 이러한 주제를 다루는 책이 있습니까?
또는 사람들이 축 정렬 사각형을 사용하여 VC 차원을 바인딩하는 방법을 보여주는 것과 같은 방식으로 간단한 클래스에 대해 Rademacher 평균을 바인딩하는 방법의 예를 찾고 있습니다.
미리 감사드립니다.
답변:
나는 당신이 분류 이론 : 최근 발전에 대한 설문 조사를 즐길 것이라고 믿습니다 .부 쉐론, 부 스케, 루고시. 특히, 그것은 Rademacher 복잡성을 통해 기본 일반화 이론을 구축하는 것으로 시작하고, 수축 도구와 같은 유용한 도구를 소개합니다. Ledoux & Talagrand의 확률 책은 무료가 아니며 표준 분류 방법에 적용됩니다 (부스팅 및 지원 벡터 머신은 인기로 인해 그리고 ERM을 통해 훈련되기 때문에 논의됩니다). 이 텍스트는 2005 년부터 작성되었으므로 Local Rademacher Complexities와 같이 언급 한 다른 최신 주제도 있으며 체인에 대한 작은 플러그 인도 있습니다. 마지막으로 원고는 짧지 만
언급 한 다른 주제 중 일부는 Devroye, Györfi 및 Lugosi의 "확률 적 패턴 인식 이론"에있을 정도로 오래되었습니다 (특히, 내가 아는 다른 텍스트보다 패킹에 대한 내용이 더 많습니다). 비록 당신이 언급 한 새로운 주제 중 일부는 없지만, 이것은 이론을 배우는 데 만난 모든 사람들이 선반에서 가지고 다니는 표준 책입니다. 어쩌면 책의 목차와 색인을 찾아서 살펴보십시오.
내가 언급 한 다른 주제 중 일부는 책에서 완전히 다루어지지 않았지만 많은 강의 노트에 나왔습니다. 예를 들어 UPenn의 Sham Kakade 페이지 로 이동하면 두 가지 학습 이론 과정 (하나는 TTI-C에서 Ambuj Tewari와 함께 제공됨)에 대한 링크가 있으며, 주제 링크는 논의한 내용 중 일부와 일치합니다. 내 답변이나 다른 곳에 나타나지 않았습니다. 다양한 학교에는 좋은 코스가 많이 있습니다. Avrim Blum은 그의 학습 이론 과정에 대한 훌륭하고 읽기 쉬운 노트를 가지고 있습니다.
그러나 이것들 중 일부는 아마도 너무 새롭고 소스 자료로 가야 할 것입니다. 그러나 당신이 정말로 기술을 습득하려고한다면, 나는 설문 조사를 시작하고 부부 학습 이론 수업에 대한 강의가 먼 길을 도울 것이라고 생각합니다.
또한 고급 텍스트를 찾고있는 것처럼 들리지만 사람들이 좋아하는 두 가지 소개 텍스트를 연결하고 싶습니다. 하나는 Kearns와 (U.) Vazirani의 "전산 학습 이론에 대한 소개"입니다. 잘 표현되고 직관력이 좋습니다. 개인적으로, 나는 위의 설문 조사와 같은 저자에 의해 통계 학습 이론 입문의 기초를 얻었습니다 (그러나 Bousquet, Boucheron, Lugosi? 그것은 좋은 설명을 가지고 있었고 일반화 이론이 실제로 나를 위해 클릭하기 시작한 것은 처음이었습니다.
이것은 최근에 가르친 과정이었습니다. http://www.cs.huji.ac.il/~shais/Handouts.pdf . 나는 그것을 자세히 읽지 않았지만 7 장에는 Rademacher Complexities에 대한 자료가 있습니다. 도움이 되길 바랍니다.
Cesa-Bianchi와 Lugosi 의 저서 에는 일반화 범위와 학습 이론의 현대적인 측면이 많이 있습니다.