«svm» 태그된 질문

SVM을 사용하여 메시지를 다른 범주로 분류하려고합니다. 훈련 세트에서 원하는 단어 / 기호 목록을 작성했습니다. 메시지를 나타내는 각 벡터에 1대해 단어가 존재하면 해당 행을 설정합니다 . "corpus"는 다음과 같습니다. [mary, little, lamb, star, twinkle] 첫 번째 메시지 : "메리에게 작은 양이있었습니다"-> [1 1 0 0] 두 번째 메시지 : "twinkle little …

12 classification  svm  sparse 

나는 두 가지 일반적인 / 더 이론적 인 질문이 있습니다. 1) 예측 모델을 작성할 때 SVM이 변수 상호 작용을 처리하는 방법이 궁금합니다. 예를 들어, f1과 f2의 두 가지 기능이 있고 목표가 f1, f2에 의존하고 f1 * f2 (또는 일부 함수 h (f1, f2))라고 말하면 SVM이 적합합니까 (OOS뿐만 아니라 훈련 데이터에도) …

12 machine-learning  predictive-models  svm  interaction 

한 그룹이 다른 그룹보다 더 많은 훈련 데이터를 사용하여 SVM을 구축하려고합니다. 그러나 그룹은 최종 테스트 데이터에서 동일하게 표시됩니다. 따라서 R 패키지 인터페이스 의 class.weights매개 변수 를 사용 하여 훈련 데이터에서 두 그룹의 영향을 균형있게 조정 하고 싶습니다 .e1071libsvm 이 가중치를 정확히 어떻게 지정해야하는지 잘 모르기 때문에 약간의 테스트를 설정했습니다. 일부 …

12 r  machine-learning  svm 

분류를위한 SVM은 직관적입니다. 최소화 하면 최대 마진 이 어떻게 산출 되는지 이해합니다 . 그러나 회귀의 맥락에서 그 목표를 이해하지 못합니다. 다양한 텍스트 ( 여기 및 여기 )는 이것을 "평평함"을 최대화하는 것으로 설명합니다. 왜 그렇게하고 싶습니까? 회귀에서 "여백"의 개념과 동등한 것은 무엇입니까?||θ||2||θ||2||\theta||^2 여기 몇 가지 시도 된 답변이 있지만 실제로 내 …

12 regression  svm 

기계 학습 (회귀 문제의 경우)에서 나는 종종 평균 제곱 오차 (MSE) 또는 평균 절대 오차 (MAE)가 최소화하기 위해 오류 함수로 사용됩니다 (정규화 항). 상관 계수를 사용하는 것이 더 적합한 상황이 있는지 궁금합니다. 이러한 상황이 존재하면 다음을 수행하십시오. 어떤 상황에서 상관 계수가 MSE / MAE에 비해 더 나은 지표입니까? 이러한 상황에서 …

12 regression  machine-learning  svm  optimization  deep-learning 

이 질문에서- 구조적 / 계층 적 / 다단계 예측 변수를 고려한 의사 결정 트리를 구성하는 방법이 있습니까? -그들은 나무에 대한 패널 데이터 방법을 언급합니다. Vector Machines 및 Neural Networks를 지원하기위한 특정 패널 데이터 방법이 있습니까? 그렇다면 알고리즘 및 구현 가능한 경우 R 패키지에 대한 몇 가지 논문을 인용 할 수 …

12 r  machine-learning  svm  panel-data  cart 

나는 12 가지 양성 훈련 세트 (12 가지의 다른 작용 기전으로 약물로 치료 된 암세포)를 가지고 있습니다. 이러한 긍정적 인 훈련 세트 각각에 대해, 실험에서 샘플링 된 동일한 크기의 음수 세트와 구별되도록 서포트 벡터 머신을 훈련시키고 싶습니다. 각 세트는 1000에서 6000 사이의 셀을 가지며 각 셀에는 476 개의 피처 (이미지 …

12 svm 

선형 지원 벡터 머신 을 훈련시키는 프로세스를 이해하려고 합니다 . SMV의 속성을 통해 2 차 프로그래밍 솔버를 사용하는 것보다 훨씬 빠르게 최적화 할 수 있지만 학습을 위해 이것이 어떻게 작동하는지 알고 싶습니다. 훈련 데이터 set.seed(2015) df <- data.frame(X1=c(rnorm(5), rnorm(5)+5), X2=c(rnorm(5), rnorm(5)+3), Y=c(rep(1,5), rep(-1, 5))) df X1 X2 Y 1 -1.5454484 …

12 r  svm  optimization 

내 이해에서 CNN은 두 부분으로 구성됩니다. 특징 추출을 수행하는 첫 번째 부분 (conv / pool layer)과 특징으로부터 분류를 수행하는 두 번째 부분 (fc layer). 완전히 연결된 신경망은 최고의 분류기 (예 : 대부분 SVM 및 RF에 의해 성능이 뛰어남)가 아니기 때문에 왜 CNN이 SVM 또는 RF가 아니라 FC 레이어로 결론을 내립니까?

11 neural-networks  svm  random-forest  conv-neural-network 

Support Vector Machines의 일반화 능력에 대한 이론적 결과에 관심이 있습니다. 예를 들어 분류 오류 확률 및 이러한 시스템의 Vapnik-Chervonenkis (VC) 치수 등이 있습니다. 그러나 문헌을 통해 읽은 결과, 유사한 반복 결과가 특히 주어진 범위를 유지하는 데 필요한 기술적 조건과 관련하여 저자마다 약간 씩 다른 경향이 있다는 인상을 받았습니다. 내가 SVM …

11 machine-learning  svm  vc-dimension 

SVM 및 SVR에 대한 기본 사항을 알고 있지만 여전히 여백을 최대화하는 하이퍼 플레인을 찾는 문제가 SVR에 어떻게 부합하는지 알 수 없습니다. 둘째, SVR에서 허용 오차로 사용 된 에 대한 내용을 읽었습니다 . 무슨 뜻이에요?ϵϵ\epsilon 셋째, SVM과 SVR에 사용 된 의사 결정 기능 매개 변수간에 차이가 있습니까?

11 regression  machine-learning  svm 

SVM의 최적 초평면은 다음과 같이 정의됩니다. w ⋅ x + b = 0 ,w⋅x+b=0,\mathbf w \cdot \mathbf x+b=0, 여기서 는 임계 값을 나타냅니다. 입력 공간을 일부 공간 매핑하는 매핑 가 있는 경우 공간 에서 SVM을 정의 할 수 있습니다.ϕ Z Z비bbϕϕ\mathbf \phi지ZZ지ZZ w ⋅ ϕ ( x ) + b …

11 svm  threshold 

Adaboost 는 일련의 약한 분류기의 선형 조합을 사용하여 강력한 분류기를 생성하려고 시도 한다는 것을 알고 있습니다. 그러나 특정 조건 및 사례 에서 Adaboost와 SVM이 (SVM이 강력한 분류기 임에도 불구하고) 조화롭게 작동한다고 제안하는 논문을 읽었습니다 . 건축 및 프로그래밍 관점에서 그것들이 어떻게 작동하는지 파악할 수 없습니다. 나는 그들이 함께 어떻게 작동하는지 …

11 classification  svm  references  boosting 

SVM, 임의 포리스트 또는 다른 분류기를 말하는 분류기를 훈련시키고 싶습니다. 데이터 세트의 기능 중 하나는 1000 수준의 범주 형 변수입니다. 이 변수의 레벨 수를 줄이는 가장 좋은 방법은 무엇입니까? R에는 드문 수준을 결합 combine.levels()하는 Hmisc 패키지 에서 호출되는 기능이 있지만 다른 제안을 찾고있었습니다.

11 classification  svm  random-forest  many-categories 

SVM에 대한 나의 이해는 로지스틱 회귀 (LR)와 매우 유사하다는 것입니다. 즉, 가중 된 기능의 합이 시그 모이 드 함수에 전달되어 클래스에 속할 확률을 얻지 만 교차 엔트로피 (물리적) 손실 대신 기능, 훈련은 힌지 손실을 사용하여 수행됩니다. 힌지 손실을 사용하면 얻을 수있는 이점은 커널을보다 효율적으로 만들기 위해 다양한 수치 트릭을 수행 …

11 machine-learning  logistic  svm