«kernel-trick» 태그된 질문

많은 머신 러닝 분류기 (예 : 벡터 머신 지원)를 사용하면 커널을 지정할 수 있습니다. 커널이 무엇인지 설명하는 직관적 인 방법은 무엇입니까? 내가 생각한 한 가지 측면은 선형 커널과 비선형 커널의 구별입니다. 간단히 말해서 '선형 결정 함수', '비선형 결정 함수'에 대해 말할 수 있습니다. 그러나 커널을 '결정 함수'라고 부르는 것이 좋은 …

96 machine-learning  svm  references  kernel-trick  intuition 

SVM을 사용할 때는 커널을 선택해야합니다. 커널을 선택하는 방법이 궁금합니다. 커널 선택에 대한 기준이 있습니까?

95 machine-learning  svm  kernel-trick 

관심있는 결과가 이분법 인 LASSO Regressionglmnet 과 함께 사용하기 시작했습니다 . 아래에 작은 모의 데이터 프레임을 만들었습니다. age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- c(0.86, 0.45, 0.99, 0.84, 0.85, 0.67, 0.91, 0.29, 0.88) …

77 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 

몇 가지 구별되는 사용법이 있습니다. 커널 밀도 추정 커널 트릭 커널 스무딩 그들 안에있는 "커널"의 의미는 평범한 영어로 자신의 말로 설명하십시오.

73 kernel-trick  kernel-smoothing 

가우시안 및 다항식 커널로 커널 PCA ( 1 , 2 , 3 ) 에 대해 읽었습니다 . 가우시안 커널은 겉보기에 비선형 데이터를 어떻게 잘 분리합니까? 가능한 경우 수학적으로 관련된 분석뿐만 아니라 직관적 인 분석을 제공하십시오. 다른 커널에는없는 가우스 커널 (이상적인 σσ\sigma ) 의 속성은 무엇입니까 ? 신경망, SVM 및 RBF …

67 machine-learning  pca  svm  kernel-trick 

서포트 벡터 머신을 사용할 때 RBF와 같은 선형 커널과 비선형 커널을 선택하는 지침이 있습니까? 비선형 커널이 기능 수가 많으면 성능이 좋지 않은 경향이 있다고 들었습니다. 이 문제에 대한 언급이 있습니까?

45 machine-learning  classification  svm  references  kernel-trick 

가우스 커널이있는 SVM에 치수 특성 공간이 무한하다는 사실의 직관은 무엇입니까?

36 svm  feature-selection  kernel-trick 

방사형 기저 함수 가 커널 임을 증명하는 방법 은 무엇입니까? 내가 이해하는 한, 이것을 증명하기 위해 우리는 다음 중 하나를 증명해야합니다.k(x,y)=exp(−||x−y||2)2σ2)k(x,y)=exp⁡(−||x−y||2)2σ2)k(x, y) = \exp(-\frac{||x-y||^2)}{2\sigma^2}) 벡터 집합 행렬 = 은 양의 반정의입니다.x1,x2,...,xnx1,x2,...,xnx_1, x_2, ..., x_nK(x1,x2,...,xn)K(x1,x2,...,xn)K(x_1, x_2, ..., x_n)(k(xi,xj))n×n(k(xi,xj))n×n(k(x_i, x_j))_{n \times n} = 과 같은 매핑 가 제공 될 수 있습니다 .ΦΦ\Phik(x,y)k(x,y)k(x, …

34 svm  kernel-trick 

사람들이 SVM과 커널에 많은 노력을 기울인 것을 보았고 머신 러닝의 출발점으로 꽤 흥미로워 보입니다. 그러나 (항상) 신경망 측면에서 거의 항상 우수한 솔루션을 찾을 수 있다고 생각한다면,이 시대에 다른 방법을 시도하는 의미는 무엇입니까? 여기이 주제에 대한 제약이 있습니다. 우리는지도 학습 만 생각합니다. 회귀 및 분류. 결과의 가독성은 계산되지 않습니다. 지도 학습 …

33 machine-learning  svm  kernel-trick  supervised-learning 

분류에 SVM을 사용하고 있으며 선형 및 RBF 커널에 대한 최적의 매개 변수를 결정하려고합니다. 선형 커널의 경우 교차 유효성 검사 매개 변수 선택을 사용하여 C를 결정하고 RBF 커널의 경우 그리드 검색을 사용하여 C와 감마를 결정합니다. 나는 20 개의 (숫자) 기능과 70 개의 교육 예제가 있으며 7 개의 클래스로 분류되어야합니다. C 및 …

32 classification  svm  kernel-trick 

SVM과 퍼셉트론의 차이점과 약간 혼동됩니다. 여기에 나의 이해를 요약하려고 노력하고, 내가 잘못한 부분을 수정하고 내가 놓친 것을 채우십시오. 퍼셉트론은 분리 "거리"를 최적화하려고 시도하지 않습니다. 두 세트를 분리하는 초평면을 찾으면 좋습니다. 반면에 SVM은 "지원 벡터", 즉 가장 가까운 두 개의 샘플 지점 사이의 거리를 최대화하려고합니다. SVM은 일반적으로 "커널 기능"을 사용하여 샘플 …

29 machine-learning  svm  kernel-trick 

누군가 SVM에서 커널의 차이점을 말해 줄 수 있습니까? 선의 다항식 가우시안 (RBF) 시그 모이 드 우리가 알고 있듯이 커널은 입력 공간을 높은 차원의 기능 공간으로 매핑하는 데 사용됩니다. 그리고 그 특징 공간에서 우리는 선형으로 분리 가능한 경계를 찾습니다. 그것들은 언제 (어떤 조건 하에서) 사용되며 왜 그런가?

26 machine-learning  svm  pattern-recognition  kernel-trick 

SVM에서 가우스 커널은 다음과 같이 정의됩니다. 여기서 x, y \ in \ mathbb {R ^ n} 입니다. \ phi 의 명시 적 방정식을 모른다 . 알고 싶습니다.x,y∈RnϕK(x,y)=exp(−∥x−y∥222σ2)=ϕ(x)Tϕ(y)K(x,y)=exp⁡(−‖x−y‖222σ2)=ϕ(x)Tϕ(y)K(x,y)=\exp\left({-\frac{\|x-y\|_2^2}{2\sigma^2}}\right)=\phi(x)^T\phi(y)x,y∈Rnx,y∈Rnx, y\in \mathbb{R^n}ϕϕ\phi 또한 ∑iciϕ(xi)=ϕ(∑icixi)∑iciϕ(xi)=ϕ(∑icixi)\sum_ic_i\phi(x_i)=\phi \left(\sum_ic_ix_i \right) 여기서 c_i \ in \ mathbb R 인지 알고 싶습니다 ci∈Rci∈Rc_i\in \mathbb R. 커널을 사용하면 선형 클래스가 …

24 machine-learning  svm  kernel-trick 

사람들이 커널 화 된 SVM을 다룰 때 왜 이차 프로그래밍 기술 (예 : SMO)을 사용합니까? 그라데이션 하강에 어떤 문제가 있습니까? 커널과 함께 사용하는 것이 불가능합니까, 아니면 너무 느립니다 (그리고 왜?). 좀 더 자세한 내용은 다음과 같습니다. SVM을 조금 더 이해하려고 노력하면서 Gradient Descent를 사용하여 다음 비용 함수를 사용하여 선형 SVM …

21 svm  kernel-trick  gradient-descent 

기계 학습 및 패턴 인식과 관련하여 Kernel Trick 이라는 개념이 있습니다. 함수가 커널 함수일 수 있는지 여부를 묻는 문제가 발생하면 정확히 어떻게해야합니까? 다항식, RBF 및 가우시안과 같은 3 개 또는 4 개의 커널 함수 형태인지 먼저 확인해야합니까? 그럼 어떻게해야합니까? 그것이 양의 명확한 지 보여 주어야합니까? 누군가가 그러한 문제에 대한 단계별 …

21 machine-learning  kernel-trick