«feature-selection» 태그된 질문

이미 한 질문 ( One-Layer 피드 포워드 네트워크에서 가중치 중요성 추출 )에 따라 신경망에서 입력의 관련성에 대한 추론을 찾고 있습니다. 관심있는 출력 노드에서 레이어를 통해 뒤로 이동하여 입력 중요도를 재구성하는 것이 어렵거나 시간이 많이 걸리는 딥 넷을 고려할 때 신경망에 대한 감도 분석을 수행하는 데 이론적 프레임 워크가 있는지 궁금해했습니다. …

14 neural-networks  python  feature-selection  sensitivity-analysis 

질문 : 변수 선택을 위해 하나를 사용하는 것의 장점 / 단점은 무엇입니까? I는 가능성이 있다고 가정 I를 넣을 수 어느 사도 중 하나 : 또는 y∼N(Xw,σ2I)y∼N(Xw,σ2I)y\sim\mathcal{N}(Xw,\sigma^2I)wi∼πδ0+(1−π)N(0,100)π=0.9,wi∼πδ0+(1−π)N(0,100)π=0.9, w_i\sim \pi\delta_0+(1-\pi)\mathcal{N}(0,100)\\ \pi=0.9\,, wi∼exp(−λ|wi|)λ∼Γ(1,1).wi∼exp⁡(−λ|wi|)λ∼Γ(1,1). w_i\sim \exp(-\lambda|w_i|)\\ \lambda \sim \Gamma(1,1)\,. 나는 '정규화'매개 변수를 선택 하기 위해 대부분의 가중치가 0이고 이전의 감마를 강조하기 위해 를 넣었습니다 …

14 bayesian  feature-selection 

특히 kaggle 경쟁과 관련하여 모델의 성능이 기능 선택 / 엔지니어링에 관한 것임을 알았습니다. 더 전통적인 / 구식 ML 알고리즘을 처리 할 때 그 이유가 무엇인지 완전히 이해할 수는 있지만 심층 신경망을 사용할 때 왜 그런지 알 수 없습니다. 딥 러닝 책 인용 : 딥 러닝은 다른 더 단순한 표현으로 표현되는 …

14 neural-networks  deep-learning  feature-selection  feature-engineering 

내 목표는 센서 신호를 분류하는 것입니다. 지금까지 내 솔루션의 개념은 다음과 같습니다. i) 원시 신호에서 엔지니어링 기능 ii) ReliefF 및 클러스터링 방식으로 관련 기능 선택 iii) NN, 랜덤 포레스트 및 SVM 적용 그러나 나는 딜레마에 갇혀있다. ii) 및 iii)에는 ReliefF의 k-Nearest Neigbours 또는 센서 신호가 평가되는 창 길이 또는 NN의 …

14 feature-selection  hyperparameter  optimization 

통계 학습 서적의 요소에서 최상의 하위 집합 선택에 대해 읽고 있습니다. 3 개의 예측 변수 이 있으면 2 3 = 8 부분 집합을 만듭니다 .엑스1, x2, x삼x1,x2,x3x_1,x_2,x_32삼= 823=82^3=8 예측 변수가없는 부분 집합 예측 변수가 x 1 인 부분 집합엑스1x1x_1 예측 변수가 x 2 인 부분 집합엑스2x2x_2 예측 변수 x 3의 …

13 regression  feature-selection  lasso  bias-variance-tradeoff 

내가 이해 한 바에 따르면, p- 값을 기반으로 한 변수 선택 (적어도 회귀 컨텍스트에서)에는 결함이 있습니다. AIC (또는 유사한)를 기반으로 한 변수 선택도 비슷한 이유로 약간의 결함으로 간주됩니다. 비록 이것이 다소 불분명 한 것처럼 보이지만 (예를 들어 내 질문 과이 주제에 대한 일부 링크를 참조하십시오 : "단계적 모델 선택"은 정확히 …

13 hypothesis-testing  multiple-regression  feature-selection  model-selection  aic 

피처 선택과 치수 축소는 원래 피처 세트의 피처 수를 줄이는 것을 목표로합니다. 둘 다 같은 일을한다면 두 사람의 정확한 차이점은 무엇입니까?

13 machine-learning  pca  feature-selection  dimensionality-reduction 

탄력적 그물의 동기 중 하나는 다음과 같은 LASSO의 한계였습니다. 에서 경우로 인해 볼록 최적화 문제의 본질 올가미 최대 선택 변수 N 그것을 전에 포화된다. 이것은 변수 선택 방법에 대한 제한 기능인 것 같습니다. 또한, 계수의 L1- 노름에 대한 경계가 특정 값보다 작지 않으면 올가미가 잘 정의되지 않습니다.p > np>np > …

13 regression  optimization  feature-selection  lasso 

내 질문 : 왜 임의 포리스트 는 트리 수준이 아닌 각 트리 내의 노드 수준 에서 분할하기 위해 기능의 임의 하위 집합을 고려 합니까? 배경 : 이것은 역사 문제입니다. 주석 캄 호 출판 이 논문을 무작위로 성장하기 위해서 사용하는 기능의 일부를 선택하여 "결정 숲을"건설에 나무를 2001 년 이후 1998 년 …

13 machine-learning  feature-selection  random-forest  importance  history 

과거에 많은 생물 의학 논문에서 단계적 회귀가 과도하게 사용되었지만 많은 문제에 대한 더 나은 교육으로 개선되고있는 것으로 보입니다. 그러나 많은 오래된 검토 자들은 여전히 ​​그것을 요구합니다. 단계적 회귀는 역할을하고 상황은 무엇입니까 해야합니다 (있는 경우)를 사용할 수는?

13 regression  multiple-regression  feature-selection  model-selection  stepwise-regression 

그룹 올가미가 변수 그룹의 변수 선택 및 희소성에 사용된다는 것을 읽었습니다. 이 주장의 직관을 알고 싶습니다. 왜 올가미가 올가미보다 선호됩니까? 그룹 올가미 솔루션 경로가 부분적으로 선형이 아닌 이유는 무엇입니까?

13 regression  feature-selection  lasso  regularization 

LLE 알고리즘의 기본 원리는 세 단계로 구성되어 있습니다. k-nn과 같은 메트릭으로 각 데이터 포인트의 주변을 찾습니다. 이웃이 데이터 포인트에 미치는 영향을 나타내는 각 이웃에 대한 가중치를 찾으십시오. 계산 된 가중치를 기반으로 데이터의 저 차원 임베딩을 구성하십시오. 그러나 2 단계와 3 단계에 대한 수학적 설명은 내가 읽은 모든 교과서와 온라인 자료에서 …

13 machine-learning  model-selection  feature-selection  dimensionality-reduction  nonlinear 

R의 패키지 'lars'를 다음 코드와 함께 사용하고 있습니다. > library(lars) > set.seed(3) > n <- 1000 > x1 <- rnorm(n) > x2 <- x1+rnorm(n)*0.5 > x3 <- rnorm(n) > x4 <- rnorm(n) > x5 <- rexp(n) > y <- 5*x1 + 4*x2 + 2*x3 + 7*x4 + rnorm(n) > x …

13 correlation  feature-selection  lasso  regularization  ridge-regression 

기능 값이있는 단백질 목록이 있습니다. 샘플 테이블은 다음과 같습니다. ...............Feature1...Feature2...Feature3...Feature4 Protein1 Protein2 Protein3 Protein4 행은 단백질이고 열은 기능입니다. 또한 상호 작용하는 단백질 목록도 있습니다. 예를 들어 Protein3, Protein4 Protein1, Protein2 Protein4, Protein1 문제점 : 예비 분석을 위해 어떤 기능이 단백질 상호 작용에 가장 큰 영향을 미치는지 알고 싶습니다. 내 이해는 …

13 machine-learning  statistical-significance  feature-selection  networks 

나는 각각 5 개의 벡터로 된 응집 된 이산 결과를 포함하고, 각각의 벡터의 결과는 다른 분포에 의해 생성 된 일부 데이터 포인트를 가지고 있습니다 (구체적으로는 확실하지 않습니다. 법칙 (대략 1 ~ 0). K-Means와 같은 클러스터링 알고리즘을 사용하여 5 가지 구성 요소 분포의 속성을 기반으로 각 데이터 포인트를 그룹으로 분류하려고합니다. 이러한 …

13 distributions  clustering  feature-selection  kolmogorov-smirnov  k-means