«gradient» 태그된 질문

그라디언트 부스팅에 대해 배우면서 메서드가 빌드 및 앙상블 모델을 만드는 데 사용하는 "약한 분류기"의 속성과 관련된 제약에 대해 들어 보지 못했습니다. 그러나 선형 회귀를 사용하는 GB의 응용 프로그램을 상상할 수 없었으며 실제로 테스트를 수행했을 때 작동하지 않습니다. 나는 제곱 잔차의 합의 기울기로 가장 표준적인 접근법을 테스트하고 후속 모델을 함께 추가했습니다. …

35 regression  machine-learning  boosting  ensemble  gradient 

Enterprise miner를 사용하여 이벤트 속도가 약 1 % 인 데이터 세트에서 그라디언트 향상을 시도하고 있지만 출력을 생성하지 못했습니다. 내 질문은 의사 결정 트리 기반의 접근 방식이므로 그러한 낮은 이벤트에서 그라디언트 부스팅을 사용하는 것이 옳습니까?

14 boosting  unbalanced-classes  rare-events  gradient 

문제는 : 교차 엔트로피 손실과 함께 입력-> 숨김-숨겨진 최대-> 출력에 시그 모이 드를 사용하여 단일 숨겨진 레이어 신경망에 대한 입력 레이어에 대한 그라디언트를 도출하십시오. 체인 규칙을 사용하여 대부분의 파생 작업을 수행 할 수 있지만 실제로 함께 "체인"하는 방법에 대해서는 확실하지 않습니다. 몇 가지 표기법 정의 r=xW1+b1r=xW1+b1 r = xW_1+b_1 h=σ(r)h=σ(r) …

9 neural-networks  gradient