«bayesian-optimization» 태그된 질문

그라디언트 디센트 및 기타 여러 방법은 비용 함수에서 국소 최소값을 찾는 데 유용합니다. 수치 적이든 분석적 으로든 각 시점에서 비용 함수를 신속하게 평가할 수있을 때 효율적입니다. 이상한 상황 인 것 같습니다. 내 비용 함수의 각 평가는 비싸다. 지상 진실 표면에 대해 3D 표면을 최소화하는 일련의 매개 변수를 찾으려고합니다. 매개 변수를 …

59 gradient-descent  optimization  bayesian-optimization 

ML 하이퍼 파라미터를 튜닝하기위한 베이지안 최적화 (1)에 대한 실질적인 현대 연구가 있습니다 . 여기서의 동기 부여는 모델 교육에 시간이 많이 걸리기 때문에 약간의 노력이 필요하기 때문에 (객관적인 함수 호출이 비싸므로 더 적은 것을 만드는 것이 좋습니다) 어떤 정보를 선택해야하는지에 대한 최소한의 데이터 포인트가 필요하다는 것입니다. 내가 작업 한 큰 SVM …

18 hyperparameter  bayesian-optimization  optunity 

배경과 문제 회귀 및 후속 베이지안 최적화 (BO)에 가우시안 프로세스 (GP)를 사용하고 있습니다. 회귀를 위해 MATLAB 용 gpml 패키지를 여러 가지 맞춤형 수정과 함께 사용 하지만 문제는 일반적입니다. 입력 공간에서 두 개의 훈련 입력이 너무 가까울 때 공분산 행렬이 확실하지 않을 수 있습니다 (이 사이트에는 이에 대한 몇 가지 질문이 …

12 regression  covariance-matrix  gaussian-process  bayesian-optimization