«optimization» 태그된 질문

통계 내에서 최적화를 사용하려면이 태그를 사용하십시오.



3
최적화 기법이 샘플링 기법에 매핑됩니까?
일반적인 샘플링 알고리즘에서 최적화 알고리즘을 도출 할 수 있습니다. 실제로 임의의 함수 를 최대화하려면에프: x → f( x )에프:엑스→에프(엑스)f: \textbf{x} \rightarrow f(\textbf{x}) 에서 샘플을 추출하면 충분합니다 . 들어 작은만큼,이 샘플은 기능의 세계 최대 (또는 실제로 지역 최대) 근처에 떨어질 것입니다 .지∼ 전자에프/ T지∼이자형에프/티g \sim e^{f/T}티티T에프에프f "샘플링"이란 상수까지 알려진 로그 우도 …



3
배치 크기는 SGD의 수렴에 어떤 영향을 줍니까?
많은 논의에서 비슷한 결론을 보았습니다. 미니 배치 크기가 커질수록 SGD의 수렴이 실제로 더 어려워지고 악화됩니다. 이 논문 과 이 답변을 . 또한 초기 단계에서 소규모 학습 속도 또는 배치 크기와 같은 트릭을 사용하여 배치 크기가 큰 문제를 해결하는 사람들에 대해 들었습니다. 그러나 미니 배치의 평균 손실이 데이터 분포에 대한 예상 …

2
미니 배치 훈련 신경망을 위해 무작위로 추출 된 훈련 샘플을 교체없이 추출해야합니까?
우리는 에포크가 사용 가능한 모든 훈련 샘플 전체를 통과 한 것으로 정의하고, 미니 배치 크기는 그라디언트를 내리는 데 필요한 가중치 / 바이어스에 대한 업데이트를 평균화하는 평균 샘플 수로 정의합니다. 내 질문은 에포크 내에서 각 미니 배치를 생성하기 위해 일련의 교육 예제를 대체하지 않고 끌어 야하는지 여부입니다. 실제로 에포크 종료 요구 …

2
볼록하지 않은 기능에 그래디언트 디센트를 적용 할 수 있습니까?
나는 단지 최적화에 대해 배우고 있고 볼록과 비 볼록 최적화의 차이점을 이해하는데 어려움을 겪고 있습니다. 내 이해에서 볼록 함수는 "함수 그래프의 두 지점 사이의 선분이 그래프 위에 있거나 그래프 위에있는 것"입니다. 이 경우 그라디언트 하강 알고리즘을 사용할 수 있습니다. 단일 최소값이 있고 그라디언트가 항상 최소값으로 이동하기 때문입니다. 그러나이 그림의 기능은 …


3
R의 glm 함수에 어떤 최적화 알고리즘이 사용됩니까?
이러한 코드를 사용하여 R에서 로짓 회귀를 수행 할 수 있습니다. > library(MASS) > data(menarche) > glm.out = glm(cbind(Menarche, Total-Menarche) ~ Age, + family=binomial(logit), data=menarche) > coefficients(glm.out) (Intercept) Age -21.226395 1.631968 최적화 알고리즘이 수렴 된 것처럼 보입니다. 피셔 스코어링 알고리즘의 단계 수에 대한 정보가 있습니다. Call: glm(formula = cbind(Menarche, Total - …

1
Python의 Jenks Natural Breaks : 최적의 휴식 수를 찾는 방법은 무엇입니까?
Jenks Natural Breaks 알고리즘 의이 Python 구현 을 발견 했으며 Windows 7 컴퓨터에서 실행할 수 있습니다. 꽤 빠르며 지리 데이터의 크기를 고려하여 몇 시간 만에 중단 점을 찾습니다. 내 데이터에이 클러스터링 알고리즘을 사용하기 전에 (여기) 알고리즘을 사용하고있었습니다. KMeans와 관련된 문제는 최적의 K 값 매개 변수를 찾는 것이었지만 다른 K 값에 …

2
optim과 glm의 잔차 표준 오차 차이
나는 함께 재현 해 봅니다 optim장착 된 단순 회귀 분석의 결과 glm또는 nlsR 기능을 제공합니다. 모수 추정치는 동일하지만 잔차 분산 추정과 다른 모수의 표준 오차는 특히 표본 크기가 작을 때 동일하지 않습니다. 이것이 최대 가능성과 최소 제곱 접근법 사이에서 잔차 표준 오차가 계산되는 방식에 차이가 있다고 가정합니다 (n으로 나 n-k …

1
glmer에서 수렴 경고의 의미
내가 사용하고 glmer으로부터 기능을 lme4R의 패키지, 그리고 내가 사용하고 bobyqa최적화 (내 경우에는 기본 즉). 경고 메시지가 표시되며 그 의미가 무엇인지 궁금합니다. Warning message: In optwrap(optimizer, devfun, start, rho$lower, control = control, : convergence code 3 from bobyqa: bobyqa -- a trust region step failed to reduce q "신뢰 영역 단계에서 …

3
크고 똑똑한 베팅하기
1X2 (가중) 게임에서 베팅을 제안하는 알고리즘을 코딩하려고했습니다. 기본적으로 각 게임에는 경기 세트가 있습니다 (홈팀과 원정팀) : 1: 홈 승 X: 무승부 2: 승리 각 일치 및 기호 ( 1, X및 2)에 대해 해당 기호가 올바른 일치 결과 일 가능성을 나타내는 백분율을 지정합니다. 다음은 구조를 나타내는 배열입니다. $game = array ( …

2
GLM에 적합 할 때 Fisher 점수 사용에 대해 왜 큰 소란을 듭니까?
GLMS가 특별한 최적화 문제인 것처럼 피팅하는 이유를 궁금합니다. 그들이 있습니까? 그것들은 단지 최대 가능성 일 뿐이며, 우리는 가능성을 기록한 다음 ... 그것을 최대화하는 것 같습니다! 왜 우리는 응용 수학 문헌에서 개발 된 수많은 최적화 체계 대신 Fisher 점수를 사용합니까?

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.