확률 함수에 대한 근본 발견


17

잡음을 통해서만 관찰 할 수 있는 함수 가 있다고 가정 f(x)합니다. 우리는 f(x) 직접 계산할 수 없으며 만 계산 합니다. f(x)+η여기서 η 는 임의의 노이즈입니다. (실제로 나는 Monte Carlo 방법을 사용하여 를 계산 합니다.)f(x)

근을 찾는 데 사용할 수있는 방법 , 즉 되도록 계산하는 방법은 무엇입니까 ?x f ( x ) = 0fxf(x)=0

계산 비용이 많이 들기 때문에 필요한 평가 수를 최소화하는 방법을 찾고 있습니다.f(x)+η

특히 여러 차원으로 일반화하는 방법에 관심이 있습니다 (예 : ).f(x,y)=0,g(x,y)=0

또한 MCMC를 사용하여 를 계산할 때 추정치가있을 수 있기 때문에 분산에 대한 일부 정보를 사용할 수있는 방법에 관심 이 있습니다 .F ( X )ηf(x)


이 질문에 적합한 태그가 무엇인지 잘 모르겠습니다. 태그를 다시 지정하십시오.
Szabolcs

3
공평하게, 나는 확률 론적 근사를 찾았 지만, 그것이 잘 작동하는시기와 그렇지 않은시기에 대한 실제적인 토론이나 사례를 가진 실질적인 정보는 거의 없었다. 대부분의 정보는 학술 논문에 실려 있으며 실제 응용 프로그램으로 변환하려면 약간의 작업이 필요합니다. 내가 찾은 또 다른 것은 매우 유사한 문제를 해결하고 온라인에서 더 유용한 정보를 얻을 수있는 가능성이없는 추정 키워드 입니다. 다른 것이 있습니까? 참조를 환영합니다!
Szabolcs

흥미로운 문제. 나는 모든 그라디언트 방법이 창 밖으로 나가는 것으로 가정합니다
Aksakal

또한, 귀하의 경우 문제는 더 어렵습니다 : 당신이 제어 할 수 MC를 통해var[η]
Aksakal

좋은 답변을 위해 Glen_b의 현상금에 50을 더 추가하겠습니다.
Szabolcs

답변:


12

다음 참조가 유용 할 수 있습니다.

Pasupathy, R. 및 Kim, S. (2011) 확률 론적 근본 문제 : 개요, 솔루션 및 공개 질문. 모델링 및 컴퓨터 시뮬레이션에 관한 ACM 거래, 21 (3). [ DOI ] [ 사전 인쇄 ]

Waeber, R. (2013) 확률 적 이분법 확률 론적 루트 찾기. 코넬 대학 이타카 박사 학위 논문. [ pdf ]


(+1) 2013 년 논문 논문 인용에 대한 질문에 답하는 것은 정말 대단합니다.
Sycorax는 Reinstate Monica가

1
이것은 구글 푸입니다
bdeonovic

1
인용 한 첫 번째 논문은 유용하지만,이 방법을 실제로 적용하려면 여전히 많은 작업이 필요하다는 점에 유의해야합니다.
Szabolcs 2014 년

방법을 겪은 누군가가 논문에서 가장 간단한 구현으로 얼마나 많은 작업을 수행하는지 추정 할 수 있다면 정말 좋을 것입니다. 첫 번째 논문을 한눈에 살펴보면 상당히 밀집된 것 같습니다.
라몬 마르티네즈

난 당신이 예를 참조 확률 그라데이션 하강을 사용할 수있는 이러한 종류의 문제에 대한 생각 finzi.psych.upenn.edu/R/library/sgd/html/sgd.html
톰 Wenseleers
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.