등고선

나는 회귀의 일반적인 설정, 즉 연속 함수를 가정합니다. $h_\theta:X\to \mathbb R^n$ 가족에서 선택 $\{h_\theta\}_\theta$ 주어진 데이터에 맞게 $(x_i,y_i)\in X\times \mathbb R^n, i=1,\ldots, k$ ( $X$ 큐브와 같은 공간이 될 수 있습니다 $[0,1]^m$ 또는 실제로 자연 기준에 따라 합리적인 토폴로지 공간).

윤곽에 관심이있는 회귀의 적용이 있습니까? $h^{-1}(y)$ 의 $h$ 어느 시점에 $y\in \mathbb R^n$ -예를 들어 제로 세트 $h^{-1}(0)$ ?

나의 관심사에 대한 설명은 다음과 같습니다. 많은 상황에서 학습에 불확실성이 첨부되기 때문에 $h_\theta$ (데이터의 부정확성 또는 부족), 제로 세트를 분석하고 싶을 수도 있습니다. $h^{-1}(0)$ "견고하게". 즉, 모든 "섭동"에 공통 인 제로 세트의 기능을 연구하십시오. $h$ . 요동이 발생하는 매우 일반적인 환경에서 최근에 매우 잘 이해되고 있습니다. $f$ 에 가까운 임의의 연속 맵이 될 수 있습니다 $h$ 에서 $\ell_\infty$ 표준. 또는 본질적으로 똑같이 $f$ 모든에 대해 임의의 연속 $x\in X$ 우리는 $|f(x)-h(x)|\le c(x)$ 어디 $c:X\to\mathbb R$ 모든 자신감 가치를 제공합니다 $x$ .

이론과 알고리즘 개발에 대한 우리의 주요 동기는 흥미로운 수학 뒤에 있습니다 (본질적으로 모든 문제 / 질문은 동성애 이론으로 축소됨). 그러나 현재 단계에서 알고리즘의 추가 개발 및 구현을 위해서는보다 구체적인 설정과 목표를 선택해야합니다.

regression machine-learning multiple-regression

— 마렉 크 르칼
소스

h^{- 1} (0)

$h^{-1}(0)$ 에 대한 정보를 제공합니다

x_{i}

$x_i$ . 우리가 관심이 있다면

x_{i}

$x_i$ 우리는 그것들을 모델링합니다.

x_{i}

$x_i$ 종속 변수입니다. 우리는 내가 본 통계 텍스트를 의미합니다. 누군가가 그 분석을 보여 주면 궁금 할 것입니다.

h^{- 1} (0)

$h^{-1}(0)$ 전혀 흥미 롭습니다. 간단한 선형 회귀

h (x) = α + x β

$h(x)= \alpha+x\beta$ 우리는

h^{- 1} (0) = \frac{- α}{β}

$h^{-1}(0)=\frac{-\alpha}{\beta}$ 그 중요성을 생각 나게합니다. 나는 그렇지 않다는 것을 증명하고 싶습니다. 당신이하는 일이 매우 흥미있는 것 같습니다.

— mpiktas

@mpiktas 귀하의 의견에 감사드립니다. 우리는 가 에서 비선형 인 경우를 염두에 두었습니다 (예 를 들어, 아래 링크의 2 장에서와 같이 가우시안 랜덤 필드를 통한 회귀). 의 분석 이 훨씬 덜 사소한 것입니다. gaussianprocess.org/gpml/chapters/RW.pdf

h_{θ}

$h_θ$

x_{i}

$x_i$

h^{- 1} (0)

$h^{−1}(0)$

— Peter Franek

악마의 옹호자를 연기해서 죄송하지만,이 장을 읽었지만 이 왜 중요한지 여전히 알 수 없었습니다 . 쉽지는 않지만 유용합니다. 그러나 나는 그렇지 않다는 것이 증명되어 기쁘다.

h^{- 1} (0)

$h^{-1}(0)$

— mpiktas

경제학자들은 종종 이것에 관심이 있습니다. 종종 우리는 소비자의 유틸리티 함수를 추정한다 여기서, 도메인은 소비자가 소비하는 각각의 상품의 양을 설명하고 범위는 소비 번들이 그를 얼마나 "행복하게"하는지를 나타낸다. 유틸리티 함수의 레벨 세트를 "차이 곡선"이라고합니다. 종종 우리는 회사의 비용 함수를 추정합니다. 여기서 도메인의 두 부분은 회사가 생산하는 각 생산량과 회사가 사용하는 각 투입물에 대한 가격입니다 생산에서. 레벨 세트를 등 비용 곡선이라고합니다. $u: \mathbb R^n \rightarrow \mathbb R$ $c: \mathbb R^n \times \mathbb R^k \rightarrow \mathbb R$ $c$

가장 일반적으로 관심있는 레벨 세트의 속성은 경계의 기울기입니다. 무차별 곡선의 기울기는 소비자가 다른 제품과 얼마나 다른 속도로 거래 하는지를 알려줍니다. 아이소 비용 곡선의 기울기는 (도메인의 어느 부분에 따라) 생산에 다른 출력을 대체 할 수 있는지를 알려줍니다 (동일한 비용으로 면도날 10 개를 줄인 경우 더 많은 핀을 만들 수 있음) 또는 다른 입력을 대체 할 수있는 방법.

경제학자들은 우리가 트레이드 오프에 집착하기 때문에 첫 번째 부분 파생 상품의 비율에 완전히 집착합니다. 이것들은 (항상?) 레벨 세트 경계의 경사로 생각할 수 있습니다.

또 다른 응용은 경제 균형의 계산입니다. 가장 간단한 예는 수요와 공급 시스템입니다. 공급 곡선은 각 가격으로 생산자가 얼마나 공급할 의사가 있는지를 나타냅니다 : . 수요 곡선은 각 가격에 얼마나 많은 소비자가 요구할 것인지를 나타냅니다 : . 임의의 가격 를 취하고 초과 수요를 . 평형 가격은 즉, 시장의 가격이 공평한 가격입니다. 및 는 벡터 일 수 있으며, 및 는 일반적으로 비선형입니다. $q=s(p)$ $q=d(p)$ $p$ $e(p)=d(p)-s(p)$ $e^{-1}(0)$ $q$ $p$ $d$ $s$

이전 단락 (수요 및 공급)에서 설명하는 것은 단지 예일뿐입니다. 일반적인 설정은 매우 일반적입니다. 게임 이론에서 우리는 게임의 내쉬 평형을 계산하는데 관심이있을 것입니다. 이를 위해 플레이어 에 대해 최고의 전략을 범위로 제공하는 함수 (최고의 응답 함수)와 다른 모든 플레이어가 도메인으로하는 전략을 정의합니다. . 이 모든 것을 벡터 최고의 응답 함수 . 가 실수로 표현 될 수 있으면 평형으로부터의 거리를 제공하는 함수를 정의 할 수 있습니다 : . 그러면 은 게임의 평형 집합입니다. $i$ $s_i=br(s^{-i})$ $s=BR(s)$ $s$ $d(s)=BR(s)-s$ $d^{-1}(0)$

경제학자들이 일반적으로 회귀와의 이러한 관계를 추정하는지 여부는 회귀 정의의 범위에 따라 다릅니다. 일반적으로 도구 변수 회귀를 사용합니다. 또한 유틸리티 함수의 경우 유틸리티가 관찰되지 않으므로이를 추정하기위한 다양한 잠재 변수 방법이 있습니다.

— 계산서
소스