Barrodale-Roberts 알고리즘을 사용한 최소 절대 편차 : 조기 종료?

긴 질문을 용서하십시오. 실제 문제에 이르기까지 설명이 필요합니다. 언급 된 알고리즘에 익숙한 사람들은 아마도 첫 번째 타블로 타블로 직접 이동할 수 있습니다.

---

최소 절대 편차 문제 (일명 최적화) 를 해결하기 위해 Barrodale-Roberts 알고리즘은 적절한 최소값을 찾기 위해 훨씬 적은 저장 및 계산 노력을 필요로하는 특수 목적의 단순 법입니다.$L_1$

알고리즘의 구현은 적절한 최소값에 도달하기 전에 간단한 예에서 종료됩니다. 그러나 먼저 좀 더 정교하게 문제를 설명하겠습니다.

주어진 데이터 , - 최적화 시도 찾을 최소화한다는 여기서 는 어떤 식 으로든 에 의존 하는 행렬입니다 . 이 문제는 선형 프로그램으로 표현 될 수 있으며, 그 중에서도 단순한 방식으로 해결됩니다.$(x_i,y_i)$$L_1$$c\in m$

$$\sum_{i=1}^n |y_i-f(x_i)| \quad\text{with}\quad f(x):=A_x\cdot \phi$$ $A_x$$n\times m$$x$

Barrodale과 Roberts는 문제 의 특수 구조를 사용하여 심플 렉스 방법을 획기적으로 단순화하는 심플 렉스 방법의 수정 사항을 명백히 널리 제안했습니다 . 특히, 이것은 최적의 솔루션 이 주어진 데이터 포인트 중 적어도 를 보간한다는 것 입니다. Jstor 액세스 권한이있는 사용자는 여기 에서 해당 기사를 찾을 수 있습니다 .$L_1$$\mathop{rank}(A)$

2002 년 Lei and Anderson은 수치 안정성을 높이고 단순 알고리즘의 알려진 문제점을 극복하기 위해 작은 수정 을 제안했습니다 .

기본적으로이 알고리즘은 보간해야하는 주어진 점 세트로 시작하고, 주어진 절차를 사용하여 심플 렉스 tableau를 작성한 다음 Barrodale 및 Roberts 규칙을 사용하여 변경할 기본 변수를 결정하고 근사치의 데이터 포인트 세트.

Barrodale과 Roberts는 내가 재현하려고 한 작은 예를 제시합니다. 함수 의해 점을 근사하려고합니다 . 다음의 압축 된 단순 tableau로 알고리즘을 마무리하십시오.$\{(1,1), (2,1), (3,2), (4,3), (5,2)\}$$a_1+a_2x$

$$\begin{array}{l|l|ll} \hline \text{Basis}&R& u_1 & u_3\\ \hline b_1 & 1/2 & 3/2 & -1/2 \\ v_2 & 1/2 & 1/2 & 1/2 \\ b_2 & 1/2 & -1/2 & 1/2 \\ u_4 & 1/2 & 1/2 & -3/2 \\ v_5 & 1 & -1 & 2 \\ \hline \text{Marginal cost} &2 & -1 & 0\\ \hline \end{array}$$

가장 중요한 것은 첫 번째와 세 번째 점이 보간되고 전체 오류가 같습니다 . 그들은 결론$2$

모든 비 기본 벡터는 비 양성 한계 비용을 가지므로 [...]

반복이 완료되고 최적에 도달합니다.

Lei and Anderson 알고리즘을 사용하면 예상대로 보간 세트 {1,3}에 해당 단순 tableau를 재현 할 수 있습니다. 그러나 세트로 알고리즘을 시작하면 (명확히 최적은 아님) 다음과 같은 단순한 tableau가 표시됩니다.$\{2, 5\}$

$$\begin{array}{l|l|ll} \hline \text{Basis}&R& u_2 & u_5\\ \hline u_1 & 1/3 & -4/3 & 1/3 \\ b_1 & 1/3 & 5/3 & -2/3 \\ u_3 & 2/3 & -2/3 & -1/3 \\ u_4 & 4/3 & -1/3 & -2/3 \\ b_2 & 1/3 & -1/3 & 1/3 \\ \hline \text{Marginal cost} &7/3 & -10/3 & -5/3\\ \hline \end{array}$$

그러나이 결과는 당혹 스럽습니다. 위의 인용문을 올바르게 이해하면 한계 비용이 없으면 최적에 도달했음을 나타냅니다. 그래도 약 2.33의 기능 값은 최적이 아닙니다. 교환 가진 Barrodale 및 로버츠의 용액 따라서 최적으로 파에 결과를 얻을 것이다.$u_2$$u_1$

추가 정보 : Barrodale과 Roberts가 제공 한 초기 tableau로 시작하면 일반적인 단순 단계로 tableau를 재현 할 수 있으므로 실제 숫자 값이 정확하고 피벗 선택 규칙에 대한 나의 해석이 상당히 확실합니다. 결함이 있습니다.

이것에 대한 생각?

나는 그 질문 자체가 매우 복잡하고 적어도 Barrodale과 Roberts 알고리즘에 대한 지식이 충분히 대답되어야한다는 것을 알고 있습니다. 전체적으로 알고리즘은 여기서 자세하게 반복하는 것이 좋습니다. 그러나 내가 취한 단계 나 누락 된 정보에 대해 추가 질문이 있으면 언제든지 문의하십시오. 기꺼이 질문을 보강 해 드리겠습니다.

해결했습니다. 실제로 Barrodale과 Roberts가 해결했으며 나는주의 깊게 읽지 않았습니다.

내 질문에 나는 표시된 Barrodale과 Roberts 변수 가 현재 적합도와 관련 하여 번째 데이터 포인트 의 양의 잔차 를 나타냄을 이해하기 위해 독자에게 . 잔차가 음수이면 이고 는 해당 값을 갖습니다. 이들 중 하나만 기준 내에있을 수 있고 심플 렉스 tableau의 계수는 서로의 음수 일 뿐이므로 심플 렉스 tableau에 명시 적으로 언급 할 필요는 없습니다. Barrodale과 Roberts는 그들의 기사에서 다음과 같이 언급했습니다.$u_i$$i$$u_i=0$$v_i$

[...]이며 및 의 한계 비용 (또는 감소 된 비용)의 합 은 0이고 및 는 -2입니다.$b_j$$c_j$$u_i$$v_i$

따라서 위의 내 단순 표는 다음과 같이 보입니다.

$$\begin{array}{l|l|ll| ll} \hline \text{Basis}&R& u_2 & u_5 & v_2 & v_5\\ \hline u_1 & 1/3 & -4/3 & 1/3 & 4/3 & -1/3 \\ b_1 & 1/3 & 5/3 & -2/3 & -5/3 & 2/3 \\ u_3 & 2/3 & -2/3 & -1/3 & 2/3 & 1/3 \\ u_4 & 4/3 & -1/3 & -2/3 & 1/3 & 2/3 \\ b_2 & 1/3 & -1/3 & 1/3 & -1/3 & -1/3 \\ \hline \text{Marginal cost} &7/3 & -10/3 & -5/3 & 4/3 & -1/3\\ \hline \end{array}$$

더 나은 결과를 보관하기 위해 를 할 수 있음 을 분명히 알 수 있습니다. 이 작업을 수행하면 알고리즘이 종료되고 첫 번째 및 다섯 번째 데이터 포인트를 전체 오류 2로 보간하는 것이 가장 좋습니다.$v_2$

문제를 읽고 쓸 수있는 장소를 읽고 주심에 감사합니다. 일반적으로 솔루션의 범위를 좁히는 데 도움이됩니다. 바라건대,이 답변은 때때로 Barrodale & Roberts를 구현하려는 다른 누군가에게 도움이 될 수 있습니다.