컴퓨터 과학에서 우리는 종종 되풀이 관계 를 풀어야하는데 , 그것은 재귀 적으로 정의 된 일련의 숫자에 대한 닫힌 형태 를 찾는 것 입니다. 런타임을 고려할 때 종종 시퀀스의 점근 적 성장 에 관심이 있습니다.

예는

1. 아래쪽으로 스테핑 꼬리 재귀 함수의 실행시 에서 본문은 소요 시간 :$0$$n$$f(n)$

   $\qquad \begin{align} T(0) &= 0 \\ T(n+1) &= T(n) + f(n) \end{align}$

2. 피보나치 순서 :

   $\qquad \begin{align} F_0 &= 0 \\ F_1 &= 1 \\ F_{n+2} &= F_n + F_{n+1} \end{align}$

3. 괄호 쌍을 가진 Dyck 단어 의 수 :$n$

   $\qquad\begin{align} C_0 &= 1 \\ C_{n+1}&=\sum_{i=0}^{n}C_i\,C_{n-i} \end{align}$

4. 길이 목록에서 mergesort 런타임 반복 :$n$

   $\qquad \begin{align} T(1) &= T(0) = 0 \\ T(n) &= T(\lfloor n/2\rfloor) + T(\lceil n/2\rceil) + n-1 \end{align}$

재발 관계를 해결하는 방법은 무엇입니까? 우리는 찾고 있습니다

• 일반적인 방법과
• 중요한 서브 클래스를위한 메소드

만큼 잘

• 정확한 솔루션을 제공하는 방법
• 점근 적 성장을 제공하는 방법.

^{이것은 참조 질문이되어야합니다. 방법 당 하나의 답변을 게시하고 일반적인 설명과 예시를 제공하십시오.}

전체 히스토리를 제한된 히스토리로 변환

이것은 모든 정수의 값이 모든 작은 정수 의 값에 의존하는 반복 문제를 해결하는 첫 번째 단계입니다 . 예를 들면, 재발 고려 어떤가 발생 무작위 퀵 정렬 의 분석에서 . (여기서, 임의로 선택 피봇의 계수이다.) 임의의 정수를 들어 의 값 모든에 따라 와 . 이 양식의 반복을 전체 히스토리 반복 이라고 합니다.knT(n)T(k)k<

$$T(n) = n + \frac{1}{n}\sum_{k=1}^n \big(T(k-1) + T(n-k)\big)$$ $k$$n$$T(n)$$T(k)$$k<n$

이 반복을 해결하기 위해 제한된 이력 반복 으로 변환 할 수 있습니다 . 여기서 은 일정한 수의 이전 값에만 의존합니다. 그러나 먼저 반복을 단순화하고 일반적인 용어를 수집하고 성가신 부분을 제거하는 데 도움이됩니다. 이제 제한된 이력 반복으로 변환 , 우리는 대한 재귀를 기록하고 뺄셈 및 재기 항을 작성합니다. N T ( N $T(n)$ T(n-1) ( n - 1 ) T ( n - 1

$$\begin{align*} n T(n) &= n^2 + 2\sum_{k=1}^{n-1} T(k) \end{align*}$$ $T(n-1)$ $$\begin{align*} (n-1) T(n-1) &= (n-1)^2 + 2\sum_{k=1}^{n-2} T(k) \\ \implies nT(n) - (n-1)T(n-1) &= (2n-1) + 2T(n-1) \\[1ex] \implies n T(n) &= (2n-1) + (n+1) T(n-1) \\[1ex] \implies \frac{T(n)}{n+1} &= \frac{2n-1}{n(n+1)} + \frac{T(n-1)}{n} \end{align*}$$

이제 하고 분수 을 더 단순한 점근선 형식 인 , 우리는 훨씬 더 간단한 재귀 을 얻습니다 이 되풀이를 요약으로 확장하면 즉시 . 여기서 은 번째 고조파 수 입니다. 우리는 결론이 .(2) N - $t(n) = T(n)/(n+1)$ θ(1/n)t(n)=θ(1/n)+t(n-1). t(N)=Θ(H의n은)=Θ는(로그없음을)H, N$\frac{2n-1}{n(n+1)}$$\Theta(1/n)$

$$t(n) = \Theta(1/n) + t(n-1).$$ $t(n) = \Theta(H_n) = \Theta(\log n)$$H_n$$n$$\boldsymbol{T(n) = \Theta(n\log n)}$

함수 생성하기$\newcommand{\nats}{\mathbb{N}}$

모든 일련의 숫자는 생성 함수에 해당 합니다 . 계수 (계열의 요소)를 뽑아 내기 위해 반복적으로 편안하게 얻을 수 있습니다.

이 답변에는 완전한 예제가 포함 된 일반적인 ansatz, 특수 사례에 대한 바로 가기 및이 방법을 사용하여 무증상을 얻는 방법에 대한 참고 사항이 포함됩니다 (정확한 결과를 얻을 수없는 경우에도).

방법

일련의 숫자를 보자 . 그런 다음 공식 전원 시리즈$(a_n)_{n\in\nats}$

$\qquad \displaystyle A(z) = \sum_{n=0}^\infty a_nz^n$

의 일반적인 생성 함수 ¹입니다 . 의 직렬 확장 계수 는 시퀀스, 즉 . 예를 들어, 유명한 카탈로니아 어 숫자 의 일반적인 생성 함수 는 다음과 같습니다. A ( z ) [ z n ] A ( z ) = a n C $(a_n)_{n\in\nats}$$A(z)$$[z^n]A(z) = a_n$ $C_n$

$\qquad \displaystyle C(z) = \frac{1 - \sqrt{1 - 4z}}{2z}$ .

의 정의 는 또한 재발을 해결하기위한 ansatz입니다. 이것은 선형 재귀에 가장 효과적이므로 단순성을 위해 양식의 재귀를 가정하십시오.$A$

$\qquad \begin{align} a_0 &= c_0 \\ &\vdots \\ a_{k-1} &= c_{k-1} \\ a_n &= f(n) + \sum_{i=1}^k b_i a_{n-i} \qquad , n \geq k \end{align}$

일부 고정 및 모든 독립적 인 함수 . 이제 앵커와 재귀 부분을 ansatz에 간단히 삽입합니다. f ( n ) : N → N a $b_1, \dots, b_k \in \mathbb{R}$$f(n) : \nats \to \nats$$a_i$

$\qquad \begin{align} A(z) &= \sum_{n=0}^\infty a_nz^n \\ &= c_0z^0 + c_1z^1 + \dots + c_{k-1}z^{k-1} + \sum_{n=k}^\infty \left[ f(n) + \left(\sum_{i=1}^k b_i a_{n-i}\right)\right] z^n \end{align}$

합계 조작의 역학, 형식적 동력 계열의 특성 및 알려진 항등식 ²을 사용하여 마지막 오른쪽은 일반적으로 관점에서 닫힌 형태로 가져와야 합니다. 결과 방정식은 종종 대해 풀 수 있습니다 . 결과의 시리즈 확장 (쉽게 얻을 수 있거나 알려 지거나 접근 가능한 것)은 본질적으로 해결책입니다.A ( Z $A(z)$$A(z)$

좋은 소개는 Wilf의 책 [3]과 GKP [4]에서 찾을 수 있습니다. Flajolet과 Sedgewick [5]가 고급 재료를 수집했습니다.

예

치다

$\qquad \begin{align} a_0 &= 1 \\ a_1 &= 2 \\ a_n &= 5n + 3a_{n-1} - 2a_{n_2} \qquad , n > 1 \end{align}$

우리는 다음을 계산합니다.

$\qquad \begin{align} A(z) &= \sum_{n=0}^\infty a_n z^n \\ &= 1 + 2z + \sum_{n=2}^\infty \left[ 3a_{n-1} - 2a_{n-2} + 5n\right]z^n \\ &= 1 + 2z + 3\sum_{n=2}^\infty a_{n-1}z^n - 2\sum_{n=2}^\infty a_{n-2}z^n + 5\sum_{n=2}^\infty n z^n \\ &= 1 + 2z + 3z\sum_{n=1}^\infty a_nz^n - 2z^2\sum_{n=0}^\infty a_n z^n + 5\sum_{n=2}^\infty n z^n \\ &= 1 + 2z + 3z(A(z) - a_0) - 2z^2A(z) + 5 \left( \frac{z}{(1-z)^2} - z\right) \\ &= 1 - 6z + (3z - 2z^2)A(z) + \frac{5z}{(1-z)^2} \end{align}$

이 해결

$\qquad \begin{align} A(z) &= \frac{1 - 3z + 13z^2 - 6z^3}{(1-2z)(1-z)^3} \\ &= \frac{16}{1-2z} - \frac{5}{1-z} - \frac{5}{(1-z)^2} - \frac{5}{(1-z)^3} \\ &= 16\sum_{n=0}^\infty 2^n z^n - 5\sum_{n=0}^\infty z^n - 5 \sum_{n=0}^\infty (n+1) z^n - 5\sum_{n=0}^\infty \frac{(n+1)(n+2)}{2} z^n \end{align}$

이제 우리는 마침내 읽을 수 있습니다

$\qquad \begin{align} a_n &= 16 \cdot 2^n - 5 - 5(n+1) - \frac{5}{2}(n+1)(n+2) \\ &= 2^{n+4} - \frac{5}{2}n^2 - \frac{25}{2}n - 15 \end{align}$

일단 익숙해 지면 이것이 모두 매우 기계적인 것임을 알 수 있습니다. 사실, 컴퓨터 대수는 많은 경우에이 모든 것을 당신을 위해 할 수 있습니다. 좋은 점은 재발이 더 복잡한 경우에도 그 역학을 유지하는 것입니다. 보다 복잡하고 덜 기계적인 예는 여기 를 참조 하십시오 .

또한 찾고자하는 객체가 복소수이거나 다항식 인 경우에도 일반적인 기술이 작동합니다.

바로 가기

선형 및 균질 한 재발, 즉 다음과 같은 형태

$\qquad \begin{align} a_0 &= c_0 \\ &\vdots \\ a_{k-1} &= c_{k-1} \\ a_n &= \sum_{i=1}^k b_i a_{n-i} \qquad , n \geq k \end{align}$

위의 내용은 매번 정확히 같은 방식으로 진행됩니다. 위의 계산을 상징적으로 수행함으로써 우리는 다음과 같이 정리 합니다. 허락하다

$\qquad \displaystyle z^k - b_1 z^{k-1} - b_2 z^{k-2} - \dots - b_k$

될 특성 polynomal (재발). 또한 은 다중도 갖는 상기 다항식의 (쌍으로 구별되는) 0을 각각하자. 그런 다음 원하는 계수가r $\lambda_1, \dots, \lambda_l$$r_i$

$\qquad \displaystyle a_n = \sum_{i=1}^l \sum_{j=1}^{r_i} b_{i,j} \cdot n^{j-1} \cdot \lambda_i^n$

알와 . 특성 다항식이 차수 를 가지므로, 정확히 (복잡한) 0, 즉 합은 입니다. 따라서, 누락 된 계수는 상기 식을 의 임의의 (예를 들어 앵커) 와 동일하게하여 얻어진 방정식으로 선형 방정식 시스템을 풀음으로써 결정될 수있다 . k k r i k k k a $b_{i,j}$$k$$k$$r_i$$k$$k$$k$$a_n$

무증상

대한 닫힌 양식을 얻는 것이 일반적으로 쉬운 부분입니다. 함수를 생성 할 때이를 표현하면 (이 예제에서와 같이) 효율성이 빠르게 어려워집니다. 예는 위의 와 질문에 언급 된 Dyck 단어 수에 대한 예입니다.C ( Z $A(z)$$C(z)$

계수에 대한 무증상을 얻기 위해 복잡한 분석기구, 특히 특이성 분석을 이용할 수있다; 버즈 워드에는 Darboux의 방법과 새들 포인트 방법이 포함됩니다. 이것들은 잔기 정리 와 코시의 적분 공식 에 근거합니다 . 자세한 내용은 [6]을 참조하십시오.

---

1. 지수 , Dirichlet 및 기타 생성 함수를 사용 하여 유사한 작업을 수행 할 수 있습니다 . 가장 잘 작동하는 것은 사용중인 순서와 특히 필요한 닫힌 양식을 찾는 지 여부에 따라 다릅니다.
2. 예를 들어 TCS 치트 시트 또는 [3]에서 확인할 수 있습니다.
3. generatingfunctionology H. 윌프로 (1994, 2 판.) - 무료로 다운로드 할 수 있습니다
4. RL Graham, DE Knuth 및 O. Patashnik의 콘크리트 수학 (1994, 2nd ed.)
5. R. Sedgewick 및 P. Flajolet 의 알고리즘 분석 소개 (2013 년 2 판)-무료로 다운로드 가능
6. P. Flajolet 및 R. Sedgewick의 분석 조합 (2009)-무료로 다운로드 가능

마스터 정리

마스터 정리 ( Master theorem) 는 소위 분할 및 정복 재발 의 솔루션에 대해 무증상을 제공합니다 . 그것들은 일반적으로 (재귀 적) 분할 및 정복 알고리즘을 분석 할 때 발생하므로 이름입니다. 정리는 종종 적용하기가 쉽기 때문에 인기가 있습니다. 반면에 다음과 같은 형태의 반복에만 적용 할 수 있습니다.

$\qquad \displaystyle T(n) = a \cdot T\left(\frac{n}{b}\right) + f(n)$

함께 . 세 가지 경우가 있습니다$a \geq 1, b > 1$

1. $\quad \displaystyle f \in O\left( n^{\log_b (a) - \varepsilon} \right)$

   일부 ;$\varepsilon > 0$

2. $\quad \displaystyle f \in \Theta\left( n^{\log_b a} \log^{k} n \right)$ ,

   일부 대해 ;$k \geq 0$

3. $\quad \displaystyle f \in \Omega\left( n^{\log_b (a) + \varepsilon} \right)$

   일부 및$\varepsilon > 0$

   $\quad \displaystyle a f\left( \frac{n}{b} \right) \le c f(n)$

   일부 및 .n → $c < 1$$n \to \infty$

그것은 무증상을 의미합니다

1. $T \in \Theta\left( n^{\log_b a} \right)$ ,
2. $T \in \Theta\left( n^{\log_b a} \log^{k+1} n \right)$ 및
3. $T \in \Theta \left(f \right)$ ,

각기. 기본 사례는 여기에 명시되거나 사용되지 않습니다. 우리는 점근 적 행동 만 조사한다는 점을 고려하면 의미가 있습니다. 우리는 자동으로 그들이 어떤 상수 (그들은 다른 무엇을 할 수 있습니다. 있다고 가정 어떤 우리가 관계가 표시되지 않습니다 상수, 그들은 모두에서 사라 .$\Theta$

예

1. 재발을 고려하십시오

   $\qquad \displaystyle T(n) = 4T\left(\frac{n}{3}\right) + n$ 입니다.

   와 및 - 기록해 우리는 그 경우 하나를 참조 함께 적용 . 따라서 입니다.b = 3 log b a ≈ 1.26 ε = 0.25 T ∈ Θ ( n log 3 4 ) = Θ ( n 1.261 …$f(n) = n, a=4$$b=3$$\log_b a \approx 1.26$$\varepsilon = 0.25$$T \in \Theta(n^{\log_3 4}) = \Theta(n^{1.261\dots})$

2. 재발을 고려하십시오

   $\qquad \displaystyle T(n) = 2T(n/2) + n$ 입니다.

   하여 및 - 유의 우리는 두 경우에 적용되는 볼 . 따라서 입니다.b = 2 log b a = 1 k = 0 T ∈ Θ ( n log n $f(n) = n, a=2$$b=2$$\log_b a = 1$$k=0$$T \in \Theta(n \log n)$

3. 재발을 고려하십시오

   $\qquad \displaystyle T(n) = 3T\left(\frac{n}{4}\right) + n$ 입니다.

   와 및 - 기록해 우리는이 경우 세 개의 볼을 적용한다 및 . 따라서 입니다.b = 4 log b a ≈ 0.79 ε = 0.2 c = 1 T ∈ Θ ( n $f(n) = n, a=3$$b=4$$\log_b a \approx 0.79$$\varepsilon = 0.2$$c=1$$T \in \Theta(n)$

4. 재발을 고려하십시오

   $\qquad \displaystyle T(n) = 16T\left(\frac{n}{4}\right) + n!$

   여기에 , 및-많은 표준 예는 다항식 를 갖지만 이것은 규칙이 아닙니다. 우리는 이고, case 3은 다시 적용됩니다. 이 경우 과 을 으로 선택할 수 있습니다모든 대해 . 따라서 .b = 4 f ( n ) = n ! f log b a = 2 ε c > 0 n ! ∈ Ω ( n k ) k T ∈ Θ ( n ! $a = 16$$b=4$$f(n) = n!$$f$$\log_b a = 2$$\varepsilon$$c > 0$$n! \in \Omega(n^{k})$$k$$T \in \Theta(n!)$

추가 자료

• 마스터 정리의 사례 중 어느 것도 적용되지 않을 가능성이 높습니다. 예를 들어, 하위 문제는 크기가 같지 않거나 더 복잡한 형태 일 수 있습니다. 마스터 정리에는 Akra-Bazzi [1] 또는 Roura [2]와 같은 확장이 있습니다. 이산 재발 작동 (즉, 바닥과 셀들과 재귀 매개 변수에 사용되는) 버전도있다 하고 선명한 결과를 제공한다 [3].

• 일반적으로, 마스터 정리를 적용하기 전에 실제 되풀이 관계를 마사지해야합니다. 무증상을 유지하는 일반적인 변형에는 바닥과 천장이 떨어지고 있다고 가정 합니다. 여기서 물건을 깨지 않도록주의하십시오. 자세한 내용은 [4] 섹션 4.6 과이 질문을 참조하십시오.$n=b^k$

---

1. M. Akra와 L. Bazzi 의 선형 재귀 방정식의 해법 (1998)
2. S. Roura (1997)에 의한 분할 및 정복 재발 에 대한
   ^{개선 된 마스터 정리 다른 개선 된 마스터 정리를 참조하십시오.}
3. M. Drmota와 W. Szpankowski (2011)의 불연속 분할 및 정복 재발 에 대한 마스터 정리
4. Cormen et al.의 알고리즘 소개 . (2009, 제 3 판)

추측 및 증명

또는 " 기술" 이라고 부르는 방법 . 모든 종류의 아이덴티티에 적용 할 수 있습니다. 아이디어는 간단하다 :$\dots$

솔루션을 추측하고 정확성을 증명하십시오.

이 방법은 일반적으로 창의성과 경험을 요구하지만 (보여주는 데는 좋지만) 역학이 거의없는 것 (우아한 외관)이기 때문에 널리 사용되는 방법입니다. 여기의 기술은 좋은 교육받은 추측을하는 것입니다. 증거는 (우리의 경우) 일반적으로 다소 간단한 유도입니다.

반복에 적용될 때 일반적으로 "추측"은

• 재발을 두 번 확장 하고
• 아웃 파악 앵커 와
• 중간 패턴 ( ) 을 추측합니다 .$\dots$

간단한 예

$\qquad \begin{align} s_0 &= s_1 = s_2 = 1 \\ s_n &= 5s_{n-3} + 6 \qquad\qquad n \geq 2 \end{align}$

의 정의를 몇 번 확장 해 봅시다 :$s_n$

$\qquad \begin{align} s_n &= 5s_{n-3} + 6 \\ &= 5(5s_{n-6} + 6) + 6 \\ &= 5(5(5s_{n-9} + 6) + 6) + 6 \\ &\ \vdots \\ &= \underbrace{5(5(5( \dots 5\cdot 1}_{n \div 3 \text{ times}} + \underbrace{6 \dots ) + 6) + 6) + 6}_{n \div 3 \text{ times}} \end{align}$

여기에서 패턴을 쉽게 발견 할 수 있으며 주장으로 이어집니다.

$\qquad \begin{align} s_n &= 5^{\left\lfloor\frac{n}{3}\right\rfloor} + 6\cdot \sum_{i=0}^{\left\lfloor\frac{n}{3}\right\rfloor - 1} 5^i \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor} - \frac{6}{4} \end{align}$

이제 우리는 귀납법으로 정체성을 증명합니다. 를 들어 , 우리는 각각의 값에 연결하여 정확성을 설정할 수 있습니다. 신원을 가정하면 모두 보유하고 임의하지만 고정을 위해 , 우리가 계산$n \in \{0,1,2\}$$n' \leq n$$n \geq 3$

$\qquad \displaystyle \begin{align} s_{n+3} &= 5s_n + 6 \\ &= 5\cdot \left( \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor} - \frac{6}{4} \right) + 6 \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n}{3}\right\rfloor + 1} - \frac{6}{4} \\ &= \frac{5}{2}\cdot 5^{\left\lfloor\frac{n+3}{3}\right\rfloor} - \frac{6}{4} \end{align}$

이것은 유도의 힘으로 정체성을 증명합니다.

보다 관련성 높은 반복에서이 기능을 사용하려고하면이 방법의 가장 큰 단점이됩니다. 패턴 을 보기 어려우 거나 멋진 닫힌 형태로 압축 할 수 있습니다.

무증상

무증상에도이 방법을 사용할 수 있습니다. 그러나 모든 대한 경계 를 설정하는 상수가 하나 있어야하기 때문에 Landau 심볼 의 상수를 추측해야합니다 . 즉, 상수 인자는 유도 중에 변경 될 수 없습니다. $n$

예를 들어 ¹ 인 경우 단순화 된 Mergesort 런타임 반복을 고려하십시오 .$n=2^k$

$\qquad \begin{align} T(1) &= T(0) = 0 \\ T(n) &= 2T(n/2) + n-1 \qquad n \geq 1 \end{align}$

우리는 추측 것이 상수 , 즉, . 우리는 이상의 유도에 의해 이것을 증명 한다. 유도 단계는 다음과 같습니다.$T(n) \in O(n\log n)$$c=1$$T(n) \leq n\log n$$k$

$\qquad \begin{align} T(n) &= 2T(n/2) + n-1 \\ &\leq 2\frac{n}{2}\log \frac{n}{2} + n - 1 \\ &= n\log n - n\log 2 + n - 1 \\ &\lt n \log n \end{align}$

---

1. 자연의 비 감소 서열의 경우, 모든 무한 서브 서열은 원래 서열과 동일한 점근 성장을 갖는다.

아크라 바지 방법

Akra-바치는 방법은 : 폼의 재발에 대해 점근 제공 여기에는 일반적인 분할 및 정복 반복과 분할이 다른 경우도 포함됩니다. 예를 들어 "퍼지 용어" 는 정확하게 나오지 않는 구간을 수용 할 수 있습니다. 적용 조건은 다음과 같습니다.

$$T(x) = \sum_{1 \le i \le k} a_i T(b_i x + h_i(x)) + g(x) \quad \text{for $x \ge x_0$}$$ $h_i(x)$

• 재발을하기에 충분한 기본 사례가 있습니다.
• 및 모든 상수$a_i$$b_i$
• 모든 경우$i$$a_i > 0$
• 모든 에 대해$i$$0 < b_i < 1$
• $\lvert g(x) \rvert = O(x^c)$ 일부 상수 경우$c$$x \rightarrow \infty$
• 모든 에 대해$i$$\lvert h_i(x) \rvert = O(x / (\log x)^2)$
• $x_0$ 은 상수입니다

참고 및 톱니파 함수로서 대체 0과 1 사이에 항상 (또는 적절한 )는 의 조건을 충족 .$\lfloor b_i x \rfloor = b_i x - \{b_i x\}$$\{ u \} = u - \lfloor u \rfloor$$\lfloor b_i x \rfloor$$\lceil b_i x \rceil$$h_i$

다음 과 같이 찾으십시오 . 그러면 와 같은 의 점근 적 행동은 다음과 같이 주어집니다 : 와 "충분한", 즉 거기 되도록 모든 .$p$

$$\sum_{1 \le i \le k} a_i b_i^p = 1$$ $T(x)$$x \rightarrow \infty$ $$T(x) = \Theta \left( x^p \left( 1 + \int_{x_1}^x \frac{g(u)}{u^{p + 1}} du \right) \right)$$ $x_1$$k_1>0$ $$g(x/2) \geq k_1g(x) \tag{2}$$ $x>x_1$

예 A

예를 들어, 의 재귀를 사용하십시오 . 여기서 : 조건이 만족되면 : 운이 좋으면 입니다. 따라서 우리는 : $n \ge 5$$T(0) = T(1) = T(2) = T(3) = T(4) = 17$

$$T(n) = 9 T(\lfloor n / 5 \rfloor) + T(\lceil 4 n / 5 \rceil) + 3 n \log n$$ $p$ $$9 \left( \frac{1}{5} \right)^p + \left( \frac{4}{5} \right)^p = 1$$ $p = 2$ $$T(n) = \Theta \left( n^2 \left(1 + \int_3^n \frac{3 u \log u}{u^3} du \right) \right) = \Theta(n^2)$$

와 이후 우리는 성취 모든 . 과 같은 다른 상수 를 하한값 으로 사용하더라도 적분이 수렴되기 때문에 적분도 사용 하는 것이 합법적입니다. 차이점은 에서 사라집니다 .$k_1 \leq \frac{1}{2}\left(1 - \frac{\log 2}{\log 3}\right)$$(2)$$x\geq 3$$1$$\Theta$

실시 예 B

대한 또 다른 예는 다음과 같습니다 . 우리는 확인하십시오. 우리는 체크 아웃 하는 단일 , 있습니다. 가정하면 정말 및 / 또는 , 암시 또한 체크 아웃. 그래서 우리는 필요 따라서, , 및 : $n \ge 2$

$$T(n) = 4 T(n / 2) + n^2 / \lg n$$ $g(n) = n^2 / \ln n = O(n^2)$$a_1 = 4$$b_1 = 1 / 2$$n / 2$$\lfloor n / 2 \rfloor$$\lceil n / 2 \rceil$$h_i(n)$ $$a_1 b_1^p = 4 \cdot (1 / 2)^p = 1$$ $p = 2$ $$T(n) = \Theta\left(n^2 \left( 1 + \int_2^n \frac{u^2 du}{u^3 \ln u} \right) \right) = \Theta\left(n^2 \left( 1 + \int_2^n \frac{du}{u \ln u} \right) \right) = \Theta(n^2 \ln \ln n)$$ 위와 유사한 기법을 적용합니다. 적분의 하한 은 적분이 수렴하지 않기 때문에 만 사용 합니다.$2$$1$

( 대수와 함께 maxima 의 도움에 감사드립니다)

요약

종종 형식의 반복이 발생하는데 여기서 은 모노톤입니다. 이 경우에, 우리는 확장 할 수 등 시작 값의 소정의 추정하기 위해, 합 을 추정해야합니다 .

$$T(n) = T(n-1) + f(n),$$ $f(n)$ $$T(n) = T(c) + \sum_{m=c+1}^n f(m),$$ $T(c)$$T(n)$$f(c+1) + \cdots + f(m)$

비 감소$f(n)$

경우 단조 비 - 감소, 우리는 명백한 경계가 이러한 경계는 상수 함수에 대한 상한과 단계 함수에 대한 하한 ( , 및 과 같은 일부 함수에 대해 엄격한 의미에서 가장 적합합니다. 용 ). 그러나 대부분의 경우 이러한 추정치는 그다지 도움이되지 않습니다. 예를 들어 인 경우 하한은 이고 상한은 이므로 상당히 멀리 떨어져 있습니다.$f(n)$

$$f(n) \leq \sum_{m=c+1}^n f(m) \leq (n-c) f(n).$$ $f(m) = 1$$m \geq n$$f(m) = 0$$m < n$$f(m) = m$$n$$(n-c)n$

완성

더 나은 추정치는 적분에 의해 주어진다 : 들면 이 순서 조건을 낮출 합까지의 정확한 값을 제공한다 : 하면 우리는 명시 합을 계산할 수 있지만, 많은 경우에 명시 적 계산은 어렵다. 예를 들어, 경우 의 파생 파생 성분 은 이므로

$$\int_c^n f(x) dx \leq \sum_{m=c+1}^n f(m) \leq \int_{c+1}^{n+1} f(x) dx.$$ $f(m) = m$ $$\frac{1}{2} n^2 - \frac{1}{2} c^2 \leq \sum_{m=c+1}^n m \leq \frac{1}{2} (n+1)^2 - \frac{1}{2} (c+1)^2.$$ $f(m) = m$$f(m) = m\log m$$f$$(1/2) x^2\log x - (1/4) x^2$ $$\sum_{m=c+1}^n m\log m = \frac{1}{2} n^2 \log n \pm \Theta(n^2).$$

오일러 - Maclaurin은 공식은 더 나은 견적을 제공합니다. 예를 들어이 공식은 합계 을 추정하여 강력한 형태의 스털링 공식을 증명하는 데 사용할 수 있습니다 .$\log n! = \sum_{m=1}^n \log m$

비 증가$f(n)$

경우에 따라, 은 증가하지 않는 모노톤입니다. 사소한 추정치는 되고, 적분 추정치는 예를 들어, , 을 사용하여 얻습니다. $f(n)$

$$f(1) \leq \sum_{m=c+1}^n f(m) \leq (n-c) f(1),$$ $$\int_{c+1}^{n+1} f(x) dx \leq \sum_{m=c+1}^n f(m) \leq \int_c^n f(x) dx.$$ $f(m) = 1/m$$\int f(m) = \log m$ $$\sum_{m=c+1}^n \frac{1}{m} = \log n \pm \Theta(1).$$

Sedgewick과 Flajolet은 분석 조합 에서 광범위한 작업을 수행했으며 ,이를 통해 생성 함수와 복잡한 분석의 조합을 사용하여 재발을 무증상으로 해결할 수 있습니다. 그들의 작업은 많은 재발을 자동으로 해결하고 일부 컴퓨터 대수 시스템에서 구현되었습니다.

이 주제에 관한이 교과서 는 Flajolet과 Sedgewick이 작성했으며 훌륭한 참고 문헌입니다. Sedgewick과 Flajolet이 작성한 이 텍스트 는 알고리즘 분석을위한 응용 프로그램을위한 다소 간단한 설명 입니다.

도움이 되었기를 바랍니다!

와 같이 이상한 재발이 발생할 수 있습니다. 당신이 나와 같다면, 마스터 정리를 사용할 수 없다는 것을 알게 될 것입니다. " 흠 ... 아마도 반복 트리 분석이 효과가있을 것입니다. " 그러면 나무가 엄청나게 빨라지기 시작합니다. 인터넷에서 검색 한 후 Akra-Bazzi 방법 이 작동합니다! 그런 다음 실제로 조사를 시작하고 모든 수학을하고 싶지 않다는 것을 깨닫습니다. 이 시점까지 나와 같은 경험을했다면 더 쉬운 방법이 있다는 것을 알게되어 기쁩니다.

$$T(n) = \begin{cases} c & n < 7\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + cn & n\geq 7 \end{cases}$$

---

고르지 못한 분할 정리 1 부

와 를 양의 상수라고 하자 .$c$$k$

그런 다음 를 과 같은 양의 상수로 .$\{a_1, a_2, \ldots, a_k\}$$\sum_1^k a_i < 1$

또한 위의 예와 같이 양식이 반복되어야합니다.

$$\begin{align} T(n) & \leq c & 0 < n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ T(n) & \leq cn + T(a_1 n) + T(a_2 n) + \dots T(a_k n) & n \geq \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \end{align}$$

청구

그런 다음 이라고 주장합니다. 여기서 는 상수입니다 (예 : 무정형 선형).$T(n) \leq bn$$b$

$$b = \frac{c}{1 - \left(\sum_1^k a_i\right)}$$

유도에 의한 증거

기준 :$n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \implies T(n) \leq c < b < bn$

유도 : 어떤 마찬가지 가정 , 우리는이$n' < n$

$$\begin{align} T(n) & \leq cn + T(\lfloor a_1 n \rfloor) + T(\lfloor a_2 n \rfloor) + \dots + T(\lfloor a_k n \rfloor)\\ & \leq cn + b \lfloor a_1 n \rfloor + b \lfloor a_2 n \rfloor + \dots + b \lfloor a_k n \rfloor\\ & \leq cn + b a_1 n + b a_2 n + \dots + b a_k n\\ & = cn + bn \sum_1^k a_i\\[0.5em] & = \frac{cn - cn \sum_1^k a_i }{1 - \left(\sum_1^k a_i\right)} + \frac{cn \sum_1^k a_i}{1 - \left(\sum_1^k a_i\right)}\\[0.5em] & = \frac{cn}{1 - \left(\sum_1^k a_i\right)}\\ & = bn & \square \end{align}$$

그런 다음 입니다.$T(n) \leq bn \implies T(n) = O(n)$

예

$$T(n) = \begin{cases} c & n < 7\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + cn & n\geq 7 \end{cases}$$ 먼저 재귀 호출 내부의 계수가 1보다 작은 지 확인합니다. $$\begin{align} 1 & > \sum_1^k a_i \\ & = \frac{1}{5} + \frac{1}{5} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7}\\[0.5em] & = \frac{2}{5} + \frac{4}{7}\\[0.5em] & = \frac{34}{35} \end{align}$$

그런 다음 기본 사례가 계수의 역수의 최대 값보다 작은 지 확인합니다.

$$\begin{align} n & < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ & = \max\{5, 5, 7, 7, 7, 7\}\\ & = 7 \end{align}$$

이러한 조건이 충족되면 여기서 는 다음과 같습니다. 따라서 다음과 같습니다 : $T(n) \leq bn$$b$

$$\begin{align} b &= \frac{c}{1 - \left(\sum_1^k a_i\right)}\\[0.5em] &= \frac{c}{1 - \frac{34}{35}}\\[0.5em] &= 35c \end{align}$$ $$\begin{align} T(n) & \leq 35cn\\ \land\; T(n) & \geq cn\\ \therefore T(n) & = \Theta(n) \end{align}$$

---

고르지 못한 분할 정리 2 부

마찬가지로 때 경계를 증명할 수 있습니다 . 증명은 거의 같은 형식을 따릅니다.$\sum_1^k = 1$

하자 그리고 일 양성되도록 상수 .$c$$k$$k > 1$

그런 다음 를 과 같은 양의 상수로 .$\{a_1, a_2, \ldots, a_k\}$$\sum_1^k a_i = 1$

또한 위의 예와 같이 양식이 반복되어야합니다.

$$\begin{align} T(n) & \leq c & 0 < n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ T(n) & \leq cn + T(a_1 n) + T(a_2 n) + \dots T(a_k n) & n \geq \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \end{align}$$

청구

그런 다음 ( 는 재귀 트리의 분기 인자 이므로 base 선택합니다 ) 여기서 및 는 상수입니다 (예 : ) ) 그런 :$T(n) \leq \alpha n \log_k n + \beta n$$\log$$k$$k$$\alpha$$\beta$

$$\beta = c$$ 및 $$\alpha = \frac{c}{\sum_1^k a_i \log_k a_i^{-1}}$$

유도에 의한 증거

기준 :$n < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\} \implies T(n) \leq c = \beta < \alpha n \log_k n + \beta n$

유도 : 어떤 마찬가지 가정 , 우리는이$n' < n$

$$\begin{align} T(n) & \leq cn + T(\lfloor a_1 n \rfloor) + T(\lfloor a_2 n \rfloor) + \dots + T(\lfloor a_k n \rfloor)\\ & \leq cn + \sum_1^k (\alpha a_i n \log_k a_i n + \beta a_i n)\\ & = cn + \alpha n\sum_1^k (a_i \log_k a_i n) + \beta n\sum_1^k a_i\\ & = cn + \alpha n\sum_1^k \left(a_i \log_k \frac{n}{a_i^{-1}}\right) + \beta n\\ & = cn + \alpha n\sum_1^k (a_i (\log_k n - \log_k a_i^{-1})) + \beta n\\ & = cn + \alpha n\sum_1^k a_i \log_k n - \alpha n\sum_1^k a_i \log_k a_i^{-1} + \beta n\\ & = \alpha n\sum_1^k a_i \log_k n + \beta n\\ & = \alpha n \log_k n + \beta n & \square \end{align}$$

그런 다음 입니다.$T(n) \leq \alpha n \log_k n + \beta n \implies T(n) = O(n \log n)$

예

이전 예제에서 조금만 사용하도록 수정하자 :

$$T(n) = \begin{cases} c & n < 35\\ 2T\left(\frac{n}{5}\right) + 4T\left(\frac{n}{7}\right) + T\left(\frac{n}{35}\right)+ cn & n \geq 35 \end{cases}$$

먼저 재귀 호출 내부의 계수가 1인지 확인합니다.

$$\begin{align} 1 & = \sum_1^k a_i \\ & = \frac{1}{5} + \frac{1}{5} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{7} + \frac{1}{35}\\[0.5em] & = \frac{2}{5} + \frac{4}{7} + \frac{1}{35}\\[0.5em] & = \frac{35}{35} \end{align}$$

그런 다음 기본 사례가 계수의 역수의 최대 값보다 작은 지 확인합니다.

$$\begin{align} n & < \max\{a_1^{-1}, a_2^{-1}, \ldots, a_k^{-1}\}\\ & = \max\{5, 5, 7, 7, 7, 7, 35\}\\ & = 35 \end{align}$$

이러한 조건이 충족되면 여기서 이고 는 다음과 같은 상수입니다. 따라서 우리는 다음을 가지고 있습니다 : $T(n)\leq \alpha n \log n + \beta n$$\beta = c$$\alpha$

$$\begin{align} b &= \frac{c}{\sum_1^k a_i \log_k a_i^{-1}}\\[0.5em] &= \frac{c}{\frac{2 \log_7 5}{5} + \frac{4 \log_7 7}{7} + \frac{\log_7 35}{35}}\\[0.5em] &\approx 1.048c \end{align}$$ $$\begin{align} T(n) & \leq 1.048cn\log_7 n + cn\\ \therefore T(n) & = O(n \log n) \end{align}$$

이 게시물을 다시 확인한 후 아직 여기에 있지 않은 것에 놀랐습니다.

도메인 변환 / 변수 변경

재발을 처리 할 때 재귀 스택이 얼마나 깊을 지 확실하지 않은 경우 도메인을 변경하는 것이 유용 할 때가 있습니다.

예를 들어 다음과 같은 반복을 수행하십시오.

$$T(n) = T(2^{2^{\sqrt{\log \log n}}}) + \log \log \log n$$

어떻게 해결할 수 있을까요? 우리는 시리즈를 확장 할 수는 있지만 이것이 정말로 빠를 것이라고 약속합니다. 대신, 각 호출마다 입력이 어떻게 변하는 지 생각해 보자.

우리는 먼저 :

1. $n$ 이면
2. $2^{2^{\sqrt{\log \log n}}}$ 이면
3. $2^{2^{\sqrt{\log \log (2^{2^{\sqrt{\log \log n}}})}}}$ 등.

도메인 변환의 목표는 위의 전환 대신 를 갖도록 반복을 동등한 로 변경 하는 것입니다 .$S(k)$$k, k-1, k-2, \ldots$

예를 들어, 하면 위와 같은 재발에 대해 얻게됩니다. 그러면 간단히 다음과 같이 다시 작성할 수 있습니다. 그런 다음 를 으로 다시 변환하면 다음 과 같이 얻을 수 있습니다. $n = 2^{2^{2^{2^k}}}$

$$\begin{align*} T(2^{2^{2^{2^k}}}) & = T(2^{2^{\sqrt{\log \log 2^{2^{2^{2^{k}}}}}}}) + \log \log \log (2^{2^{2^{2^{k}}}})\\ & = T(2^{2^{2^{2^{k-1}}}}) + 2^k \end{align*}$$ $$T(k) = T(k-1) + 2^k = \sum_{i = 1}^{k} 2^k = 2^{k+1} - 1$$ $k$$n$ $$T(n) = 2^{(\log \log \log \log n) + 1} - 1 = O(\log \log \log n)$$

---

이 예에서는 이제 목표를 볼 수 있습니다.

가정 일부 상수 및 함수 및 .

$$T(n) = \begin{cases} h(1) & n = 1\\ a\cdot T(f(n)) + h(n) & \mathrm{otherwise} \end{cases}$$ $a$$f(n)$$h(n)$

우리는 이제 어떤 함수 과 을 찾으려고 노력 합니다. $g(k) = n$$f(g(k)) = g(k-1)$

$$\begin{align*} T(g(k)) &= aT(f(g(k))) + h(g(k))\\ & = a\cdot T(g(k-1)) + h(g(k)) \end{align*}$$

보다 일반적으로, 우리가 원하는 의 반복 애플리케이션이다 에서 , 번. (예 : ). 이것은 가 "iteating"기능으로 작용할 수있게한다 . 재귀의 깊이 에서 수행되는 작업은 단순히 입니다.$f^{(i)}(n) = g(k - i)$$f^{(i)}(n)$$f$$n$$i$$f^{(2)}(n) = f(f(n))$$g(k)$$i$$h(g(k-i))$

그러면 쉽게 이것을 변환 할 수 되도록 그렇다면 우리는 걱정할 필요 주어진 까지의 모든 대해 를 합산합니다 . 즉, $S(k) = T(g(k))$

$$S(k) = a\cdot S(k-1) + h(g(k))$$ $h(g(k))$$k$ $$S(k) = \sum_{i = g^{-1}(1)}^{k} a^{k - i} h(g(i))$$

우리가 결정할 수 있다면 약간 닫힌 폼 함수, 우리는 결정할 수 같은 $S(k) = \gamma(k)$$\gamma$$T(n)$

$$T(n) = \gamma( g^{-1}(n))$$

그런 다음 이것을 사용하여 위의 다른 방법 중 하나를 통해 에 바인딩합니다 . 이 방법을 사양에 따라 약간 수정할 수는 있지만 일반적으로 반복 함수 를 찾아 을 간단한 재귀로 변환하려고합니다.$T(n)$$g(k)$$T(n)$

나는 이 시점에서 를 결정하는 정확한 방법을 모르지만, 그것에 대해 계속 생각하고 명확 해지면 업데이트 할 것입니다 (또는 어떤 주석 작성자가 팁을 가지고 있다면!). 나는 과거에 시행 착오를 통해 내 함수를 주로 발견했습니다 here , here , here 및 here 참조 ).$g(k)$$g(k)$

간단한 재발 관계에 적용되는 또 하나의 접근 방법이 있습니다. Wolfram Alpha 에 요청 하여 재발을 해결하십시오.

예를 들어 f(0)=0, f(1)=1, f(n)=f(n-1)+f(n-2)Wolfram Alpha를 입력하십시오 . 피보나치 번호로 연결되는 솔루션을 얻게됩니다. 또는 시도 f(1)=1, f(n)=f(n-1)+n하거나 f(1)=1, f(n)=2*f(n-1)+3*n또는 f(n)=f(n-1) + 2 f(n-2), f(1)=1, f(2)=3다른 예는. 그러나 Wolfram Alpha는 매우 간단한 재발을 해결할 수 있지만 더 복잡한 재발에 대해서는 분리됩니다.

이 접근법은 버그 나 기능으로 볼 수있는 사고의 필요성을 피합니다.

보통 한 바와 같이 마스터 정리의 케이스 (2)는, 폼의 재발 처리 되는 대한 . Jeffrey Leon 의 유인물 에서 가져온 다음 정리 는 음수 대한 답을 제공합니다 .$T(n) = aT(n/b) + f(n)$$f(n) = \Theta(n^{\log_ab}\log^k n)$$k \geq 0$$k$

적절한 기본 사례와 함께 재발 을 고려하십시오.$T(n) = a T(n/b) + f(n)$

1. 경우 대한 후, .$f(n) = O(n^{\log_b a} \log^{c-1} n)$$c < 0$$T(n) = \Theta(n^{\log_b a})$

2. 만약 에 대한 다음 .$f(n) = \Theta(n^{\log_b a} \log^{c-1} n)$$c = 0$$T(n) = \Theta(n^{\log_b a} \log\log n)$

3. 만약 위한 다음 ).$f(n) = \Theta(n^{\log_b a} \log^{c-1} n)$$c > 0$$T(n) = \Theta(n^{\log_b a} \log^c n$

증명은 이제 우리가 스케치하는 것처럼 반복되는 대체 방법을 사용합니다. 가정이 과 . 그런 다음 의 제곱의 경우 이제 사례를 하나씩 살펴 보겠습니다. 일 때 수렴되므로 입니다. 경우 , 합계 고조파 합이다 등$f(n) = n^{\log_b a} \log_b^{c-1} n$$T(1) = 0$$n$$b$

$$T(n) = \sum_{i=0}^{\log_b n-1} a^i (nb^{-i})^{\log_b a} \log_b^{c-1} (nb^{-i}) = \\ \sum_{i=0}^{\log_b n-1} n^{\log_b a} (\log_b n - i)^{c-1} = n^{\log_b a} \sum_{j=1}^{\log_b n} j^{c-1}.$$ $c < 0$$\sum_{j=0}^\infty j^{c-1}$$T(n) = \Theta(n^{\log_b a})$$c = 0$$H_{\log_b n} = \log(\log_b n) + O(1)$$T(n) = \Theta(n^{\log_b a} \log \log n)$ 입니다. 경우 , 우리는 일체 사용 합에 근사 할 수 따라서 .$c > 0$ $$\sum_{j=1}^{\log_b n} \approx \int_0^{\log_b n} x^{c-1} \, dx = \left. \frac{x^c}{c} \right|_0^{\log_b n} = \frac{\log_b^c n}{c},$$ $T(n) = \Theta(n^{\log_b a} \log^c n)$