시간 복잡도 알고리즘 의 특징은 무엇입니까 ?

때로는 알고리즘을 신중하게 검사하면서 시간의 복잡성을 쉽게 식별 할 수 있습니다. 두 개의 중첩 루프가있는 알고리즘 $N$은 분명히 $N^2$ 입니다. 두 값 의 $N$ 그룹의 가능한 모든 조합을 탐색하는 알고리즘 은 분명히 $2^N$ 입니다.

그러나 나는 $\Theta(N \log N)$ 복잡성을 가진 알고리즘을 "스팟"하는 방법을 모른다 . 예를 들어 재귀 병합 병합 구현은 하나입니다. mergesort 또는 다른 $\Theta(N \log N)$ 알고리즘 의 일반적인 특징은 무엇입니까 ?

알고리즘이 $\Theta(N \log N)$ 복잡 할 수있는 방법이 두 가지 이상 있다고 확신 하므로 모든 대답을 높이 평가합니다. BTW 엄격한 증거가 아닌 일반적인 특성과 팁을 찾고 있습니다.

전형적인 는 작업을 선형 시간 으로 나누고 조각으로 반복 하는 분할 및 정복 알고리즘 입니다. 병합 정렬은 다음과 같은 방식으로 작동합니다. 입력을 두 개의 대략 같은 조각으로 나누는 데 O ( n ) 시간을 소비하고, 각 조각을 재귀 적으로 정렬하고 , 두 개의 정렬 된 반쪽을 결합하는 데 Θ ( n ) 시간을 소비 합니다.$\Theta(n \log n)$$O(n)$$\Theta(n)$

직관적으로, 분할 및 정복 아이디어를 계속하면 분할에 걸리는 시간이 선형이기 때문에 분할 할 조각의 수가 증가하면 조각의 크기가 줄어드는 것과 정확히 일치하기 때문에 각 분할 단계는 총 선형 시간이 걸립니다. 총 실행 시간은 분할 단계의 총 비용에 분할 단계 수를 곱한 값입니다. 조각의 크기가 매번 반으로 줄어들 기 때문에 나누기 단계가 있으므로 총 실행 시간은 n ⋅ log ( n ) 입니다. (승수 상수까지는 로그의 밑이 중요하지 않습니다.)$\log_2(n)$$n \cdot \log(n)$

그것을 방정식 ()에 넣으면, 그러한 알고리즘 의 실행 시간 을 추정하는 한 가지 방법 은 그것을 재귀 적으로 표현하는 것입니다 : T ( n ) = 2 T ( n / 2 ) + Θ ( n ) . 이 알고리즘은 선형 시간보다 많은 시간이 걸리며 n : T ( n ) 로 나눠서 더 많은 것을 볼 수 있습니다 . $T(n)$$T(n) = 2 T(n/2) + \Theta(n)$$n$N배로,T(N)/N일정한 양만큼 증가 :T(N)/N이 증가 대수, 또는 환언하면,T(N)=Θ(N로그N).

이것은보다 일반적인 패턴 인 마스터 정리 입니다. 어떤 재귀 알고리즘이 분할 크기의 입력 으로 크기의 조각 N / B 및 시간 소요 F ( N ) 분할 및 재결합, 실행 시간을 만족 수행 T ( N을 ) = ⋅ T를 ( N / B ) + f ( n ) . 의 값에 따라 닫힌 형상이 리드 및 B 및 형상$n$$a$$n/b$$f(n)$$T(n) = a \cdot T(n/b) + f(n)$$a$$b$ . 만약 = B 와 F ( N ) = Θ ( N ) , 그 마스터 정리 상태 T ( N ) = Θ는 ( N 로그 N ) .$f$$a = b$$f(n) = \Theta(n)$$T(n) = \Theta(n \log n)$

시간 이 걸리는 두 가지 다른 범주의 알고리즘 :$\Theta(n \log n)$

각 항목이 차례로 처리되는 알고리즘이며 각 항목을 처리하는 데 로그 시간이 걸립니다 (예 : HeapSort 또는 많은 평면 스윕 계산 기하학 알고리즘).

실행 시간이 분류 전처리 단계에 의해 지배되는 알고리즘. 예를 들어 최소 스패닝 트리에 대한 Kruskal의 알고리즘에서 첫 번째 단계로 가장자리를 무게별로 정렬 할 수 있습니다.

$\Theta(n \log n)$$\Theta(n \log n)$

이러한 알고리즘의 세부 사항은 종종 분할 및 정복 기법을 사용하지만 반드시 그럴 필요는 없습니다. 런타임은 근본적으로 묻는 질문에서 비롯되므로 별도로 언급 할 가치가 있다고 생각합니다.

이것은 확장 이진 검색 트리를 기반으로하는 데이터 구조에서 발생하며, 각 노드는 해당 노드의 하위 트리에서 리프를 검색하기 위해 선형 크기 데이터 구조를 저장합니다. 이러한 데이터 구조는 종종 기하학적 범위 검색에서 나타나며 종종 분해 체계를 . Agarwal 's Survey를 참조하십시오 .

$O(n \log n)$$O(\log n)$

의 복잡성 $O(n\log n)$ 입력을 나누는 분할 및 정복 알고리즘에서 발생합니다. $k$ 시간이 거의 같은 크기의 조각 $O(n)$,이 조각들을 재귀 적으로 조작 한 다음, 제 시간에 결합 $O(n)$. 일부만 조작하면 실행 시간이 줄어 듭니다.$O(n)$.

이들은 일반적으로 "분할 및 정복"다양성의 알고리즘이며, 하위 솔루션을 나누고 결합하는 비용이 "너무 크지"않습니다. 한 번 봐 가지고 이 질문을 재발의 종류가이 동작을 야기 할 것을 확인합니다.

일반적으로 Divide-and-conquer 알고리즘은 O (N log N) 복잡도를 생성합니다.

(A)의 일반적인 예 루프 ( 하지 알고리즘 자체)에서 실행$O(n \log n)$ 다음과 같습니다.

for (i = 0; i < constant; i++){
    for(j = 0; j < n; j++){
        // Do some O(1) stuff on the input
    }
}

// Alternative Variant:
for (i = 0; i < constant; i++){
    for(j = n; j < constant; j++){
        // Do some O(1) stuff on the input
    }
}

(이 중첩 루프는 그렇지 않습니다. $O(n^2)$. 또한 나누고 정복하거나 재귀하지 않습니다.)

이 루프를 사용하는 알고리즘의 구체적인 예를 제시 할 수는 없지만 사용자 정의 알고리즘을 코딩 할 때 자주 발생합니다.