비결정론과 무작위성의 차이점은 무엇입니까?

나는 최근에 이것을 들었다-
"비결정론 적 머신은 확률 론적 머신과 동일하지 않다. 비결정론 적 머신은 전환에 대한 확률이 알려지지 않은 확률 론적 머신이다."

마치 요점을 얻는 것처럼 느껴지지만 실제로는 그렇지 않습니다. 누군가 나에게 이것을 설명 할 수 있습니까 (기계의 맥락에서 또는 일반적으로)?

편집 1 :
명확히하기 위해 인용은 유한 오토 마톤과 관련이 있었지만 다른 사람들이 대답 한 것처럼 Turing 기계에도 문제가 의미가 있습니다.

또한 사람들이 "... 그런 다음 개체 x를 비 결정적으로 선택합니다"라고 들었습니다. 나는 그들이 "무작위"를 의미한다고 생각했었다. 따라서 혼란.

컴퓨터 과학자들은 "비결정론 적"이라는 용어가 다른 과학에서 일반적으로 사용되는 방식과 다르게 사용된다는 것을 이해하는 것이 중요합니다. 비결정론 적 TM은 실제로 물리학 적 관점에서 결정 론적입니다. 즉, NTM은 항상 주어진 입력에 대해 항상 같은 대답을 생성합니다. 항상 받아들이거나 거부합니다. 확률 TM은 특정 확률로 입력을 수락하거나 거부하므로 한 실행에서는 수락하고 다른 실행에서는 거부 할 수 있습니다.

세부 사항 : NTM이 수행하는 계산의 각 단계에서 단일 전이 규칙 대신 호출 할 수있는 여러 규칙이 있습니다. NTM이 수락 또는 거부하는지 확인하려면 가능한 모든 계산 분기를 살펴보십시오. (그래서이 각 단계에서 선택 말하자면 정확히 2 전이가 있으며, 각 연산 지점 N 단계의 합계가있는 경우, 다음이 될 것이다 고려 총 된 brances한다.) 표준 NTM 들어, 입력 접수 만약 어떤 연산 지점들이 수용한다.$2^N$

정의의이 마지막 부분은 다른 관련 유형의 튜링 기계를 얻도록 수정 될 수 있습니다. 고유 한 솔루션이있는 문제점에 관심이있는 경우 정확히 하나의 브랜치가 승인되면 TM이 수락하도록 할 수 있습니다. 다수의 동작에 관심이있는 경우, 분기의 절반 이상이 수락 될 경우 수락하도록 TM을 정의 할 수 있습니다. 그리고 확률 분포에 따라 무작위로 가능한 분기 중 하나를 선택하고 해당 분기의 기능에 따라 수락 또는 거부하면 확률 TM이 있습니다.

Turing Machines의 맥락에서 "비 결정적"은 실제로 "병렬"을 의미합니다. 무작위 알고리즘은 비 결정적 튜링 머신의 계산 트리 분기를 임의로 탐색 할 수 있지만 비 결정적 튜링 머신은이를 동시에 탐색 할 수 있습니다.

다른 맥락에서 (Turing Machines에 대해 이야기하는 경우 견적에서 말할 수 없습니다) 무작위 알고리즘은 의도적으로 임의성을 사용하는 반면 결정적 알고리즘은 버그로 인해 결정적이지 않을 수 있습니다. ...

사용자가 편집 한 내용에 따라 사람들이 "집단에서 요소를 비 결정적으로 선택"이라고 말하면 가능한 한 "무작위"를 의미 할 수 있습니다. 그러나 "세트에서 올바른 요소를 마술처럼 선택"한다는 의미 일 수도 있습니다. 비 결정적 튜링 머신을 보는 일반적인 방법은 먼저 솔루션을 마술처럼 "추측"한 다음 정확성을 확인하는 것입니다. 물론 모든 가능성을 동시에 확인한 결과로이 마법 추측을 볼 수 있습니다.

"결정 론적", "무작위"및 "비결정론 적"은 세 가지 다른 의미를 갖는 여러 가지 상황이 있습니다. 보안 및 동시성과 같은 여러 참가자가있는 상황에서 직관은 종종 다음과 같습니다.

• 결정 론적 의미는 "나는 선택한다"

• 비 결정적 의미는“다른 사람이 선택할 수있다”

• 랜덤은 "아무도 선택할 수 없음"을 의미합니다

몇 가지 예 :

1. [동시성, 임의성] 여러 노드가 언제든지 메시지를 보낼 수있는 Ethernet 과 같은 네트워킹 프로토콜을 고려하십시오 . 두 노드가 매우 가까운 간격으로 메시지를 보내면 충돌이 발생합니다. 메시지가 겹치고 읽을 수 없습니다. 충돌이 발생하면 두 노드 모두 나중에 메시지를 다시 보내야합니다. 이더넷 사양을 작성한다고 가정하십시오. 재시도 간의 지연을 어떻게 지정합니까? (지연이 다르거 나 충돌이 다시 발생합니다!)

   • 결정 성 : 두 노드가 모두 사용해야하는 알고리즘을 정의하십시오. 다른 결과를 제공하기 위해 알고리즘은 주어진 메시지 내용에 대해 한 노드를 다른 노드보다 특권을 부여해야하고 이더넷은 그렇게하지 않기 때문에 이더넷에 대해서는 수행되지 않습니다.

   • 비 결정적 : 각 구현자가 결정하게하십시오. 두 노드의 구현자가 동일한 알고리즘을 선택할 수 있기 때문에 이것은 좋지 않습니다.

   • 랜덤 : 각 노드는 무작위로 (지정된 분포로) 지연 값을 선택해야합니다. 그것이 작동하는 방식입니다. 두 노드가 동일한 지연을 선택하고 다른 충돌이 발생할 가능성은 적지 만 재시도 횟수가 증가함에 따라 성공 확률은 1에 대해 무증상으로 증가합니다.

2. [동시성, 비 결정적] 동시 알고리즘을 작성합니다. 특정 상황에서는 교착 상태가 발생할 수 있습니다. 교착 상태가 발생하지 않도록하려면 어떻게해야합니까? 이는 동시성 환경에 어떤 종류의 일정이 있는지에 달려 있습니다.

   • 결정적 : 스케줄러는 항상 명확하게 정의 된 특정 지점에서 스레드간에 전환합니다 (예 : 코드가 명시 적으로 생성되는 경우에만). 그런 다음 나쁜 시간에 스레드가 생성되지 않도록 간단히 정렬하십시오.

   • 랜덤 : 스케줄러는 스레드를 무작위로 전환합니다. 그런 다음 교착 상태가 발생할 경우 교착 상태를 감지하고 알고리즘을 처음부터 다시 시작하는 것이 가능합니다.

   • 비 결정적 (대부분의 스케줄러는 다음과 같습니다) : 스케줄러가 스레드간에 언제 전환하는지 알 수 없습니다. 따라서 교착 상태를 피해야합니다. 임의의 경우처럼 검색하고 다시 시작하려고하면 스케줄러가 스레드를 정확히 같은 방식으로 반복해서 예약 할 위험이 있습니다.

3. [security, random] 암호 프롬프트로 응용 프로그램을 작성합니다. 공격자는 어떻게 모델링합니까?

   • 결정 론적 : 공격자는 항상 동일한 암호를 시도합니다. 이는 유용한 공격자 모델이 아닙니다. 공격자는 정의 상으로는 예측할 수 없습니다.

   • 결정적이지 않음 : 공격자가 어떻게 든 암호를 알고 입력합니다. 이것은 비밀번호의 한계를 보여줍니다. 비밀번호는 비밀로 유지해야합니다. 암호가 비밀이면이 공격자는 비현실적입니다.

   • 무작위 : 공격자가 무작위로 비밀번호를 시도합니다. 이 경우에는 실제 공격자 모델입니다. 공격자가 사용하는 임의의 배포에 따라 암호를 추측하는 데 걸리는 시간을 연구 할 수 있습니다. 좋은 암호는 실제 배포에 오랜 시간이 걸리는 암호입니다.

4. [보안, 비 결정적] 응용 프로그램을 작성하면 보안상의 문제가있을 수 있습니다. 공격자는 어떻게 모델링합니까?

   • 결정 론적 : 공격자는 알고있는 모든 것을 알고 있습니다. 다시 말하지만, 이는 공격자의 유용한 모델이 아닙니다.

   • random : 공격자가 임의의 쓰레기를 버리고 프로그램이 충돌하기를 희망합니다. 때때로 유용 할 수 있지만 ( fuzzing ) 공격자는 그보다 더 영리 할 수 ​​있습니다.

   • 비 결정적 : 구멍이 있으면 공격자가 결국 구멍을 찾습니다. 따라서 응용 프로그램을 강화하고 (공격자의 지능 요구 사항을 높이십시오. 계산 요구 사항이 아닌 지능 요구 사항이므로 AI가 올 때까지 결정적이지 않은 것으로 간주 됨) 더 나은 방법은 없습니다. 보안 허점이 있으므로 그러한 공격자는 존재하지 않습니다.

일을 더 명확하게하는 예 :

10000 개의 문 중 문을 열어야한다고 가정 해 봅시다 (문 중 하나 뒤에 상금이 있다고) 무작위로 선택한다는 것은 10000 개의 문 중 하나를 선택하여 입력한다는 의미입니다. 하나의 문 뒤에 상이 있다면, 아마 그것을 찾지 못할 것입니다. 비 결정적 기계는 모든 10000 개의 문에 동시에 들어갑니다. 상이 있으면 결정적이지 않은 기계가 찾아냅니다.

비 결정적 튜링 기계의 정의 : 현재 셀의 내용과 현재 상태의 일부 조합에 대해 하나 이상의 다음 상태를 갖는 튜링 기계. 이동 순서가 승인을 받으면 입력이 승인됩니다.

영유아 Turing Machine의 정의 : 확률 결정에 따라 각 지점에서 이용 가능한 전이 중에서 무작위로 선택 하는 비 결정적 Turing Machine (TM).

확률 적 튜링 머신은 실수를 저지르는 비 결정적 튜링 머신입니다.

PPT 도움이되었습니다.

다음 정의를 선호합니다.

확률적인 튜링 머신은 없습니다! 결정적 기계 (모든 단계에서 단일 가능한 후속 상태)와 비결정론 적 기계 (모든 단계에서 일정한 수의 후속 후속 상태)가 있습니다.

비결정론은 다음과 같이 작동합니다. 가능한 모든 계산에서 동일한 단계 수를 사용하고 각 단계에 정확히 2 개의 후속 조치 상태가있는 각 입력 (정지 가능한 경우)에서 정지하는 비결정론 적 시스템을 고려하십시오 ( 둘 다 실제로 제한은 아닙니다). NP의 정의에서와 같이, 비결정론 적 머신은 적어도 하나의 가능한 수락 계산이 존재하면 입력을 받아들이고, 모든 계산이 거부하면 입력을 거부합니다.

임의성은 다음과 같이 작동합니다. 위에서 언급 한 비 결정적 시스템에서 단일 계산 경로를 무작위로 균일하게 선택할 수 있습니다. 이 무작위로 선택된 계산 경로가 허용되는 경우에만 수락합니다. 이 무작위 접근 방식은 압도적 인 확률로이 답변이 정확하다면 문제를 "해결"합니다.

따라서 비결정론과 무작위성의 차이점은 올바른 예-응답 (그리고 신뢰할 수있는 무응답) 의 단순한 존재 를 찾고 있는지 또는 "대부분의" 문제 해결에 관심이 있는지 여부 입니다.

간단하게 유지하기 위해 : 비결정론 적 머신은 각 코인 플립의 결과를 최적으로 선택할 수 있습니다 (확률 적 머신과 유추하는 경우). 코인 플립의 각 결과에 대해 병렬로 계산을 수행한다고 상상할 수도 있습니다.

비결 정성에 대한 동기 부여로 디버깅 중 뒤로 밟기

결정적이지 않은 머신의 개념은 디버깅하는 동안 프로그램을 통해 (시간에 따라) 뒤로 이동하려는 경우 자체를 제안합니다. 일반적인 컴퓨터에서 각 단계는 한정된 양의 메모리 만 수정합니다. 이전 10000 단계에 대해이 정보를 항상 저장하면 프로그램에서 앞뒤로 멋지게 단계를 수행 할 수 있으며이 가능성은 장난감 프로그램으로 제한되지 않습니다. 전진 단계와 후진 단계 사이의 비대칭 성을 제거하려고하면 결정적이지 않은 기계라는 개념으로 끝납니다.

비결정론과 무작위성의 유사점과 차이점

확률 론적 기계는 비결정론 적 기계와 일부 특성을 공유하지만, 앞 단계와 후 단계 사이의이 대칭은 공유되지 않습니다. 이를 확인하기 위해 (총 또는 부분) 함수에 의한 결정 론적 기계의 단계 또는 전이, (무한) 관계에 의한 비결정론 적 기계의 전이, (하위) 확률 론적 행렬에 의한 확률 론적 기계의 전이를 모델링 해 봅시다 . 예를 들어 다음은 유한 오토마타에 해당하는 정의입니다.

• $Q$
• $\Sigma$
• $\delta:Q\times \Sigma \to Q$
• $\Delta:Q\times \Sigma \to P(Q)$
• $\Delta\subset Q\times \Sigma \times Q$
• $\Delta: \Sigma \to P(Q \times Q)$
• $\delta: \Sigma \to ssM(Q)$

$P(Q)$$Q$$ssM(Q)$$Q$

합리적인 수용 조건에는 여러 가지가 있습니다

전이는 기계의 한 부분 일 뿐이며 초기 및 최종 상태이며 가능한 출력 및 수용 조건도 ​​중요합니다. 그러나 결정 론적 기계에 대한 비등가 수락 조건은 거의없고, 비결정론 적 기계에 대한 수많은 합리적인 수용 조건 (NP, coNP, #P, ...) 및 확률 론적 기계에 대한 많은 수용 조건이 있습니다. 따라서이 답변은 주로 전환에 중점을 둡니다.

가역성은 확률 론적 기계에 중요하지 않습니다.

$P P^T P\neq P$$P$$B$$A$$k$$A$$B$$k$

비 결정적 기계에서도 가역성이 까다 롭습니다.

$P P^T P\neq P$$R\circ R^{op}\circ R \neq R$$R$$R$$R\circ R^{op}\circ R = R$$R^{op}\circ R\circ R^{op} = R^{op}$$P$$Q$$P\circ Q$

이러한 고려 사항은 푸시 다운 오토마타에도 적합합니다.

이 포스트는 비결정론에 대한 한 가지 동기는 전진 단계와 후진 단계 사이의 비대칭 성을 제거하는 것이라고 제안합니다. 비결정론의이 대칭은 유한 오토마타로 제한됩니까? 푸시 다운 오토마타에 해당하는 대칭 정의는 다음과 같습니다.

• $Q$
• $\Sigma$
• $\Gamma$
• $\delta:Q\times\Gamma\times (\Sigma\cup\{\epsilon\}) \to Q\times\Gamma^{\{0,2\}}$$\delta(q,\gamma,\epsilon)\neq\epsilon$$\delta(q,\gamma,\sigma)=\epsilon$$\sigma\in\Sigma$
• $\Delta:Q\times\Gamma^{\{0,1\}}\times (\Sigma\cup\{\epsilon\}) \to P(Q\times\Gamma^{\{0,1\}})$
• $\Delta\subset Q\times\Gamma^{\{0,1\}}\times (\Sigma\cup\{\epsilon\}) \times Q\times\Gamma^{\{0,1\}}$
• $\Delta: \Sigma\cup\{\epsilon\} \to P(Q\times\Gamma^{\{0,1\}}\ \times\ Q\times\Gamma^{\{0,1\}})$
• $\delta: \Sigma\cup\{\epsilon\} \to ssM(Q\times\Gamma^{\{0,1\}})$$\delta(\epsilon)+\delta(\sigma)\in ssM(Q\times\Gamma^{\{0,1\}})$$\sigma\in\Sigma$

$\epsilon$$\Gamma^{\{0,2\}}=\{\epsilon\}\cup\Gamma\cup(\Gamma\times\Gamma)$$\Gamma^{\{0,1\}}=\{\epsilon\}\cup\Gamma$$\Gamma^*$

고급이 아닌 입력 및 스택 작업에 ​​대한 반전 검증 다이어그램

$b\in\Sigma\subset\Sigma\cup\{\epsilon\}$

$a|bc \to a|\boxed{b}c \to ab|c$
$a|bc \leftarrow a\boxed{b}|c \leftarrow ab|c$
$c|ba \to c|\boxed{b}a \to cb|a$

$\epsilon\in\Sigma\cup\{\epsilon\}$

$a|bc \to a|bc \to a|bc$
$a|bc \leftarrow a|bc \leftarrow a|bc$
$cb|a \to cb|a \to cb|a$

다음은 반전이 좋지 않은 고급 입력 작업의 다이어그램입니다.

$\require{cancel}\xcancel{\begin{matrix} a|bc \to \boxed{a}|bc \to ab|c\\ a|bc \leftarrow \boxed{a}b|c \leftarrow ab|c\\ c|ba \to c|b\boxed{a} \to cb|a \end{matrix}}$

스택 작업 경우 세 가지 경우 , 및 입니다. 스택 작업 은 다음과 같이 로 바뀝니다.$(s,t) \in \Gamma^{\{0,1\}}\times\Gamma^{\{0,1\}}$$(s,t)=(a,\epsilon)$$(s,t)=(\epsilon,a)$$(s,t)=(a,b)$$(a,\epsilon)$$(\epsilon,a)$

$ab\ldots \to \boxed{a}b\ldots \to |b\ldots$
$\boxed{a}b\ldots \leftarrow |b\ldots \leftarrow b\ldots$
$b\ldots \to |b\ldots \to \boxed{a}b\ldots$

스택 작업 는 다음과 같이 로 바뀝니다.$(a,b)$$(b,a)$

$ac\ldots \to \boxed{a}c\ldots \to \boxed{b}c\ldots$
$\boxed{a}c\ldots \leftarrow \boxed{b}c\ldots \leftarrow bc\ldots$
$bc\ldots \to \boxed{b}c\ldots \to \boxed{a}c\ldots$

일반 스택 작업 는 로 바뀝니다.$(ab,cde)\in\Gamma^*\times\Gamma^*$$(cde,ab)$

a b f … ← c d e f … ← c d e f … c d e f … → c d e f … → a b f $abf\ldots \to \boxed{ab}f\ldots \to \boxed{cde}f\ldots$
$\boxed{ab}f\ldots \leftarrow \boxed{cde}f\ldots \leftarrow cdef\ldots$
$cdef\ldots \to \boxed{cde}f\ldots \to \boxed{ab}f\ldots$

튜링 머신의 가역성

스택이 둘 이상인 머신은 Turing 머신과 동일하며 스택 작업을 쉽게 되돌릴 수 있습니다. 처음에 동기 부여는 또한 (튜링 머신의) 반전이 어렵지 않아야 함을 시사합니다. 헤드 아래의 기호가 테이프의 왼쪽 또는 오른쪽 이동 여부에 영향을 줄 수 있기 때문에 일반적인 명령어 세트가 포함 된 튜링 머신은 반전에 적합하지 않습니다. 그러나 명령어 세트가 적절하게 수정되면 (머신의 계산 능력을 줄이지 않고), 반전은 거의 사소한 것입니다.

명령 세트를 수정하지 않고 반전을 구성 할 수도 있지만 정식이 아니며 약간 추한 것은 아닙니다. 반전의 존재는 Turing 기계와 관련된 다른 많은 질문과 마찬가지로 결정하기가 어려울 수도 있지만 반전은 로컬 구성이며 어려운 질문은 종종 세계적인 풍미를 지니고 있기 때문에 비관론은 아마도 정당화되지 않을 것입니다.

동등한 명령어 세트로 바꾸려는 충동 (역순)은 이러한 질문이 처음 나타나는 것보다 덜 명확하다는 것을 보여줍니다. 전체 함수와 확률 행렬이 부분 함수와 부분 확률 행렬로 대체되었을 때이 게시물에서 더 미묘한 스위치가 발생했습니다. 이 스위치는 꼭 필요한 것은 아니지만 그 반대의 경우에는 그 반대입니다. 부분 확률 론적 매트릭스로의 전환은 실제로 가역성이 결국 사소한 것이 아니라는 점에서 명백해졌으며, 높은 수준의 관점을 취하는 대신 세부 사항을 기록해야합니다 ( 시작). Niel de Beaudrap이 제기 한 질문은 높은 수준의 관점이 약간 흔들린다는 것을 깨닫는 데 기여했습니다.

결론

비결정론 적 머신은 각 단계에서 한정된 수의 결정 론적 전환을 허용합니다. 확률 론적 기계의 경우, 이러한 전이에는 추가로 확률이 있습니다. 이 포스트는 비결 정성과 무작위성에 대한 다른 관점을 전달합니다. 전역 수락 조건을 무시하고 대신 로컬 가역성 (로컬 대칭)에 중점을 둡니다. 무작위성은 결정론에 의해 보존되지 않은 일부 지역 대칭을 보존하기 때문에,이 관점은 비결정론 적 기계와 확률 론적 기계 사이의 사소한 차이를 보여준다.

$n$$2^n$ 기계에 구현 된 알고리즘이 무작위 화 또는 확률과 관련이 있는지 여부에 관계없이 상태의 등가 클래스를 고려하여

그러나 머신에서 구현 된 알고리즘에 랜덤 화 또는 확률 (알고리즘의 고유)이 포함 된 경우 랜덤 머신 (또는 확률 론적)입니다.

일반적으로, 기계에서 비결정론을 제거하고 결정 론적 등가물 (위의 알고리즘 참조)을 구성하는 것이 항상 가능하지만 (위의 맥락에서) 무작위 화를 제거하기 위해 (일반적으로) 동일하지는 않습니다. 구현 된 알고리즘에 내재되어 있습니다.

상기에 비추어 , 알고리즘 (관련된)이 이러한 방식으로 랜덤 화 (또는 확률)를 사용하는 경우 결정 론적 머신과 비결정론 적 머신 모두 확률론적일 수있다 .

요약하면, 오토마타에서의 비결정론 (이 문맥에서)은 유사한 오토마타 클래스를 지칭하는 반면, 랜덤 화 또는 확률 론적 머신은 이러한 오토마타에 의해 구현 된 (실제로 랜덤 화의 고유 한 적용)을 지칭한다.