인공 지능의 맥락에서 특이점은 재귀적인 자기 개선이 가능한 인공 일반 지능 의 출현을 의미하며, 기술 특이점을 달성 한 직후에 한계를 알 수없는 인공 초 지능 (ASI)의 출현으로 이어진다. . 따라서 이러한 초 지능 기술은 우리가 해결할 수없는 문제를 해결할 수있을 것입니다.

인공 지능의 미래 발전에 대한 여론 조사에 따르면 : 전문가 의견 조사 (2014)

응답자의 중앙값은 2040-2050 년경에 고수준의 머신 인텔리전스가 개발 될 가능성이 두 번인 것으로 추정되었습니다.

그리 멀지 않은.

AI가 많은 문제를 해결함으로써 우리에게 이익을 줄 수 있다는 점에서 AI가 전지전능 할 수 있다는 생각에 어떤 문제가 있습니까?

나는 당신의 견해를 매우 좋아하며, 수많은 다른 질문들에서 다루어지는 "단일성"이 어떻게 영향을받을 수 있는지, 또는 의식과 전지 론이 요구 사항이 아니기 때문에 의식과 "전지 론"이 어떻게 작용하는지에 대한 세부 사항을 다루지 않고 나는 대신에 두 가지 주요 철학자에게 안내하십시오.

• 필립 케이 딕 (Phillip K. Dick)은 AI에 관한 그의 유명한 1968 년 책 의 중심 주제가 공감합니다. (당신이 그것을 읽지 않았다면, 스포일러를 게시하지는 않지만 단지 5 년 후에 공식화 된 진화 게임 이론 의 개념에 의해 음모가 이루어 졌다고 말할 것 입니다.)

• John Nash, 특히 Nash Equilibrium 의 개념 . (내쉬는 "douchebag"라는 것이 최적의 전략이 아니라는 것을 수학적으로 증명했다고 할 수있다. 그의 증거는 Von Neumann의 기대에 반하는 핵의 detente가 실제로 효과 가 있었던 이유를 설명하는 데 사용될 수있다 .)

따라서 사람들 이 기계를 사용하여 우리를 파괴 하는 " 스카이 넷 "신화에 초점을 맞추면 사람들이 단순히 내쉬만큼 똑똑하지 않거나 딕만큼 심하지 않은지 궁금합니다. " 전기 양 "패러다임 이라고 할 수있는 것.

문제는 좋은 것이며 많은 사람들의 마음에 있습니다. 고려해야 할 몇 가지 오해가 있습니다.

• 인간 이외의 지성인의 우월성은 문명을 위협합니다. 그 위협의 상상이 논리적입니까? 이것이 오늘날 생물권에서 인간 지능이 가장 위협이되는 생물학적 현상 일 때의 합리적인 결론입니다. 곤충의 지능이 더 지속될 수 있습니다. 개미와 흰개미의 문명은 확실히 더 협력 적입니다. 세계 대전과 대량 학살은 인류 역사의 주요 특징 중 하나입니다.
• 인공 지능은 인간보다 지능이 높아집니다. 인공 지능은 일부 측면에서 이미 인간보다 지능적이기 때문에 계산기, 운영자 대신 통신 신호 자동 전환 및 자동 메일 분류기를 사용합니다. 다른 방식으로, 인공 지능은 인간의 지능에 근접하기 시작하기 위해 천문학적 거리를 넘어야합니다. 우리는 추론, 독창성 또는 동정심의 인간의 능력을 미래에 모방하거나 복제 할 수 있다는 힌트조차 보여주지 않습니다.
• 특이점은 2040 년대로 예측됩니다. 이러한 예측에는 12 가지가 넘는 비현실적인 가정이 있습니다. 뒤에있는 논쟁 중 하나를 비판적으로 살펴보면 눈가리개를 통해 757을 날 수있는 구멍이 생길 것입니다.
• 지식의 기하 급수적 인 증가 — 정보의 기하 급수적 인 증가가 있지만 잘못된 정보, 거친 추측 및 가짜 뉴스가 증가함에 따라 합법적으로 검토되는 정보의 비율이 줄어 듭니다. 세계의 정보량은 log (n)에 의해 근사 될 수 있으며, 여기서 n은 인구입니다. 그 관계를 잘 알고 있다면 평균 개인의 정보 가치는 log (n) / n이며, 인구가 증가함에 따라 감소합니다.
• AI는 전능성이 가능합니다. Omniscience는 모든 질문에 대답하는 것 이상입니다. Omniscience는 응답이 100 % 신뢰할 수 있고 100 % 정확해야하므로 우주에 존재하는 것보다 더 많은 실리콘이 필요할 수 있습니다. 이유를 이해하려면 Gleick 's Chaos를 읽으십시오 . 전능 한 존재가 명령에 대한 질문에 대답하지 않을 것이라고 주장 할 수도있다.

인간 지능에 의해 통제되는 것보다 더 나은 세상을 원한다면, 한 가지 방향은 개와 고양이.

쉬운 길은 우리 모두가 죽는 것입니다. 생물권은 우리가 도착하고 모든 것을 죽이기 전에 문명화되었을 수도 있습니다. 그러나 그것은 나의 희망이 아닙니다.

저는 NI (비 지능)를 연구하고 인간 행동과 지정 학적 상호 작용에서 어리석은 것을 제거하는 방법을 발견 할 것을 권장합니다. 그것은 산만하고 실질적으로 관련이없는 기계 학습 가제트 및 앱보다 훨씬 더 세상을 향상시킬 것입니다.

내 유인원이 생각한 몇 가지 문제가 있습니다.

1. 스마트! = 모든 지식

AI 자체 개선 폭발로 인해 똑똑하고 똑똑해졌습니다. 더 똑똑하다는 것이 더 많은 사실을 아는 것은 아닙니다. 나는 이것이 꽤 까다로운 논쟁이라고 생각하지만, 생각해 볼 가치가 있다고 생각합니다.

당신의 역사를 모르는 매우 똑똑한 의사는 더 나은 데이터를 가진 덜 지능적인 의사보다 여전히 더 나쁜 선택을 할 수 있습니다.

2. 그것은 모두 인간을위한 것인가? 모든 인간을위한 것인가?

높은 수준에 도달 한 ASI는 우리의 복지에 관심이 없었습니다.

통제 된 ASI는 여전히 소수의 이익을 위해 효과가있을 수 있습니다.이 중 소수만이 잘못된 목표를 결정하면 우리는 거꾸로 갈 수 있습니다.

3 가혹한 ASI

과학적 사고는 반드시 동정이나 공감으로 가득 찬 것은 아닙니다.

4. 똑똑하고 영리하지 않다

좋은 마음은 여전히 ​​목표를 설정하고 목표를 달성하기위한 계획을 실행하는 데있어서 실수를 저지 릅니다.

Geat 인텔리전스는 시야가 부족하거나 사각 지대가 없음을 보장합니다.

5. 한계

존재 범위 (광속 유형 제한 속도)가있는 경우 AI도 이에 구속됩니다. 이것은 ASI조차도 얻을 수없는 것들이 있음을 의미 할 수 있습니다. 또한 우리의 마음에는 그 구조에 따라 한계가있을 수 있으므로 다음 AI에도 한계가있을 수 있습니다 .uppn이 향상 되더라도 '너무 어리석기 때문에 솔루션을 찾을 수없는 한계에 도달 할 수 있습니다.

6. 우리는 그것을 얻을 수 없습니다

세계의 특정 측면에 대한 ASI의 이해는 대부분의 인간에게 의사 소통이되지 않을 수 있습니다. 우리는 그것을 얻지 못할 것입니다 (우리가 모든 것을 이해할 수 있다고하더라도 그것을 이해한다는 의미는 아닙니다).

7. 그것을 사용하는 방법?

우리는 스스로를 파괴하고 인공 지능이 우리를 도와주는 기술로 파괴 할 수 있습니다. 폭탄 일 필요는 없습니다. 지리 공학이나 마약을 할 수 있습니다.

이것은 ASI가 이미 강력하지만 부정적인 결과를 예상하기에 충분히 강하지 않을 때 특히 강합니다 (또는 어쨌든 무시할 것입니다).