생존 본능이 AGI를 만들기위한 전제 조건이라는 강력한 주장이 있습니까?

11

이 질문은 상당히 "비공식적 인"소스에서 비롯됩니다. 2001, A Space Odyssey 및 Ex Machina 와 같은 영화 ; Destination Void (Frank Herbert) 와 같은 책 과 다른 사람들은 일반 지능 이 생존 하기 를 원 하고 그 중요성을 배우는 것을 제안 합니다.

생존에 대한 몇 가지 주장이있을 수 있습니다. 가장 눈에 띄는 것은 무엇입니까?

agi

— 에릭 플라톤
소스

@DukeZhou 주제에 관한 공개 문서가 있습니까?

— Eric Platon

1

아직은 아니야 (개발주기가 매우 느리기 때문에 긴 프로세스가 될 것입니다. 또한 제가 실제로보고있는 것은 위험을 완화시키는 일반화 된 유틸리티 기능이 아니기 때문에이 맥락에서 AGI에 대해 언급하지 않았을 것입니다. super-intelligence!) 당신을 업데이트하고 싶었지만, 이와 관련하여 지나치게 낙관적이거나 오해의 소지가있는 원래 의견을 삭제하는 것이 가장 좋습니다.

— DukeZhou

1

본질적으로 제 생각에는 일반적인 경제 유틸리티 기능이 주요 동기 를 제공함으로써 AGI에 대한 좋은 기반을 형성 할 것이라고 생각했습니다 . (생각은 일반 지능은 단지 능력의 정도에 불과하다. 문제는 무한대로 확장된다.) 그것은 오토마타가 상태를 유지하고 개선하는 맥락에서 최적의 의사 결정을 지향한다는 의미에서 생존 본능과 관련이있을 것이다. ( 모든 결정이 궁극적으로 경제적 인 것으로 간주되는 "생태계에 해를 끼칠 수있는

— 무의식적

1

(만약 당신이 그 주제를 논의 할 수있는 "온라인 장소"를 가지고 있다면, 그것은 좋을 것입니다 --- 저는 우리가이 사이트에서 시작된 것 같습니다)

— Eric Platon

6

Steve Omohudro는 Basic AI Drives 라는 논문을 작성했습니다. 좁은 목표를 가진 AI가 좁은 목표에 유용한 도구로서 기본적인 개념을 찾는 이유를 단계별로 설명합니다.

예를 들어, 주식 시장 수익률을 극대화하도록 설계되었지만 생존을 계속해야하는 중요성에 대해 침묵하는 디자인의 AI는 지속적인 생존이 주식 시장 수익률을 극대화하는 핵심 요소임을 인식하고 운영을 유지하기위한 조치를 취합니다.

일반적으로, 우리는 AI와 다른 코드 '의인화'의 의심해야하지만이처럼 보인다 있는 이 이상을 기대하는 이유 "이런 식으로 행동하라 아니라, 인간이 어떻게 모든 정보 동작합니다 있어야합니다, 그래서."

— 매튜 그레이브스
소스

1

Omohudru는 minimax의 맥락에서 "반환 최대화"를 사용한다고 가정합니다. 여기서 단점의 완화는 방정식의 일부입니다. 내 관점에서 볼 때, "다른 생존"은 주기적 게임에서 미니 맥스의 기본 확장입니다.

— DukeZhou

5

'생존 본능'의 개념은 아마도 Marvin Minsky가 '가방 단어'라고 부르는 범주에 속할 것입니다. 즉, 처음에는 특이한 개념으로 보이는 것에 관련된 여러 현상을 묶습니다.

따라서 우리는 디자인에서 명백한 규칙으로 기능하지 않고 어떤 종류의 '하드 코딩 된'생존 본능이 나타나는 메커니즘을 구성 할 수 있습니다.

신경 해부학자 Valentino Braitenberg 의 아름다운 작은 책 'Vehicles' 에서 '생존 본능'과 같은 '하향식'개념이 '하단부터'어떻게 진화 할 수 있는지에 대한 설득력있는 설명을보십시오.

또한 지능적인 인공물이 생존에 우선 순위를 두도록하려면 Killbot Hellscape로 쉽게 이어질 수 있습니다 .

— 니체
소스

2

나는 Sisyphus의 신화 라는 책을 인용하여 답할 것이다 .

정말 심각한 철학적 질문은 하나 뿐이며 그것은 자살입니다.

따라서 AGI가 실존 할 때마다 AGI가 "자신을"종료하지 않기를 원한다면 어느 정도의 생존 본능이 필요할 것입니다.

— kc sayz 'kc sayz'
소스