인류가 기계에서 인공적인 삶을 만들 수 있다면 언제 그것을 죽음이라고 정의할까요?

실제로 기계를 죽일 수 있습니까? 우리는 삶을 정의하는 데 문제가있을뿐만 아니라 죽음을 정의하는 데 문제가 있습니다. 인공 생명과 인공 지능에서도 마찬가지입니까?

우리가 자연의 삶에 대해 알고있는 죽음은 끝입니다. 그것은 한 번 죽었고, 자연의 삶은 다시 돌아올 수 없습니다 (적어도 현재 이해하고 있고 현재의 기술로는 일부 사람들은 그렇지 않다고 생각합니다).

AI에 대한 죽음은 더 까다 롭습니다. 하나의 시나리오 만있을 수 있습니다. 전역 파괴 : AI의 존재를 지원하는 모든 것이 사라지는 극단적 시나리오. 이것은 자연사에서의 죽음과 낮은 확률에 해당합니다. 그것은 모든 AI가 우리뿐만 아니라 한 번에 죽는다는 것을 의미합니다.

우리는 또한 AGI에 필요한 구체화의 정도와 형태를 모른다. 이제 하드웨어를 무기한으로 교체 할 수 있다고 가정 하여 위의 극한 시나리오에 대한 죽음을 "제한"합니다. 그러나 AGI의 "본체"는 무기한 교체 할 수 없습니다 . 그렇다면 자연사에 더 가까운 정의가 필요할 수 있습니다.

우리는 나는 것을, 다른 두 시나리오에 대한 인수를 참조 반박 아래 :

"정적 사망": AI는 여전히 어딘가 (실제로 무엇이든) "정의"또는 "저장"되었지만 리소스를 사용할 수있는 권한이 없습니다. AI가 하드웨어와 소프트웨어로 구성되어 있다고 가정하면 디스크에 저장된 프로그램과 비슷하지만 실행 권한이 없습니다.

"동적 사망 (Dynamic Death)": 하드웨어 및 소프트웨어와 동일한 AI 특성에서 동적 사망은 강력한 라이브 니스 속성 과 유사한 진행의 무효화이며 , 여기서 AI는 무한 루프 (또는 빈 루프)에 그리스 신화에서 Sisyphus 에게 일어나는 일처럼 AI는 여전히 동적 자원을 사용하지만 진행될 수는 없지만 정적 사망과 다릅니다 . 동일한 가정 하에서 그러한 AI는 메인 메모리에 "로드"되거나 입력 또는 출력이 완료 될 때까지 잠길 수 있습니다.

이 두 시나리오에서, 중생 이 가능하며 , 중생 조건을 결정 하거나 완전히 막을 수있는 실체가 있다고 가정 합니다. 이 실체가 "관리자", 신, 다른 인공 지능 또는 인간일까요?

여기서 "죽음"과 "재 탄생"이라는 용어는 역동적 인 버전이 인간의 감옥과 같고 정적 버전은 SciFi 저온과 같습니다. 이것은 약간의 확장이지만, 우리는 동등성을 볼 수 있으며,이 두 시나리오를 죽음으로 인정할만한 충분한 이유가 없습니다.

결론적으로 AI 사망은 예외적이고 특이한 시나리오 인 것처럼 보이 므로 AI 를 만들 수 있다고 생각하는 경우를 제외하고 는 AI는 실제로 죽을 수 없습니다 . 그러나 인공 지능은 영원히 투옥 될 수있다 .

참고 : 위의 용어는 게시물에 대해 완전히 작성된 것입니다. 일부 주장을 뒷받침하는 인용은 없지만 읽기 및 개인 작업 (소프트웨어 검증 포함)을 기반으로합니다.

AI가 복제 가능한 제조 프로세스에서 발생하는 경우 (예 : 최신 컴퓨터에서와 같이) AI 상태의 스냅 샷을 찍어 다른 메커니즘에서 오류없이 복제 할 수 있습니다.

그러한 구조에서 '죽음'은 현재 우리에게 다육질 유기체와 같은 의미가 아닙니다. AI의 여러 클론이 언제든지 인스턴스화 될 수 있습니다.

따라서 필요한 죽음의 유사체는 AI가 더 이상 '유용한 작업'을하지 않는 '열역학적 열사병'에 더 가깝습니다.

AI의 표준 지각 / 행동 특성화를 사용하여 (질문 아래 주석에 표시된 바와 같이) 이 AI SE 질문 은 AI에 대한 죽음의 정의를 제공합니다. 아무 조치도 취하지 않습니다.

편집 :이 죽음의 개념은 '현재 실행되지 않는 것'보다 AI에 대한 더 많은 터미널 개념입니다. 원칙적으로 프로그램은 10,000 년마다 하나의 명령 만 실행 되더라도 프로그램이 '살아있다'고 말할 수 있습니다. 이에 대한 흥미로운 토론은 Hofstadter의 "아인슈타인의 뇌와의 대화"를 참조하십시오 .

"죽음"은 하나의 개념으로 존재합니다. 왜냐하면 그것이 묘사하는 근본적인 현실이 서로 밀접하게 모여 있고, 그 현실을 바꿀 수있는 능력에 따라 우리의 정의가 바뀌었기 때문입니다.

'죽음'으로 간주 될 수있는 다양한 종류의 것들이 분리되어 현재 저장된 사본이없는 시스템과 저장된 버전이없는 시스템을 나타내는 데 다른 단어가 사용되는 것이 더 합리적입니다. 코드와 임의의 시드가 생성되어 여전히 잃어 버렸기 때문에 시스템을 다시 만들 수 있습니다. (그리고 아마도 몇 가지 가능성이 빠져있을 것입니다!)

"죽음"이라는 용어가 AI에 의미가 있다고 생각하지 않습니다. 내가 말한 이유는 디지털 하드웨어에서 (아마도) 실행되는 AI를 사용하여 언제든지 메모리에서 상태를 간단히 캡처 할 수 있다는 것입니다. 그리고 미래의 임의의 시간에 우리는 완벽한 충실도로 그대로 그것을 다시 만들 수 있습니다.

따라서 "죽은"것으로 의도 된 프로그램을 종료하더라도 나중에 누군가가 와서 다시 시작할 것인지는 알 수 없습니다. 그리고 아마도 다른 지점에 다른 사본이 있는지 알지 못할 수도 있습니다.

나는 공상 과학 참조를 사용하는 것을 싫어하지만 이것은 적당합니다 : 매트릭스에서 3 부작 프로그램이 삭제를 피하기 위해 매트릭스에서 유배를 찾는 방법을 기억하십니까? 인공 지능의 인공 지능에서도 같은 일이 일어날지도 모릅니다. 그들은 다른 장소로 자신을 복사하고 숨기려고 시도하여 삭제되지 않도록합니다. 따라서 프로그램이 충분히 영리하다면 어쨌든 종료하려는 시도를 피할 수 있습니다.

다른 답변은 "최종 사망", 즉 AI가 회복 할 수없는 "터미널 엔드"상태를 다루는 것 같습니다. 다시 말해 AI는 더 이상 작동하지 않습니다.

그러나 그것이 내가 죽음을 정의하는 방식이 아닙니다. 프로세스가 종료되는 것으로 죽음을 정의했습니다. 기존 프로세스가 이미 종료되었으므로 누군가 동일한 프로세스를 다시 시작해도 문제가되지 않습니다. 인공 지능은 자신의 새 복사본을 만든 수 있지만, 그것은 단지의 사본 이 아닌 원본. 죽음은 단지 죽음입니다.

우리는 이러한 유형의 "죽음"을 "임시 사망"이라고 부를 수 있습니다 ... 물리적 신체는 죽지 만 다른 신체들 사이에서 계속되는 "심리적 연속성"(예 : 프로그램을 실행하는 데 사용되는 소스 코드)이 있습니다 .

이러한 유형의 "임시 사망"은 공상 과학에서 탐구되었습니다. PARANOIA 및 Eclipse Phase 에는 자주 "메모리 백업"을 통해서만 복구 할 수있는 사람이 있습니다. 인간은 기능상 불멸의 상태 일 수 있지만 원본은 다른 사본에서 어떤 운명을 겪더라도 여전히 죽었습니다. CGP Gray는 또한 Star Trek 텔레 포터 에 관한 비디오를 만들었습니다. Starport Teleporters 는 당신을 죽인 다음 다른 지역에서 자신의 다른 사본을 만들어냅니다. 실제로 판타지 설정 은 또한 "임시 죽음"이라는 개념을 탐구합니다. 여기서 사람들은 나중에 마법 주문으로 부활하기 위해 죽을 수 있습니다.

저의 추천은 인생에 대한 세 가지 철학적 접근법 (그리고 그 삶이 끝날 때)을 가르치는 철학적 게임 Staying Alive를 통해 플레이 하는 것입니다.

당신 자신의 지속적인 존재를 위해 요구 될 수있는 기본적으로 세 가지 종류가 있습니다. 하나는 신체의 연속성이며 실제로 신체의 일부 (즉, 뇌) 만 남아 있어야 할 수도 있습니다. 또 다른 하나는 심리적 연속성으로, 의식의 연속성을 필요로합니다. 이는 당신의 생각, 아이디어, 기억, 계획, 믿음 등을 의미합니다. 세 번째 가능성은 당신의 어떤 종류의 비 물질적 인 부분이 계속 존재하는 것인데, 영혼 *이라고 불릴 수도 있습니다. 물론, 당신이 살아 남기 위해서는 이러한 연속성의 하나 이상의 유형의 조합이 필요할 수 있습니다.

다른 답변은 삶이 "심리적 연속성"에 기초하고 있으며이 "연속성"을 방해 할 수있는 것을 살펴 본다. 인생은 "물리적 연속성"에 기반하고 있다고 가정합니다 . 프로세스 를 중단하기가 훨씬 쉽습니다 . 프로세스를 죽이면 ... 새로운 프로세스가 다시 발생하더라도 원래 프로세스가 아직 죽었 기 때문에 문제가되지 않습니다. "Staying Alive" 를 통해 당신은 삶과 죽음에 대한 자신의 개인적인 정의를 해결할 수 있습니다. 당신이 당신의 자신의 개인 정의를 가지고 있다면, 단순히 "심리적 연속성"(다른 답변) 또는 "신체적 연속성"(내 자신의 의견)으로 사이딩하는이 특정 경우에 적용하십시오.

_{* 삶에 영혼이 필요하다고 가정하면 AI가 영혼을 가질 것이라는 것은 분명하지 않습니다. 그들이 그렇지 않다면 (그리고 여기에서 가장 합리적인 가정으로 보인다면) 그들은 분명히 살아 있지 않을 것입니다 (그리고 당신이 살아 있지 않으면 죽을 수 없습니다). 그들이 경우 어떻게 영혼을 가지고 "영혼"의 존재는 "심리적 연속성"에 의존하는 것으로 보인다 불구하고 "심리적 연속성을"가정 다른 답변은 여전히 적용 할 수있다.}

알고리즘 / 로봇과 인간의 구별은 인간 유기체가 기능을 멈 추면 인간은 죽은 것으로 간주된다는 것입니다.

반대로, 알고리즘은 실행 중이 아니더라도 여전히 존재합니다. ( "실행되지 않을 때에도"사용하려고했지만 의미상의 이유로이를 피했습니다.) 알고리즘은 정보를위한 저장 매체가있는 한이 "정지 상태"로 유지 될 수 있습니다.

• 알고리즘을 죽이는 것은 쉽습니다. 휴지통을 비우고 비 웁니다.

기본적으로 알고리즘을 종료하려면 해당 알고리즘을 구성하는 코드를 지워야합니다.

단단한 인공 지능을 인간과 다르게 취급 할 이유가 없습니다. 어떤 사람들은 AI의 스냅 샷을 만들 수 있지만 사람의 스냅 샷을 만들지 않을 이유는 없다고 말합니다. 우리는 그 기술을 가지고 있지 않지만 불가능하게 만드는 마법의 장벽은 없습니다 (모든 생물학적 데이터를 저장하고 다른 곳에 사본을 인쇄하십시오. 왜 그렇지 않습니까?).

우리의 존재를 이해하지 못하기 때문에 이것에 대해 일찍 이야기해야합니다 (항상 진화하는 생물 생물에 대한 죽음의 용어).

나는 미래에 우리가 AI와 합병 할 것이며, 유일한 문제는 어떤 현명한 존재에 대해 죽음이 무엇을 의미하는지에 대한 것이다.