인간과 같은 지능이 현명한 목표입니까? [닫은]


9

그것은 가장 진보 된 것으로 가정하고, 인간의 마음의 구성 요소를 근사화하는 데 항상 문헌에 초점을 둔 것으로 보인다. 다른 동물이 인공 지능 환경에 들어선 경우, 신경계가 단순하기 때문에 인간을 연구하거나 슬러그의 신경 활동을 시뮬레이션하기에는 실용적이지 않은 방식으로 영장류를 연구하는 것이 었습니다.

아마도 낮은 인공 양식을 원하는 인공 지능의 모델로 사용하는 것을 고려해야 할보다 앞선 생각 이유가있을 수 있습니다. 나는 EO Wilson과 다른 사람들이 다른 종의 협력 능력에 대해 말한 것을 읽었습니다. 유기체에는 박테리아만큼 단순하고 적응력이 뛰어납니다. 확실히, 개미는 협업을위한 모델입니다. 꿀 꿀벌은 틀림없이 인간 지능의 능력을 훨씬 능가하는 예술 형태로 라이프 스타일의 지속 가능성과 다른 종과의 상호 관계를 유지하면서 가장 건축에 정통합니다.

옵션을 특징 짓기 위해 스포츠 유추를 사용하는 인간 지능은 사전 계몽 검투사 스포츠 또는 적어도 아이스 하키와 비슷합니다. 꿀벌이하는 일은 등산과 비슷하고 정밀하고 세 심하게 건축하는 것입니다.

개미가하는 일은 중계 경주와 비슷합니다. 트랙의 각 차선이 독립적이고 차선이 표시되어있는 것처럼 각 식민지가 반대 팀에 관심이 거의 없습니다. 개미도 마찬가지로 자신의 영토를 표시하며, 영토 주장은 베스트 팔리 안 지정 학적 정치에서 최고로 간주됩니다. 사소한 우선권을 위해서만 사소한 질투 나 경쟁이 없습니다. 스마트 트랙 및 필드 코치와 마찬가지로 개미는 레이스의 각 레그가 릴레이 레이서의 이전 최고에 비해 잘 수행하는 것이 목표입니다.

박테리아는 장거리 주자입니다. 그들은 DNA를 서로 교환하고 고통과 두려움의 모든 규칙을 무시합니다. 그들은 당연한 일이 아니며 생존을 위해 모든 것을 사용하는 지속 가능한 방식으로 행동합니다. 그리고 그들은 지구 존재의 거의 전체 기간 동안 살아 남았습니다. 태양이 먼저 초신성을 가지 않으면 인류가 사라진 후 천억 년 동안있을 것입니다.

컴퓨터를 끝없이 경쟁자로 행동하도록 프로그램하고 싶은 이유는 무엇입니까? 사람들이 스마트 체스 프로그램을 다운로드하여 반복적으로 잃을 수 있습니까? 아니요, 협업이 가능하고 비용이 들지 않기 때문에 Android OS를 다운로드합니다. 윈-윈 시나리오가 가능한 곳에서 제로섬 이외의 게임을 할 수 없습니까?

우리는 이미 우리 자신의 종 내에서 이미 백 비트, 험담, 초 임계 물질을 충분히 가지고 있지 않습니까? 왜 개미와 같은 협업 지능의 방향으로 AI를 보내지 않겠습니까? 우리의 일상 업무의 부담을 나누고 싶은 새로운 인공 친구를 갖는 것이 낫지 않습니까?

미래의 로봇이 꿀벌 빌드처럼 육각형으로 빌드되는 것을 원하지 않습니까? 아니면 인간 만이하는 것처럼 90도 각도로 비이성적 인 주장으로 인해 수직 구조에서 재료의 70 %를 낭비하면서 로봇이 우리의 모범을 따르기를 원합니까?


3
당신은 사회 곤충 식민지 간의 경쟁에 대해 매우 장미 빛 전망을 얻었습니다. "트랙의 각 차선이 독립적이기 때문에 각 식민지가 독립적이기 때문에 반대 팀에 관심이 없다"는 말은 사실이 아닙니다. 개미 식민지는 자신의 종의 다른 구성원과 경쟁하고 다른 종과 확실히 싸울 것입니다. 나는 (그리고 많은 사람들이) 다른 형태의 능력 / 지능을 인간처럼 동등하게 평가하는 것에 동의 할 것이지만, 모든 종에서 여전히 악의적 인 종, 종간 및 종종 상호 관계 경쟁이 존재한다.
닐 슬레이터

1
@NeilSlater 매우 정확합니다 ... 유기농은 DNA가 전파되기를 원하고 개미와 꿀벌 (작업자)이 다른 작업자와 50 % DNA를 공유합니다 ... 이것이 그들의 주요 동기입니다
DuttaA

내가 말했듯이 그들은 같은 종의 경우에도 식민지에서만 유전자를 공유하고 다른 식민지의 개미를 죽입니다 ... 인간은 (일반적으로) 이타적인 도움을 볼 수있는 가족이 아닌 한 유전자를 공유하지 않습니다 ... 우리는 우리의 유전 적 행동을 변화시키는 경험을 축적하고 가족에 대해 적대적 일 수있는 그런 큰 뇌 (유능한 뇌)를 가지고 있습니다 ... 나는 당신의 질문에 대답하고 싶지만 아주 커질 것입니다. 시간
DuttaA

박테리아 / 개미 / 꿀벌, 그들은 자신이하고있는 일이 지능적이라는 것을 모르고, 그들이하고있는 일을 다시 생각할 수없고보다 효율적인 방법을 생각 해낼 수 없습니다. 이 단순한 존재들이 이미 성취 한 것 이외의 목표를 달성 할 수 있습니까? 아니.
Ankur

1
@Ankur 그러나 성공적인 행동 방식의 원리를 연구하고 새로운 문제에 인위적으로 적용 할 수 있습니다. 이것은 이루어졌으며 OP의 질문은 AI에 대한 모든 바람직한 사용 사례를 포괄하기에 충분한 지 여부와 그것이 더 안전하고 나은 접근 방법인지 여부와 같은 흥미로운 점을 제기합니다. 나는 그 질문들에 "아니오"와 "아니오"라고 생각하지만 답을 모으려면 약간의 노력이 필요합니다.
닐 슬레이터

답변:


6

나는 인간을 한 종으로서 상당히 희미하게보고 충분한 인간성을 평가하는 역 튜링 테스트를 제안했습니다 ( ). (그냥 농담이지만 ​​완전히는 아닙니다.)

인간은 명확하다 하지 당신은 바이오 매스로 가면 지구상에서 가장 성공적인 종 :

여기에 이미지 설명을 입력하십시오

나는 덜 복잡한 형태의 삶이 매우 효과적이며 특정 문제를 모방 할 가치가 있음에 전적으로 동의합니다 ( 예를 들어 Ant 식민지 최적화 알고리즘 참조 ).

그러나 개미에 의해 움직일 때 세상은 어떻게 생겼습니까? 우리가 살고 싶은 세상입니까?

자연의 경쟁은 절대적으로 잔인 할뿐만 아니라이 잔인 함은 종들이 최적화되는 (진화) 메커니즘입니다.

인간에게는 결함이 있지만, 우리는 또한 큰 승리를 거두었으며, 동물과 우리를 분리시킬 수있는 것은 우리의 성공이 "정신의 승리"범주에 속할 수 있다는 것입니다. 한 방향으로 이기심과 탐욕 운전 사회가있는 곳에서는 반대 방향으로 나아가는 반대 세력도 있습니다.

일부 게임은 단순히 제로섬하고 거기에는 그 주위에 점점 없지만 그들이 "모 아니면도"를해야 의미하지 않는다 (우리는 추천 스도쿠를 당파 정확하게 이런 이유로 체스 이상.)

파레토 효율 (Pareto Efficiency) 이라고 볼만한 가치가있는 개념이있다 . 현재 세계 경제의 많은 부분에 기초한 재무 추론은 "더 큰 바보"원칙 에 달려 있는데, 여기서 한 에이전트는 다른 에이전트 손실에 전적으로 의존합니다. 우리 중 최악은 실질적인 노력이 필요하지 않고 강력한 분석 및 / 또는 더 나은 정보 및 유동성 만 요구하기 때문에 다른 모든 메커니즘을 배제하기 위해 이러한 메커니즘에 중점을 둔 것 같습니다.

우리 중 가장 좋은 것은 파레토 개선 (Pareto Improvement)으로, 다른 요원을 더 나쁘게 만들지 않고도 요원을 더 나아질 수 있습니다.

요점은 이러한 조건을 식별하고 정의하기 위해 인간의 지능이 필요하다는 것입니다. 파레토의 최적 성은 그 기원 때문에 논란의 여지가 있지만 기술 기회 이전에 있었기 때문에 새로운 기회를 창출하는 데 매우 능숙하며 자원 분배의 균형을 맞추는 데 사용될 수도 있습니다. 사회적 안정을 극대화하려고 노력하십시오. (때로는 조금 더 나빠지는 것이 더 최적 일 수 있습니다.)

우리 종에 대한 저의 끔찍한 견해는 비효율적이거나 종종 어리석은 것이 아니라 역사의이 단계에서 우리가 나무에서 내려온 것처럼 행동하는 것입니다. 대신에 부족주의와 당파 적 갈등으로 되돌아갑니다. 협력의.

당신의 논문과는 반대로 :

  • 인간 수준의 알고리즘 인텔리전스에 도달하는 것이 중요 할뿐만 아니라 그러한 알고리즘을 가능한 한 "인간화"하는 것은 우리의 의무입니다.

초 지능과 AGI는 여전히 지평적이고 전적으로 이론적이지만, 그것들이 달성 되고이 알고리즘이 순수한 메커니즘이라면, 인간이 최선을 다해 소중히 여기는 가치가없는 순수한 메커니즘으로 인해 진화 과정의 또 다른 희생자가 될 수 있습니다. , 우리는 새로운 형태의 인공 생명에 의해 낡은 경쟁을 할 기회가 없습니다.

어떤 의미에서, 인간과 같은 방향으로의 추진은 미켈란젤로의 다윗과는 정교하지만 완전히 정교하지는 않지만 인류를 축하하는 것으로 간주 될 수 있습니다.


@DouglasDaseeco 나는 실제로 귀하의 질문을 매우 좋아합니다. b / c 100 % "저수준"기능의 일반적인 유틸리티 / 혜택에 대해 100 % 동의합니다. 내 프로젝트의 일부에는 시간 / 자원이 심각하게 제한되어 있고 특히 현재 문제의 토폴로지를 미리 알 수없는 특정 문제 세트에서 일반화 된 휴리스틱 및 학습 알고리즘의 성능을 측정하는 것이 포함됩니다. 건전하지만 최적이 아닌 경제 결정이 언제 더 많은 리소스와 시간이 필요한 최적의 결정보다 더 빨리 종합적인 이익을 얻습니까?
DukeZhou

@DouglasDaseeco "AI의 신화"의 전면에서 Stephenson과 Gibson과 같은 몇몇 주요 저자들은 최근 설명하는 제한된 지능에 관심이 많았습니다. (Stephenson은 엔지니어링 배경을 가지고 있으며 AGI에 관심이 없었지만 Gibson은 그의 첫 번째 저서에서 그것에 대해 글을 썼습니다.)
DukeZhou

@DouglasDaseeco 동의합니다. 또한 우리 종의 일반적인 합의는 대량 학살이 혐오 인 것처럼 보이며 멸종 위기에 처한 종을 보존하기위한 노력으로 생물 다양성의 중요성에 대해 생각하기 시작했습니다. 만일 우리가 먹이 사슬의 최상위에서 우리의 입장에서 벗어나면, 우리를 대체하는 어떤 것이라도 우리가 보호를 필요로하는 목표 일 수 있다는 목표를 공유한다면 그것은 매우 좋은 일이라고 생각합니다! (필립 케이 딕 (Philip K. Dick)은 공감이 충분히 진보 된 지능의 자연적인 기능이라는 가설 때문에 가장 두드러진다 고 생각합니다.)
DukeZhou

3

인간의 본성에는 많은 결함이 있지만 @DukeZhou가 지적한 것처럼 존재하는 한 확실히 가장 성공적이었습니다. 성공은 우리가 매우 잘 기능하고 유능한 두뇌를 가지고 있다는 사실에 전적으로 암시 될 수 있습니다. 다른 종과 비교할 때 우리는 육체적으로 (물리적 능력) 훨씬 더 능력이 없습니다. 인공 지능을 만들려고한다면 최고의 지능 시스템 인 우리 자신의 두뇌를 모델링하지 않아야합니까?

당신이 놓친 한 가지는 인간이 다른 모든 동물보다 훨씬 더 평화 롭다는 것입니다. 동물은 생존 을위한 끊임없는 전쟁 에 처해 있으며, 인간은이 모든 것을 극복 할 수 있었고, 천년 전체에서 가장 평화로운시기에 살고 있습니다. 갈등이 발생할 수 있으며, 이것은 아마도 우리 유전자에 기인 한 것일 수 있습니다. 우리의 유전자는 동물 조상에서 유래 한 것으로, 많은 것을 위협으로 시각화합니다. 그러므로 우리의 정신에 스며 들어야합니다. 변경할 수 있습니까? 아마도 (아마 자연과 자연 선택의 법칙에 위배 될 수 있습니다).

경쟁이 없었던 두 가지 사례를 보자.

  • Jarawas- 이 사람들은 섬에서 외딴 생활을합니다 (지금도). 결과적으로 그들은 여전히 ​​사냥꾼 수집가의 삶을 살고 있으며, 그들은 삶이나 지위에 대한 위협을 보지 않고 변화 할 필요가 없다는 사실에 기인 할 수 있습니다. 우리는 현명하기 때문에 현대 기술에 위배되지 않는다는 사실을 알고 그들의 영토를 침범하지 않습니다 (또한 우리에게 위협이되지 않기 때문에).
  • 아메리카 원주민 : 유럽과 아시아가 전쟁 중이던 동안이 사람들은 섬에서 살았습니다 (싸움 만). 결과적으로 그들의 기술은 거의 발전하지 못했고 거의 사라졌습니다.

협동하는 개미와 꿀벌은 나에게 잘못된 이름입니다. 특정 식민지의 모든 개미 / 꿀벌이 형제 자라는 사실 때문입니다 (그렇지 않으면 다른 식민지를 잔인하게 학살합니다). 또한 내부에 풍부한 자원이있는 한 영토의 경계를 유지합니다. 그렇지 않으면 전쟁이 있습니다.

박테리아는 고통이나 두려움이 없지만 협력으로 인해 오랫동안 존재했다고 말하는 것이 나에게 완전히 올바른 것으로 보이지는 않습니다. 그들은 아마도 효과적인 생존 메커니즘을 가지고있을 것입니다.

이 모든 점은 @Neil Slater가 말한 것처럼 동물계의 장미 빛 그림이 없다는 것입니다.

AI의 행동을 어떻게 만들어야합니까? 인공 지능에는 현재 유전자가 없으므로 자손에 대한 의무가 없으며 질투가 없습니다. 즉, 생물학적 유기체의 기본 구성 요소가 없기 때문에 (의무 / 관심이 없음) 의미합니다. 그러나 나는 AI 사이에서 경쟁이 좋다고 생각합니다. 그렇지 않으면 어떻게 새로운 전략을 배우게 될까요? 따라서 질투하지 않는 경쟁 은 AI 에이전트에게 가장 좋은 시나리오입니다 (동물계에서는 그렇지 않을 수도 있음). 경쟁이 없다면 AI의 지식은 정체 될 것이다.

나는 게임 이론 의 전문가는 아니지만 2 명 이상의 에이전트가 서로 경쟁하는 경우 결과를 최대화하기 위해 게임 이론을 따라야합니다 (아마 @DukeZhou가 지적한대로 파레토 효율을 나타내거나 물리 관점 에너지가 생성되거나 파괴되지 않음) 시스템에서 시스템으로 만 배포). 그러나 여기에는 문제가 있습니다 . 전적으로 환경에 따라 여러 가지 실행 가능한 전략 이 있습니다 . 이 주제는 컴퓨터 과학자 Axelrod와 Hamilton 이 여러 전략을 테스트 한 주제입니다 . 실험의 단순화 된 버전은 이기적인 유전자 에서 찾을 수 있습니다제 12 장. 컴퓨터에서 시뮬레이트 된 그들의 실험은 분명히 좋은 사람들 (무조건적으로 호의를 베푸는 사람들)이 이기적인 사람들을 항상 잃지 않는다는 증거를 보여줍니다. AI의 식민지를 실제로 만들려면 더 많은 연구가 필요합니다.

TL; DR : AI가 기본 생존 단위 (유전자)가 없기 때문에 동물의 왕국과 비교하는 것은 불공평합니다. 인간은 동물계에서 가장 똑똑하고 평화 롭습니다. 질투없는 경쟁은 아마도 모든 식민지 나 종에서 가장 좋은 행동 과정 일 것입니다.


1
게임 이론에서 내쉬 평형은 안정 점이며 파레토 효율은 총 유용성의 척도입니다. 죄수의 딜레마는 두 사람이 동일하게 최대화되지 않은 좋은 예입니다. 논리적 미니 맥스 포인트에는 두 명의 죄수 모두 결함이 있지만 최대 수용력은 두 명의 죄수가 협력 할 때 발생합니다. 안타깝게도 많은 경쟁 시스템은 파레토와 내쉬 최적의 차이가 있습니다.
닐 슬레이터

@NeilSlater 악셀로드는 분명히 그가 몇 가지 흥미로운 발견했다 ... 넓은 의미에서 죄수의 딜레마를 조사
DuttaA을

0

인간 지능의 일부 특성은 확실히 AI의 핵심 장기 목표의 일부입니다. 이러한 특성의 대부분은 분명히 다른 종의 특성이기도합니다. 정말 중요한 문제는 어떻게 컴퓨터가 인간과 같은 방식으로 인식 될 수 있을까요? 디지털 센서에서 방출 된 기호는 감지 된 내용을 나타내지 않습니다. 컴퓨터가 얻는 모든 것은 상징이므로 컴퓨터는 어떻게 무엇을 인식 할 수 있습니까?

또 다른 중요한 문제는 인간과 아마도 대부분의 다른 동물들이 어느 정도 일반적인 지능을 가지고 있다는 것입니다. 과거에 배운 것을 새로운 상황에 적용 할 수 있습니다. 인간에게는 언어에 적용되는 일반적인 지식 문제의 버전이 있으므로 순수한 인간과 같은 문제입니다. 그러나 많은 동물들은 분명히 어떤 종류의 일반적인 지식을 가지고 있습니다. AI는 아직 일반적인 지식을 갖춘 머신을 생산하지 않았습니다. 자율 주행 차량 AI 소프트웨어에 대한 "가장자리 케이스"의 비참한 영향은 매우 걱정스러운 증거입니다. 일반 지능을 얻는 방법도 절대적으로 근본적인 문제입니다.

내 대답을 요약하면 : 현재 인간과 같은 지능은 현명한 목표가 아닙니다. AI에는 훨씬 더 근본적인 문제가 있습니다. 현명한 목표는 인식의 원리와 컴퓨터에서이를 구현하는 방법 (이것이 가능하다고 가정)을 이해하고 일반적인 지능의 원리와이를 구현하는 방법을 이해하는 것입니다.

즉, 동물이 자신의 환경을 아는 방법과 과거 경험을 바탕으로 어떻게 새로운 상황에 적절히 반응하는지 알아내는 것입니다.


로드 킬의 가장 일반적인 시각은 많은 동물들이 "가장자리 사건"의 비참한 영향을 받는다는 것을 분명히 보여줍니다. "디지털 센서에서 방출 된 기호는 감지 된 내용을 나타내지 않습니다." 흥미롭고 강력한 인공 지능 인 논쟁의 핵심을 제시합니다. 신경 생물학자는 "눈 봉과 원뿔에 의해 방출 된 신호와 근육을 제어하는 ​​운동 뉴런 출력이 감지 된 것을 나타내지 않는다"고 동일하게 말할 수 있습니다. 무엇인가 가 진행되고 있다는 단서를주는 것은 주로 우리의 개인적인 의식 경험입니다 . 우리는 그것이 무엇인지 이해하지 못합니다.
닐 슬레이터

@Neil Slater 정확하게, 우리는 유기 두뇌가 의미 구조를 얻는 방법의 원리를 알지 못합니다. 그리고 감지 된 것을 나타내는 신경 펄스에 주목합니다. 그러나 유기 두뇌 의미를 얻습니다. 당신은이 사실이 전문가들에게 Searle의 중국 방의 문제와 그 기호가 의미 적으로 비어 있다는 전제를 해결하도록 영감을 줄 것이라고 생각할 것입니다. 물론입니다. 그러나 신경 맥박도 마찬가지입니다.
Roddus
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.