일반적인 AI를 개발하기에 어떤 종류의 시뮬레이션 환경이 복잡합니까?

"일반 AI"(자체 인식 AI로 정의)를 생성하기에는 복잡하지만 가능한 한 단순하게 가상 가상 환경을 만들려고한다고 상상해보십시오. 이 최소한의 환경은 어떻습니까?

즉, 단지 체스 게임 인 환경은 너무 단순 할 것입니다. 체스 프로그램은 일반적인 AI 일 수 없습니다.

여러 요원이 체스를하고 결과를 서로주고받는 환경. 이것이 일반적인 AI일까요? (하루 종일 체스에 대해 생각하는 체스 그랜드 마스터가 '일반 AI'를 가지고 있다고 말할 수 있습니까? 체스에 대해 생각하는 동안 체스 컴퓨터와 다른 점이 있습니까?)

3D 시뮬레이션 같은 세상은 어떻습니까? 너무 복잡해 보입니다. 결국 일반 AI가 2D 세계에 존재할 수없는 이유는 무엇입니까?

AI가 자각 할 수있는 간단한 환경의 예는 무엇입니까?

이 포럼에서 내가 본 최고의 AGI 관련 질문 중 하나라고 생각합니다.

나는 "AGI가 무엇인가", "시뮬레이션 게임"에 관한 모든 주제를 건너 뛸 것이다.이 주제들은 수십 년 동안 논의되어 왔으며 현재는 제 생각에는 막 다른 골목이다.

따라서 나는 개인적인 경험으로 만 대답 할 수 있습니다.

한정된 크기의 공간에서 시간 차원을 포함하여 임의의 수의 차원을 1D로 줄일 수 있다는 것이 컴퓨팅의 기본 정리입니다.

그러나 실제 사례에서 1D 표현을 분석하고 시각화하기가 어렵습니다. 1D와 2D 사이의 중간으로 볼 수있는 그래프를 사용하는 것이 더 실용적입니다. 그래프는 필요한 모든 사실과 관계를 나타냅니다.

예를 들어, 수학 영역에서 작업 할 수있는 AGI를 개발하려고하면 모든 표현 (인간, 첨자, 적분 등으로 2D 표현으로 작성하는 인간)을 1D (표현식)로 표현할 수 있습니다 프로그램 소스에 기록됨)를 분석하거나 실행할 수있는 그래프에 도달하려면이 1D를 구문 분석해야합니다. 따라서 식을 구문 분석 한 후 생성되는 그래프가 가장 실용적인 표현입니다.

또 다른 예를 들어, 3D 세계를 가로 질러 이동하는 에이전트를 원한다면이 세계는 속성이있는 객체가있는 빈 공간으로 볼 수 있습니다. 다시, 장면 분석 및 객체 인식의 초기 단계 (이전 예의 파서와 동일) 후에 그래프에 도달합니다.

따라서 AGI 영역에서 실제로 작업하려면 장면 분석, 객체 인식, 음성 인식 (Narrow AI)의 문제를 건너 뛰고 대표 그래프를 직접 사용하는 것이 좋습니다.

가장 중요한 것은 시간을 어떤 방식으로 시뮬레이션해야한다는 것입니다. 자기 인식 챗봇을 생각하십시오. 그런 다음 "자체 인식"환경은 "자기"및 "기타"로 구별 될 수있는 시간을 통해 공급되는 데이터 일 수 있습니다. "자체"가 직접적으로 영향을 미치는 부분이고 "기타"는 간접적으로 또는 전혀 영향을받지 않는 부분이라고 생각합니다. 그 외에는 아마도 꽤 추상적 인 환경에서 살 수있을 것입니다. 시간이 중요한 이유는인지 알고리즘이 수학 문제를 해결하는 것입니다.

일반 AI는 2D 세계에서 절대적으로 존재할 수 있습니다.이 맥락에서 일반화 된 AI (여기서는 "문제 세트에 걸쳐 일관된 강도"로 정의 됨)는 여전히 " 일반적인 인공 지능 "과 " 인공 일반 지능 "과는 상당히 다릅니다. "인간이 할 수있는 지적 작업을 수행하십시오."

AGI의 정의는 "어떤 인간?" (인간 지능은 개인이 서로 다른 상황에서 서로 다른 수준의 문제 해결 능력을 가지고있는 스펙트럼입니다.)

인공 의식 : 불행히도, 자기 인식 / 의식 은 문제 해결 능력 (지능)과는 별개로 형이상학 적으로 큰 문제입니다.

당신은 확실히 " 중국식 방 "과 반박 을보고 싶어합니다 .

아마도 홀로그램 원리를 살펴볼 가치가 있습니다 . "공간이 n-1 차원의 홀로그램으로 간주되는 물리학의 개념" 확실히 이런 방식으로 모델과 게임을 구성 할 수 있습니다.

탐험 할 또 다른 곳은 무한한 Conway의 Game of Life에서 초 지능의 출현 이론입니다 . (간단히 말해서, 일단 연구원들이 셀룰러 오토마타 내에서 임의의 수를 생성하는 방법을 알아 낸 후에는 충분한 크기의 게임 보드가 주어지면 긴급한 문장의 가능성이 이론적으로는 건전하다는 것을 알 수 있습니다.)

지금까지의 답변 중 @DukeZhou의 답변이 가장 도발적이었습니다. 예를 들어, 차이니즈 룸 비평에 대한 언급은 일부 형태의 의도가 인공 환경에서 지원이 필요할 수 있다는 Searle의 주장을 불러 일으 킵니다. 이것은 가치 시스템 또는 고통-유쾌 시스템의 필요성, 즉 좋은 결과가 "경험적"이거나 적극적으로 추구되고 나쁜 결과를 피할 수있는 것을 의미 할 수있다. 또는 개별 멸종 가능성 (사망 또는 종료)을 인식해야 할 수도 있습니다. "자아 죽음" 의 가능성음수 값이 높아야합니다. 그것은 인공 세계가 "다른 마음"이나 다른 요원을 포함해야한다는 것을 의미 할 수 있는데, 신흥 또는 학습 지능 요원이 어떤 의미에서 관찰하고 "반영"할 수있는, 즉 자신의 지능을 인식 할 수있다. 이런 의미에서 데카르트의 실로 즘 "나는 그렇게 생각한다"는 다음과 같이 변형된다 : 나는 (나 대신 AI로서) 다른 사람들의 사고에 대한 증거를보고, " '나도 할 수있다." 이러한 "기타"는 다른 학습 시스템 (AGI)이거나 인공 환경에 의해 매개되는 인간의 개별 입력과의 접촉 일 수 있습니다. "역 튜링 테스트"에 대한 Wikipedia 토론

차원에 대한 언급은 AI 외부 세계의 "물리"에 필요한 깊이의 표현이 무엇인지에 대한 논의를 자극해야한다. 시간과 공간의 일부 표현, 즉 목표 달성으로의 진전을위한 일부 차원 하부 구조가 필요할 것으로 보인다. Blocks World는 초기 장난감 문제 로 지난 세기의 60 년대와 70 년대에 해결책이 상당한 진전을 이루었다는 낙관론을 불러 일으켰습니다. 나는 그 시대의 SHRDLU 프로그램에서 어떤 고통이나 즐거움으로 프로그램하려는 노력을 알지 못하지만 (프로그램의 발가락에 블록이 떨어지지 않습니다) AI의 흥미로운 과학 소설 표현은 "물리적"불리한 결과에 대한 인식을 가지고 있습니다 "실제 세계"에서.

편집 : 유도, 식별 노력에 대한 데이터 입력으로 (AGI와 상호 작용하는 "기타"에 의해) 인식 될 수있는이 환경에서 "기능을 가진 엔티티"에 대한 필요성을 추가하려고합니다. 관계에 대한 추론. 이것은 공유 "경험"의 기초를 만듭니다.

@pasaba por aqui의 좋은 답변이지만 @zooby는 그래프가 너무 단순하다는 데 동의합니다. 만약 사람들이 옵션을 익사 시키거나 배를 만들기 위해 5000 개의 무관 한 조치를 취한 환경에 있다면, 우리는 결코 바다를 건너지 않았을 것입니다. 수작업으로 설계 한 그래프는 일반 AI로 에이전트를 호출 할만큼 복잡하지 않다고 생각합니다. 세계는 더 이상 그래프로 묘사되지 않고 최소한 다차원 공간으로 표현하기에 충분한 중간 상태가 필요합니다.

고려해야 할 두 가지 점이 있다고 생각합니다. "단순"이란 무엇이며 언제 "일반 AI"로 인식합니까? 우리는 인식이라는 것을 측정 할 수 없기 때문에 스스로 인식하는 인공 지능이 만족스럽지 않습니다. 상태와 환경과의 상호 작용 만 볼 수 있습니다.

나는 우리가 사는 세상이 실제로 매우 단순하다고 주장합니다. 자연의 4 가지 힘, 몇 가지 보존 법칙 및 모든 것을 설명하는 많은 입자 유형이 있습니다. 단지이 입자들이 많이 있고 이것은 다소 복잡한 세계로 이끌었습니다. 물론 이것은 시뮬레이션하는 데 비용이 많이 들지만 몇 가지 지름길을 취할 수 있습니다. 200 년 전의 사람들은 세상을 설명하기 위해 모든 양자 역학이 필요하지 않았습니다. 우리가 주기율표에서 양성자, 중성자 및 강한 힘을 원자로 대체하면 대부분 괜찮을 것입니다. 문제는 3 가지 일반적인 법칙을 100 개의 특정 사례로 대체 한 것입니다. 시뮬레이션 된 환경이 충분히 복잡해지기 위해서는이 트렌드가 반드시 지켜야한다고 생각합니다.

2로 연결됩니다. 일반적인 AI를 표현하는 에이전트가 의도적으로 환경을 방해하는 방식으로 의도적으로 환경과 상호 작용할 수있을 때 우연히 만족할 것입니다. 이제는 매우 어려워 지거나 오랜 시간이 걸리므로보다 편안한 조건은 우리가 구축 할 것으로 예상되는 도구를 구축하여 자체 환경을 숙달하는 것입니다. 예를 들어, 보트의 증거는 100k에서 900k 년 전 어딘가에서 발견되었으며, 이는 초기 인간이 개발 했을 때와 거의 동일한 시간 척도 입니다.. 그러나 우리는 우리 자신을 지능적으로 생각하지만, 보트 제작 에이전트가 상당히 단순한 발명품처럼 일반 지능을 가지고 있다고 생각하지는 않습니다. 그러나 우리는 그런 발명품 몇 개를 마친 후에 만족할 것이라고 생각합니다.

그래서 우리는 세상과 같은 심이 필요하다고 생각합니다. 그것은 실제로 게임보다 훨씬 더 복잡합니다. 1000 가지의 아이템 유형으로, 각 아이템의 많은 인스턴스와 모든 것과 상호 작용할 수있는 충분한 자유도. 또한 에이전트를 지능적으로 인정하는 데 익숙한 것이 필요하다고 생각합니다. 따라서 복잡한 3D 마인 크래프트 세계는 일반 지능의 출현을 인식 할 수있는 가장 단순한 세계 가 될 것 입니다.

"인공 일반 지능"은 환경에서 지능적으로 작동하는 에이전트와 다른 것입니다. 문헌에 따르면 이러한 작용제는 "좁은 AI"라고 불린다. AGI 시스템은 환경입니다. 즉, 최신 Micromouse 과제는 Narrow AI 시스템을 개발하려는 AGI 시스템입니다.

AGI를 개발하는 것은 로봇 경쟁을 개발하는 것과 같습니다. 이 책은 규칙 책으로 공식화되어 있으며 소프트웨어를 배우고 프로그래밍하며 결과를 논의하는 환경의 역할을합니다. 어쨌든 AGI 시스템은 사회적 경쟁이기 때문에 팀이 경쟁에 참여하는 것이 매력적입니다. AGI는 지능을 실현하는 방법에 대한 답변이 아니라 측정을위한 테스트입니다. 소위 인간 두뇌,인지 구조 및 일반적인 문제 해결사는 지능적으로 행동하기위한 좁은 AI로 개발되지 않았으며 지능적인 기계에 대한 튜링 테스트로 개발되었습니다.

다른 컴퓨터 프로그램이 지능적이라면 어떻게 컴퓨터 프로그램으로 측정 할 수 있습니까? 한 가지 가능성은 인간 시뮬레이션 이론입니다. 즉, 우리는 컴퓨터 프로그램이 인간처럼 행동하는지 테스트하고, 튜링 테스트는 단기 기억, 장기 기억 및 새로운 것을 배우는 능력을 테스트 할 의무가 있습니다. 가장 쉬운 형태로, 튜링 테스트는 인간이 작성해야하는 간단한 형태로 수행 될 수 있지만, 인간을 루프에서 빠져 나와 컴퓨터를 사용하여 다른 컴퓨터의 지능을 테스트하는 것도 가능합니다 . 이것이 SOAR, OpenCog 및 AIXI가 개발 한 목적입니다.