이 예제를 고려해 봅시다 :
존의 생일이야 연을 사자
우리 인간은 연이 왜 사게되는지 물으면 연이 생일 선물이라고 말할 것입니다. 우리는이 추론을 상식 이라고 부릅니다 .
인공 지능 에이전트에서 왜 이것이 필요한가요? 많은 인간의 실수가 이러한 모호한 가정으로 인해 발생하기 때문에 많은 문제가 발생할 수 있다고 생각합니다.
AI가 상식을 사용하여 다른 사람 (또는 다른 AI)이 이미 수행했다고 가정하기 때문에 특정 일을 무시하는 AI를 상상해보십시오.
AI 시스템에 인적 오류가 발생하지 않습니까?
답변:
상식 지식 은 모든 사람이 특정 상황 (따라서 상식 지식이 상황의 함수일 수 있음)에서 당연한 것으로 간주하는 구내의 집합입니다. 만약 AI가 상식 지식을 가지고 있지 않다면 인간과 AI 사이에 많은 의사 소통이 존재할 것입니다. 따라서 상식 지식은 인간 -AI 상호 작용의 기본 입니다.
또한 모든 사람이 국가, 문화 또는 일반적으로 맥락과 무관하게 당연한 것으로 간주하는 구내도 있습니다. 예를 들어, 모든 인간 (거의 출생 이후)은 공간, 시간 및 물리적 상호 작용과 같은 순진한 물리학에 대한 추론 메커니즘을 가지고 있습니다. AI에이 지식이 없으면이 지식이 필요한 작업을 수행 할 수 없습니다.
(AN의 상식적인 지식을 가지고 기계를 필요로하는 작업 의 평균 인간이)로 여겨지고 AI 완성 이며, 그것은 인간의 수준 (또는 일반) 정보가 필요합니다. Christian Andrich, Leo Novosel 및 Bojan Hrnkas 의 기사 Common Sense Knowledge (2009) 의 섹션 3을 참조하십시오 .
물론, 다른 가정이나 전제 때문에 인간이 의사 소통하는 동안 발생하는 문제는 (상식이있는) 인간과 AI 사이에서도 발생할 수 있습니다.
컴퓨터가 인간의 언어 를 이해 하도록하려면 이런 종류의 상식 지식이 필요합니다 . 컴퓨터 프로그램이 여러분이 제공 한 예제의 문법 구조를 분석하는 것은 쉽지만, 그 의미를 이해하려면 가능한 문맥을 알아야합니다. 여기서는 "상식"이라고합니다.
이것은 Roger Schank et al. 에서 많이 강조되었습니다 . 이야기의 컴퓨터 이해에 관한 연구로 지식 표현, 대본, 계획, 목표에 대한 많은 연구로 이어집니다. Schank의 작품 중 하나는 Mary가 배고프다는 것입니다. 그녀는 미쉐린 가이드를 주웠다. -이것은 비 평범한 것처럼 보입니다. 배가 고프면 왜 책을 집어 올리겠습니까? 당신이 그것이 레스토랑 가이드이고, Mary가 아마도 식당에 가서 먹을 것을 계획하고 있다는 것을 알 때까지. 식당에가는 것이 배가 고픈 문제에 대한 잠재적 인 해결책이라는 것을 알고 있다면이 이야기 조각을 이해하는 데 아무런 문제가 없습니다.
어떤 이야기도 완전히 명시 적이 지 않기 때문에 모든 이야기를 이해하기 위해서는 상식이 필요합니다. 일반적인 것들은 "이해되고"명시 적으로 언급되지 않았습니다. 이야기는 인간의 경험과 관련이 있으며, 모든 것을 명백하게하는 이야기는 아마도 컴퓨터 프로그램처럼 읽을 수 있습니다. 또한 이야기 속 등장 인물이 어떻게 행동하는지, 그리고 어떤 일이 어떻게 영향을 받는지 이해하려면 상식이 필요합니다. 다시 말하지만 이것은 매우 주관적이지만 필요합니다. 어떤 상식은 일반적으로 적용 가능할 수 있지만 다른 측면은 적용되지 않습니다. 복잡한 문제이기 때문에 연구원들은 적어도 반세기 동안 AI 연구를 위해 어려움을 겪었습니다.
물론 이것은 "인간 오류"를 AI 시스템에 도입 할 것입니다. 이 모든 것은 매우 주관적이고 문화적입니다. 미국에있는 식당에가는 것은 프랑스에있는 것과는 다릅니다. 이것이 해외로가는 것이 어려울 수있는 이유입니다. 그리고 내 이야기를 읽는 것은 아마 당신과 다를 것입니다. 그러나 인간 지능을 시뮬레이션하려면 잠재적 인 "오류"없이는 수행 할 수 없습니다.
이 질문에 여러 부분으로 대답하겠습니다.
AGI 시스템에 상식이 필요한 이유는 무엇입니까?
엄격한 논리를 사용하는 것보다 야생의 이유에서 상식을 사용하여 의사 소통하는 사람들은 논리보다 다른 사람의 감정에 호소하는 것이 더 쉽다는 점을 알 수 있습니다. 따라서 (AGI에서와 같이) 인간의 인식을 복제하려는 모든 시스템은 상식을 사용하는 경향을 복제해야합니다.
더 간단히 말해서, 우리는 AGI 시스템이 우리가 가장 잘 이해하기 때문에 상식 언어로 우리에게 말할 수 있기를 바랍니다 (그렇지 않으면 우리는 친절한 AGI를 이해하지 못할 것입니까?). 불명확 한 이론과 엄격한 논리는 기술적으로 정확할 수 있지만 우리의 이해에 호소하지는 않습니다.
AGI의 목표가 가장인지 적으로 진보 된 시스템을 만드는 것이 아닙니까? "가장 완벽한"AGI 시스템이 상식적으로 존재하는 이러한 불완전 성과 부정확성을 처리해야하는 이유는 무엇입니까?
첫째, 상식 논리가 "비이성적"인 경우 에만 나타날 수 있습니다. 아마도 상식의 모든 미묘함이 엄격한 방식으로 표현되도록 상식을 모델링하는 일관된 수학적 방법이있을 것입니다.
둘째, 인공 지능에 대한 초기 연구는인지 과학 연구에서 시작되었는데, 여기서 연구자들은 "마음의 알고리즘"또는보다 정확하게는 인간의 사고를 복제 한 결정 가능한 절차를 모방하려고 시도했습니다. 그때까지 AI 연구는 "가장 뛰어난인지 제"를 만드는 것이 아니라 단지 인간의 사고 / 행동을 복제하는 것입니다. 인간 행동을 복제 할 수 있다면 더 많은 계산 능력을 부여하여 초 인간적인 무언가를 만들려고 시도 할 수 있지만 이것이 보장되지는 않습니다.
AGI 시스템에서 왜 상식이 필요한지 여전히 알 수 없습니다. AGI가 가장 지능적이고 강력한 계산 시스템이 아닌가? 상식이 필요한 왜 인간 이해의 한계에 관심을 가져야합니까?
아마도 당신은 AGI가 수반하는 것에 대한 약간의 이해가 잘못되었을 것입니다. AGI는 무한한 계산력 (Bremermann의 한계 와 같은 계산에 대한 물리적 제약으로 인해 물리적으로 불가능 함 ) 또는 무한한 지능 (이전의 제약으로 인해 물리적으로 불가능 함)을 의미하지 않습니다 . 일반적으로 인공적인 "일반 지능"을 의미하며 일반적으로 광범위하고 일반적입니다.
제한되지 않은 에이전트에 대한 고려 사항은 이론적 컴퓨터 과학 (유형 이론), 의사 결정 이론, 심지어 이론 설정과 같은 분야에서 더 자세하게 연구되며, 여기서 무한한 계산 능력을 가진 에이전트에 대한 질문을 제기 할 수 있습니다. 우리는 Halting Problem 으로 인해 무한한 힘을 가진 AGI 시스템조차도 대답 할 수없는 질문이 있다고 말할 수 있지만, 해당 필드의 가정이 주어진 AGI의 구조에 매핑되는 경우에만 가능합니다.
AGI가 수반 할 수있는 내용과 목표에 대한 이해를 돕기 위해 인공 지능 : John Haugeland의 아이디어 (실제로 AI- 철학만큼 실용적이며, 보다 철학적으로 접근 한 Brian Cantwell Smith
재미있게, Zen koan 's : The Gateless Gate 컬렉션에는 다음 구절이 포함됩니다. ( wikipedia 에서 인용하고 편집 함 )
한 승려가 중국 선종 인 Zhaozhou에게 물었습니다. "개 불상이 있습니까?" Zhaozhou가 대답했습니다. "Wú"
Wú (無)는 "none", "nonesuch"또는 "nothing"으로 번역되며, yes 또는 no로 응답하지 않는 것으로 해석 될 수 있습니다. 이 깨달은 개인은 모든 질문에 엄격하게 대답하려고하지 않고 단지 의미있는 방식으로 응답하려고합니다. 개가 부처 자연을 가지고 있는지 여부에 관계없이 (부처 자연이 무엇을 의미하든) 마스터는 기본적으로 질문을 해결하는 대신 문제를 해결합니다.
아마도 상식없이 잘못 될 수있는 일의 예를 제시하는 데 도움이 될 것입니다. Moon의 건설 감독자 인 James Hogan의 소설 "두 얼굴의 내일"이 시작될 때 자동화 시스템에 요청을 제출하여 특정 대형 건설 장비는 가능한 한 빨리 그의 사이트로 배달됩니다. 시스템은 20 분 안에 도착할 것이라고 응답합니다. 20 분 후 장비가 건설 현장으로 추락하면서 감독자가 사망했습니다. 이 시스템은 장비를 해당 사이트에 전달하는 가장 빠른 방법은 대량 드라이버에 장비를 장착하고 사이트에서 시작하는 것이라고 결정했습니다. 문제의 시스템에 상식이 있다면 '장비는 그대로 도착해야합니다', ' 장비의 도착으로 인명 피해 나 생명 상실을 유발해서는 안됩니다. '등. (소설의 나머지 부분은 상식이있는 새로운 시스템을 생성하도록 설계된 실험을 설명합니다)
이것이 상식입니까, 아니면 자연 언어 이해입니까?
자연어 이해는 가장 어려운 AI 과제 중 하나라고합니다. 이것은 이유를 보여주는 예 중 하나입니다. 문장의 첫 번째 부분은 문장이 어떻게 작동하는지 두 번째 부분과 관련이 있습니다.
이제 관련 질문은 두 부분 이 어떻게 관련되어 있는지 입니다. 예를 들어 일시적인 질서와 같은 몇 가지 표준 관계가 있습니다. 이 특정 예에서 관계의 특성은 원인과 결과에 더 가깝습니다.
이 관계를 명확하게하기 위해 단어를 삽입하면이 효과가 나타납니다.
그것은 존의 생일, 지금 의 그를 연 구입할 수 있습니다. 존이 연을 사도록하자 . 그의 생일 이기 때문이다 .
이것은 인간이 이러한 암묵적 관계를 명시 적으로 만드는 기술입니다.
curiousdannii가 지적했듯이, 생일이 선물의 원인이 될 수있는 방법을 이해하려면 문화 지식이 필요합니다. 어떤 상식도 도움이되지 않습니다.