AI를 논의 할 때 의인화 언어를 사용해야합니까?

영어는 인공 지능에 대해 이야기하기에 적합하지 않기 때문에 인간이 AI가 실제로 "하고있는"것에 대해 서로 의사 소통하기가 어렵습니다. 따라서 기계의 내부 속성이 인류의 내부 속성과 유사하지 않은 경우에도 "인간과 유사한"용어를 사용하여 기계의 동작을 설명하는 것이 더 합리적 일 수 있습니다.

의인화 된 언어는 기술에서 많이 사용되었습니다 (기술을 묘사 할 때 컴퓨터 프로그래머의 의인화 용어 사용을 정당화하려는 해커의 인체 정의에 대한 사전 정의 참조 ). 그러나 인공 지능이 계속 발전함에 따라 인공 지능의 균형을 고려하는 것이 유용 할 수 있습니다 기술적 청중과 비 기술적 청중 모두에게 의사 소통을하기 위해 의인화 된 언어를 사용합니다. 우리가하고있는 일을 설명조차 할 수 없다면 어떻게 AI를 잘 다룰 수 있을까요?

관련 기사 목록을 표시하는 알고리즘을 개발하고 싶다고 가정하십시오. 알고리즘이 일반인에게 어떻게 작동하는지 설명 할 수있는 두 가지 방법이 있습니다.

1. 매우 의인화 -알고리즘은 웹 사이트의 모든 기사를 읽고보고있는 기사와 매우 유사한 기사를 표시합니다.
2. 매우 기술적 인 -알고리즘은 각 기사를 "단어"로 변환 한 다음 각 기사의 "단어"를 비교하여 가장 일반적인 단어를 공유하는 기사를 결정합니다. 백에서 가장 많은 단어를 공유하는 기사는 사용자에게 표시되는 기사입니다.

분명히 # 2는 # 1보다 "기술적으로 정확"할 수 있습니다. 알고리즘의 구현을 자세히 설명하면, 우리가 크게 동의하지 않는 출력을 생성하는 경우 누군가가 알고리즘 을 수정 하는 방법을 더 쉽게 이해할 수 있습니다.

그러나 # 1은 더 읽기 쉽고 우아하며 이해하기 쉽습니다. 그것은의 일반적인 의미 제공하는 것 대신에, 알고리즘하고있다을 어떻게 알고리즘을하고있다. 컴퓨터가 기사를 어떻게 읽는지에 대한 구현 세부 사항을 추상화함으로써 실제 시나리오에서 알고리즘을 사용하는 데 집중할 수 있습니다.

그러므로 성명서 1에 강조된 의인화 언어를 사용하는 것을 선호해야합니까? 그렇지 않다면 왜 안됩니까?

추신 : 답변이 내가 말하고있는 청중에 의존한다면 (기술이 아닌 청중은 # 1을 선호 할 수 있지만, 기술적 청중은 # 2를 선호 할 수 있습니다), 저에게도 알려주십시오.

명확성이 목표라면 의인화 된 언어를 피하려고 노력해야합니다. 그렇게 하면 프로그램의 기능에 대해 자신을 오도 ​​할 위험 이 있습니다.

이것은 AI 연구에있어 끔찍한 함정이며, 숙련 된 연구원조차도 실제로 장점보다 프로그램에 대한 이해도가 높은 경우가 많습니다.

Douglas Hofstadter는 "지울 수없는 엘리자 효과와 그 위험" 이라는 장에서이 문제를 어느 정도 설명하고 Drew McDermot의 "인공 지능은 자연스런 어리 석음과 만나다" 라는 유명한 논문도 있습니다 .

따라서 일반적으로 인공 지능에서 의인화를 피하기 위해 특별한 노력을 기울여야합니다. 그러나 비 기술적 인 청중과 대화 할 때 청중에게 단순화 된 버전을 받고 있다는 사실을 청중에게 알리면 '소리없는'설명은 (모든 복잡한 분야에서와 같이) 수용 가능 합니다 .

참조하는 문제는 AI 문제 일뿐만 아니라 일반적인 기술 분야의 문제입니다. 의심스러운 경우 항상 평범한 언어를 사용하는 것이 좋습니다 .

그러나 인공 지능 커뮤니티가 인공 지능에 대한 의인화 된 의미를 회피하는 또 다른 이유가 있습니다. 일부 인공 지능 조명기구는 인공 일반 지능이 인간의 기대를 무시하는 외계인 방식으로 행동하여 잠재적으로 로봇의 종말을 초래할 수 있다고 경고하는 것을 좋아 합니다.

그러나 사악한 외계인과 같은 AGI에 대한이 아이디어는 AI 커뮤니티에서 널리 알려진 두 가지 일반 개념에 대한 오해에서 비롯됩니다.

• 튜링 머신 일반성
• 인간 영역 일반성

일반 사람들이 일반성을 말할 때 의미하는 것은 나중입니다. AGI에 대한 공식적인 정의 조차도 인간의 상황에 따라 달라집니다.

... 인간이 할 수있는 모든 지적 과제를 수행하십시오.

그러나 그 정의에 따르면, 행동을 일반화한다고해서 더 외계인이되지는 않습니다. 일반화하는 것은 의인화하는 것입니다. 니체가 말했듯이

"이상적인 것을 볼 때, 인간, 아아! 모두 너무 인간적인 것입니다."

정답은 쉽지만 도움이되지 않는다고 생각합니다.

다른 기술 담당자와 이야기 할 때도 종종 의인화 언어와 은유를 사용합니다. 특히 대화가 시작될 때. "컴퓨터는 ..을 알아 내야한다." "컴퓨터가 혼란스러워지는 것을 어떻게 막을 수 있을까?" "부정확 한 설정을 초래하는 부적절한 데이터의 수와 다양한 인스턴스를 줄이려면 알고리즘을 수정해야합니다 ..." 그러나 기술적 인 사람들 사이에서 우리는 의미하는 바를 알고 있으며 은유 적 언어를 사용하는 것이 더 쉽습니다.

기술적 인 컴퓨터 문제를 해결하려고 할 때, 나는 애매하고 의인화 된 개념으로 시작합니다. "우리는 텍스트에있는 모든 단어의 목록을 작성하고 얼마나 자주 발생하는지에 따라 각 단어에 가중치를 부여해야합니다. 그러나 'the'와 'it'과 같은 짧고 일반적인 단어는 무시해야합니다. 무게가 가장 큰 단어 수 (10 개 정도) ... "컴퓨터가 실제로 데이터를 조작하는 방식과는 거리가 멀다. 그러나 "인간적인"용어로 먼저 생각한 다음 컴퓨터를 만드는 방법을 알아내는 것이 훨씬 쉽습니다.

비 기술적 인 청중과 대화 할 때, 문제는 의인화 된 언어로 이해하기가 더 쉽지만 컴퓨터가 실제보다 훨씬 인간적이라는 인상을줍니다. 공상 과학 영화 만 보아도 많은 사람들이 컴퓨터 나 로봇이 매우 정확하고 감정이 없다는 것을 제외하고는 사람처럼 생각한다고 생각합니다.