특이점을 심각하게 고려해야합니까?


10

특이점이라는 용어는 종종 비전 기술을 설명하기 위해 주류 미디어에서 사용됩니다. 이 책 Ray Kurzweil이 인기있는 저서 인 특이점 : 인간이 생물학을 초월했을 때 (2005)에 소개되었습니다.

그의 저서에서 Kurzweil은 나노 기술, 컴퓨터, 유전자 변형 및 인공 지능을 포함한 인류의 미래에 대한 전망을 제시합니다. 그는 무어의 법칙으로 컴퓨터가 기하 급수적으로 성장하여 초 지능을 얻을 수 있다고 주장한다.

는 IS 기술 특이점 AI 개발자가 심각하거나이 이론 인기 과대 광고의 단지 부하가되는 일이?


특이점에 관한 논쟁은 소위 Neoluddite 운동의 하위 주제입니다. 그것은 비관적 인 전망을 가진 기술 발전에 대한 철학적 논쟁입니다. Bill Joy는 2000 년대에 기술에 반대하는 유명한 에세이를 발표했습니다. 신경 돌이 운동은 실리콘 밸리에 대한 더 빠르고 똑똑한 사고에 대한 일종의 반 이데올로기입니다. 특이점은 논쟁을 완화하기 위해 프로와 콘트라 기술 이데올로기를 혼합 한 것입니다.
Manuel Rodriguez

2
나는 당신이 Singularity가 원격으로 가능하다는 것을 암시하는 견고한 AI 관련 과학적 근거를 찾는 데 어려움을 겪을 것이라고 생각합니다.
Andreas Storvik Strauman

이 Q & A에 관심이 있으신 분은 : ai.stackexchange.com/questions/7337/…
Neil Slater

답변:


8

나는 내가 연구하는 AI 연구자들 사이 에서 정착 된 사실보다 야생의 추측으로 보는 것이 훨씬 일반적 이라고 말할 수있다 .

이것은 AI 연구자들의 조사에 의해 이루어지며 80 %가 강력한 형태의 AI가“50 년 이상”또는“절대”에 등장 할 것이라고 생각하며 그러한 형태의 AI가“거의”라고 생각하는 사람은 몇 퍼센트에 불과합니다.

소프트웨어 개발자는 AI 연구원과 동일하지 않으며, 특이점 신화가 개발자들 사이에서 훨씬 더 널리 퍼져 있음을 발견했습니다. 컴퓨터는 점점 빨라지고 어떤 시점에서는 두뇌보다 빠를 것이며, 그 시점에서 우리는 단지 두뇌를 시뮬레이션합니다. 곧 우리는 뇌보다 더 나은 것을 시뮬레이션합니다.

AI 연구자들이 낙관적이지 않은 이유는 우리가 여전히 인간 지능에 대해 잘 이해하지 못하거나 심지어 뇌를 이해하기에 충분하지 않다는 사실에 기인한다고 생각합니다. 예를 들어, 지난 2 주 동안 우리는 이전에 알려지지 않은 유형의 뇌 세포를 발견했습니다 . 이것은 우리가 충분히 빠른 컴퓨터를 가지고 있어도 인간의 뇌를 정확하게 시뮬레이션 할 수있는 것이 아니라는 (올바른) 인상을줍니다. 우리는 실제로 인간의 뇌가 무엇인지 모릅니다.

우리가 알고 있었더라도 시뮬레이션은 반드시 손실됩니다. 좋은 시뮬레이션 기법이 없을 수도 있습니다. 비록 우리가 좋은 기술을 가지고 있었음에도 불구하고 우리는 두뇌를 시뮬레이션 할 수 있으며 우리가 이해하지 못하는 이유로 시뮬레이션이 예상대로 작동하지 않는 것을 발견 할 수 있습니다. 이것은 새로운 시스템을 시뮬레이트 할 때 매우 가능성이 높습니다. 어떤 의미에서, 특이점의 지지자들은 날씨 제어 가 1940 년대에 가까웠다 고 예측하는 사람들과 비슷 합니다. 어쨌든 우리는 이미 간단한 날씨 패턴을 시뮬레이션하고 이러한 종류의 예측을 생성 할 수있었습니다. 완벽한 예측을 생성하는 것이 얼마나 더 복잡 할 수 있습니까?


2
이 진술은 AI 연구원들이 지능형 기계를 만드는 꿈을 거부하고 제공 할 것이 없다는 것을 인정하는 다가오는 AI 겨울의 시작과 같습니다. 현실을 좀 더 낙관적으로 묘사 할 수 있다고 생각합니다. Blue brain 프로젝트에서 불멸은 목표 중 하나이며 나노봇으로 도달 할 수 있습니다. 그들은 한 두뇌에서 다른 두뇌로 마음을 복사 할 수 있습니다. 미래 학자들에 따르면 이것은 2030 년에 현실이 될 것입니다. 최소한 유럽 연합은 이것이 의미가 있다고 생각하고 프로젝트를 10 억 US $로지지합니다. 그 금액이 충분히 심각한가요?
Manuel Rodriguez

2
@ManuelRodriguez 기술에 대한 현실적이고 성숙한 관점만큼 겨울이 아니라고 생각합니다. 우리는 정말 수있는 정말 되어 지금 AI와 어려운 문제를 많이 해결. 그것으로부터 불멸 성, 나노봇, 그리고 뇌 복사로 넘어가는 것은 무리가 없습니다. 어쩌면 우리는 결국 그런 것들을 갖게 될지 모르지만 그러한 기술은 기능에 가깝지 않습니다. 그들에 대한 기본 연구에 대한 지원은 훌륭하지만 AI가 50 대와 60 대에 자금을 조달하지 않은 것은 아닙니다. 돈을 지출한다고해서 10 년 안에 불멸과 두뇌가 복제 될 것이라는 의미는 아닙니다. 아이디어는 웃기다.
John Doucette

나는 10 년 안에 개인적으로 불멸을 믿는다 고 말하지 않습니다. EU 휴먼 브레인 프로젝트 (10 억 달러), 미국 브레인 이니셔티브 (총 45 억 달러), 중국 브레인 프로젝트 (2 억 달러)와 같은 소위“전뇌 에뮬레이션”프로젝트에 특이점이 있음을 분명히 밝히고 싶습니다. 그들의 목표로. 정부는 나노봇이 가능한지 의심된다면 연구에 너무 많은 비용을 들이지 않을 것이다.
Manuel Rodriguez

@ManuelRodriguez 물론입니다. 많은 비용이 드는 프로젝트가 실패하더라도 매우 귀중한 연구가 이루어질 수 있습니다.
forest

3

적어도 하나의 매우 중요하고 있습니다 심각한 위르겐 슈 미유 버,의 공동 저자이다 : 분명히 가능성이 superintelligence 진정한 범용 인공 지능의 창조를 믿는 자마다 AI 과학자 LSTM 다른 많은 중요한 기여 중에서는. 실제로, 그는 최근 이 궁극적 목적, 즉 범용 인공 일반 지능을 구축하기 위해 NNAISENSE 를 설립 했습니다 . 그의 이야기에서 사람 추월 창조적 기계 때 TEDxLausanne에서는 Schmidhuber는에 대해 이야기 특이점 (로도 알려져 오메가 ). 그의 웹 기사 인 History Converging 도 참조하십시오 . 다시? (2012) 또는 논문2006 년 : 인공 지능 75 년을 기념하여-역사와 전망 : 향후 25 년 (2007).


이것은 사실이지만, 분명히 소수의 AI 연구원들입니다. Schmidhuber가 자격을 갖춘 것은 사실이지만, 대부분의 AI 연구원들이 AI의이 요소에 대해 그의 견해를 진지하게 생각하지는 않습니다.
John Doucette

1
@JohnDoucette 네, 동의합니다. 이 흥미로운 예외 사례를 지적하고 싶었습니다.
nbro

0

같은 페이지에 있으려면 여러 분야 (수학, 통계, 과학 철학, 인식론, 사회학, 정치, 경제, 몇 가지 언급)로 구성되어 있으므로 "기술 특이점"에 대한 참조를 제공해야합니다.

일반적으로 adj + ai (adj = {weak, strong, full, narrow, ...}) 와 관련된 개념을 고려할 때 , 추측의 숨결은 개발자 (개발자 I의 위치)와 같이 상당히 크고 불쾌합니다 . google x 등의 프로젝트 관리자가 아닌 코딩 관련 문제에 대해 작업한다고 가정합니다.) 쉬는 동안 동료와 차 한 잔을 마시지 않는다면 걱정하지 않아도됩니다.

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.