HTM의 성능에 관한 비판은 무엇입니까?

최근에이 계층 적 시간 메모리 (HTM) 의 존재에 대해 배웠습니다 . 나는 이미 이해하기 쉬운 것처럼 보이는 계층 적 시간 기억 : 개념, 이론 및 용어 (Jeff Hawkins와 Dileep George) 문서를 읽었 지만, 한 가지 빨간색 플래그는 문서가 동료 검토 또는 이유를 설명하려고 시도하지 않는다는 것입니다. 자세하게 작업하십시오.

나는 독립적 인 소스를 둘러 보았습니다. 나는 그것의 성능을 다른 것들과 비교하는 몇 가지 논문을 찾았지만 왜 그것이 잘 수행되는지 (또는 그렇지 않은지) 설명하지 못했습니다. 나는 주류 전문가가 그것을 멸시했다고 주장하는 의견을 발견했지만 실제 비판을 찾을 수 없었습니다.

HTM의 성능에 관한 비판은 무엇입니까? HTM은 일반적이기 때문에 모든 도메인 관련 비판은보다 근본적인 문제와 관련이 있어야합니다.

또한 여러 달에 걸친 교육 세션에도 사용할 수있는 방대한 양의 교육 데이터가 있습니다. 기본적으로 훈련의 규모 나 기간에 관한 비판은 적절하지 않습니다.

Jeff Hawkins에 대한 비판은 http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/ 에서 가져온 다음 에세이에 잘 요약되어 있습니다 .

본인은 HTM 이론이 큰 잠재력을 가지고 있으며 진정한 기계 지능의 기초가 될 것이라고 생각합니다. IBM은 최근 HTM 이론을 백업하겠다고 발표하고 수백 명의 회원을 포함하여 Cortical Learning Center를 시작했습니다.

http://www.technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-controversial-brain-algorithms/

에세이에서 지적한 바와 같이, Numenta의 공동 설립자 인 Dillep George는 신생 Vicarious를 만들었습니다. Vicarious는 엄청난 자금을 모았으며, 그 결과 HTM 이론의 잠재력을 암시합니다.

출처 : Jeff Hawkins에 대한 비판 , The Register

그의 미디어에 정통하고 자신감있는 접근 방식은 호킨스가 널리 발표하지 않았으며 많은 아이디어를 스스로 발명하지 않았다고 지적하는 다른 학자들 사이에서 약간의 느낌을 불러 일으켰습니다.

Numenta는 또한 뇌의 작동 방식에 대한 Hawkins의 특유한 견해 때문에 문제가있었습니다.

예를 들어, 2010 년 Numenta의 공동 설립자 인 Dileep George는 유망한 AI 분야에서 가장 낮은 성과를 거두기 위해 Vicarious라는 회사를 설립했습니다. 우리가 이해 한 바에 따르면,이 원만한 분리는 George가 더 수학적 접근 방식으로 향하고 Hawkins가 더 생물학적으로 접근함에 따라 George와 Hawkins의 의견 차이에서 비롯되었습니다.

호킨스는 또한 NIA의 심리학 교수 게리 마커스 (Gary Marcus)가 빅 데이터에 의해 스팀 롤링 된 헤드 라인이라는 뉴요커 기사에서 Numenta의 접근 방식을 기각하면서 지식인으로부터 약간 벗어났다.

Elreg가이 기사에 대해 인터뷰 한 다른 학자들은 호킨스의 동료 검토 논문이 그의 사업가 페르소나와 결합되어 그의 전체 접근 방식의 신뢰성을 떨어 뜨렸다 고 느꼈기 때문에 인용하고 싶지 않았습니다.

호킨스는 이러한 비판을 없애고 AI 지식인과의 의견 차이가 있다고 생각합니다.

"이것은 완전히 공식화하기가 매우 어려운 수학적 원리에 의해 설계되지 않은 복잡한 생물학적 시스템이다"고 그는 말했다.

한동안 HTM을 공부하고 있습니다. 좀 멋지다. HTM의 기본 동작은 시간 데이터를 분석하는 것입니다. 반면, 현재는 시퀀스 간 문제 (예 : 챗봇)를 모델링하려면 "팬시"신경망 (예 : 반복 신경망)이 필요합니다. 그러나 HTM은 이러한 유형의 문제에 자연스럽게 적용될 수 있습니다!

비주얼 데이터와 함께 전송되는 제어 데이터를 사용하여 일종의 대화 형 TV를 만들 계획입니다. 그런 다음 시각적 데이터를 제어 데이터로 제한하십시오 (가능하지만 갑자기 새로운 비디오를 꿈꾸지 않을 것으로 기대하지는 않지만, 그런 일은 일어나지 않습니다). 그러나, 그것에 대해 가장 멋진 점은 당신이 그것을 가르치는 비디오가 재생시 나오지 않을 것입니다. 대신 가장 일반적인 버전을 보여줍니다. 이것은 이해의 형태이며 실제로 실제로 만듭니다. 멋있는. 그래서 그것은 당신이 꿈꾸는 꿈과 같습니다.

텍스트와 함께 HTM을 사용하는 경우

1. 편지를 저장하고
2. 음절을 만들어냅니다.
3. 그런 음절을 취해 이것들로부터 공통점을 만들어냅니다.
4. 그리고 그것은 일반적인 음절에서 단어를 형성합니다.
5. 그런 다음이 단어들을 사용하여 공통점이 무엇인지 결정합니다.
6. 아마 더 큰 단어를 형성 할 것입니다.
7. 그런 다음 단어 그룹을 형성합니다.
8. 그런 다음 문장의 그룹을 형성합니다

그래서, 매번 레벨이 올라가면, 그룹을 더 단단히 결속시키기 위해 조금 더 "잊어 버립니다". 보다 밀접한 세분화 된 그룹은 재생중인 레코드와 약간 다르게 재생됩니다. 그리고이 재생은 많은 사람들에게 보여지지 않았습니다.

나는 그것이 자신의 문장을 완전히 제시하는지 궁금합니다.

그것은 문장이 조금 느리게 자라게합니다. 아무것도 잊지 않고 단순히 레코드를 평평하게 재생하는 것보다 훨씬 어렵습니다. 나는 당신의 문장이 느리게 성장할수록 당신이 그것을 더 잘한다고 말하고 싶습니다.