«neural-networks» 태그된 질문

백프로 프 네트워크는 완전히 연결된 (적어도 2 개 이상의 숨겨진 계층을 가진 계층 간) 백프로 프 네트워크입니다. 불행히도, 그들은 종종 배우기가 느리고 지나치게 적합하거나 어색한 일반화를하는 경향이 있습니다. 이 네트워크에 장난을 치면서 나는 가장자리의 일부를 잘라내는 것이 (무게가 0이고 변경이 불가능하도록) 네트워크가 더 빨리 배우고 일반화되는 경향이 있음을 관찰했습니다. 이것에 …

29 machine-learning  network-topology  neural-networks 

LSTM 네트워크의 하이퍼 파라미터 중 하나는 온도입니다. 무엇입니까?

25 machine-learning  neural-networks 

신경망, 딥 러닝 시스템 및 딥 빌리 프 네트워크의 차이점은 무엇입니까? 기본 신경망은 3 계층이라고 생각하며, 신경망이 서로 쌓인 것으로 묘사 된 Deep Belief Systems가 있습니다. 나는 최근까지 딥 러닝 시스템에 대해 들어 보지 못했지만 그것이 딥 빌리 프 시스템의 동의어라고 강력하게 의심합니다. 누구든지 이것을 확인할 수 있습니까?

23 machine-learning  neural-networks  boltzmann-machine 

내 목표는 입력 및 출력으로 설명 한 다음 문제를 해결하는 것입니다. 입력: 방향성 비순환 그래프 (directed acyclic graph) 와 노드 소스 및 싱크 ( ).지지G미디엄미디엄mn엔n111m > n ≥1m>n≥1m > n \geq 1 산출: VC 차원 토폴로지 뉴럴 네트워크 (또는 그 근사치) .지지G 자세한 내용 : 각 노드 는 S 자형 …

19 algorithms  complexity-theory  machine-learning  neural-networks  vc-dimension 

최근에이 계층 적 시간 메모리 (HTM) 의 존재에 대해 배웠습니다 . 나는 이미 이해하기 쉬운 것처럼 보이는 계층 적 시간 기억 : 개념, 이론 및 용어 (Jeff Hawkins와 Dileep George) 문서를 읽었 지만, 한 가지 빨간색 플래그는 문서가 동료 검토 또는 이유를 설명하려고 시도하지 않는다는 것입니다. 자세하게 작업하십시오. 나는 독립적 …

16 neural-networks  hierarchical-temporal-memory 

소개 1 단계 나는 표준 역 전파 신경망을 작성하고 테스트하기 위해 XOR을 매핑하기로 결정했습니다. 2-2-1 네트워크입니다 (tanh 활성화 기능 포함). X1 M1 O1 X2 M2 B1 B2 테스트 목적으로, 상단 중간 뉴런 (M1)을 AND 게이트로 설정하고 하단 뉴런 (M2)을 OR 게이트로 설정했습니다 (참이면 출력 1, 거짓이면 -1). 이제 연결 M1-O1을 …

16 machine-learning  neural-networks 

인공 신경망이 다층 퍼셉트론 이라고 언제 말 합니까? 인공 신경망은 언제 다층 이라고 말 합니까? 퍼셉트론 이라는 용어 는 가중치를 업데이트하는 학습 규칙과 관련이 있습니까? 아니면 뉴런 단위와 관련이 있습니까?

13 neural-networks  perceptron 

시계열을 예측하기 위해 신경망을 사용하고 있습니다. 지금 당면한 질문은 날짜 / 시간 / 일련 번호를 어떻게 인코딩합니까? 신경망에 대한 입력으로 설정된 각 입력의? 여기에 설명 된대로 인코딩 범주에 사용되는 C 인코딩 중 하나를 사용해야 합니까? 아니면 그냥 시간을 공급해야합니까 (1-1-1970 이후 밀리 초)? 아니면 나머지 데이터를 시간순으로 공급하는 한 불필요하게 …

12 machine-learning  artificial-intelligence  neural-networks 

이 사이트에서 Deep Dream에 대한 몇 가지 질문을 보았지만 실제로 DeepDream이 무엇을하고 있는지에 대해 실제로 말하는 사람은 없습니다. 내가 모은 한, 목표 함수를 변경하고 역 전파를 변경하여 가중치를 업데이트하는 대신 입력 이미지를 업데이트하는 것처럼 보입니다. Google이 한 일을 정확히 아는 사람이 있는지 궁금합니다. 그들은 그들의 기사 중 하나에서 최적화를 수행 …

12 machine-learning  artificial-intelligence  neural-networks  image-processing  computer-vision 

최근에 Google Research 블로그에서 신경망에 대한 흥미로운 블로그 항목을 읽었습니다. 기본적으로 그들은 이미지 인식과 같은 다양한 문제를 해결하기 위해이 신경망을 사용합니다. 그들은 축삭의 무게를 "진화"시키기 위해 유전자 알고리즘을 사용합니다. 기본적으로 내 생각은 다음과 같습니다. 숫자를 인식하는 프로그램을 작성해야한다면 시작하는 방법을 모를 것입니다. 신경망이 진화하기 위해 올바른 맥락을 만들어 내 신경망은 …

10 machine-learning  np  neural-networks  p-vs-np  genetic-algorithms 

Atari의 게임 에서 Google 심층 업적을 읽은 후 q-learning 및 q-networks를 이해하려고 노력하고 있지만 약간 혼란 스럽습니다. 할인 요소의 개념에서 혼란이 발생합니다. 내가 이해 한 것에 대한 간략한 요약. 심층 컨볼 루션 신경망 (convolutional neural network)은 행동의 최적 기대 값의 값을 추정하는데 사용된다. 네트워크는 손실 함수를 최소화하는 여기서, E S …

10 artificial-intelligence  neural-networks  reinforcement-learning 

합리적인 가중치를 갖는 신경망은 신경망을 이용한 범용 튜링 머신 튜링 계산 능력을 가지고 있음이 입증되었습니다 . 내가 얻는 것에서, 실제 가중치를 사용하면 더 확실하지는 않지만 더 많은 계산 능력을 얻는 것처럼 보입니다. 그러나 신경망의 계산력과 활성화 함수 사이에 상관 관계가 있습니까? 예를 들어, 활성화 기능이 입력을 스펙 커 시퀀스의 한계 …

10 computability  neural-networks 

신경망에 2 개 이상의 숨겨진 계층을 갖는 이점이 있습니까? 나는 그것을 추천하는 곳을 보았습니다. 다른 곳은 이점이 없다는 것을 증명합니다. 어느 것이 옳습니까?

10 artificial-intelligence  neural-networks  neural-computing 

운동량 항과 함께 역 전파 알고리즘을 사용하여 신경망의 가중치를 업데이트 할 때 학습 속도도 운동량 항에 적용되어야합니까? 운동량 사용에 대해 찾을 수있는 대부분의 정보는 다음과 같은 방정식을 갖습니다. W′i=Wi−αΔWi+μΔWi−1Wi′=Wi−αΔWi+μΔWi−1W_{i}' = W_{i} - \alpha \Delta W_i + \mu \Delta W_{i-1} 어디 αα\alpha 학습률이며 μμ\mu 운동량 항입니다. 만약에 μμ\mu 용어가 αα\alpha 다음 …

9 machine-learning  neural-networks 

우리가 수행하는 많은 기계 학습 프로젝트의 경우 k 가장 가까운 이웃 분류기로 시작합니다. 이는 일반적으로 모든 거리를 계산하기에 충분한 시간이 있고 매개 변수 수가 제한되어 있기 때문에 이상적인 시작 분류기입니다 (k, 거리 측정 및 가중치). 그러나 프로젝트 후반에 다른 분류기로 전환 할 여지가 없으므로 knn 분류기를 사용하는 경우가 종종 있습니다. …

9 neural-networks  classification