훈련 중에 가중치를 플롯하기 위해 멀티 레이어 네트워크에 해당하는 Hinton Diagrams를 찾으려고합니다.
훈련 된 네트워크는 Deep SRN과 다소 유사합니다. 즉, 여러 개의 힌튼 다이어그램의 동시 플롯을 시각적으로 혼란스럽게 만드는 다중 가중치 매트릭스가 많이 있습니다.
누구나 여러 계층의 반복 네트워크에 대한 가중치 업데이트 프로세스를 시각화하는 좋은 방법을 알고 있습니까?
주제에 관한 논문을 많이 찾지 못했습니다. 나는 무언가를 생각해 낼 수 없다면 대신 레이어 당 가중치에 대한 시간 관련 정보를 표시하려고했습니다. 예를 들어, 각 계층에 대한 시간에 따른 가중치 델타 (모든 단일 연결 사용 생략). PCA는 또 다른 가능성입니다. 시각화는 교육 중에 온라인으로 수행되므로 추가 계산을 많이하지 않으려 고합니다.
답변:
내가 아는 마지막 것은 ConvNetJS입니다 .
ConvNetJS는 브라우저에서 딥 러닝 모델 (주로 신경망)을 훈련시키기위한 Javascript 라이브러리입니다. 탭을 열면 훈련 중입니다. 소프트웨어 요구 사항, 컴파일러, 설치, GPU, 땀이 없습니다.
이 사이트의 데모는 무게가 나가고 시간에 따라 어떻게 변하는가 (실제 네트워크에는 많은 뉴런이 있기 때문에 많은 매개 변수를 염두에 두십시오). 또한 플로팅에 만족하지 않으면 네트워크 매개 변수에 액세스 할 수 있으며 JavaScript이므로 원하는대로 플로팅 할 수 있습니다.
귀하의 질문과 관련된 주제에 대한 커서 이해를 바탕으로 Gephi ( https://gephi.github.io ; 원래 gephi.org 링크 리디렉션)가 신경망 동적 시각화 를 처리 할 수 있어야한다고 생각 합니다. 목표를 달성하려면 그래프를 해당 가중치 ( https://forum.gephi.org/viewtopic.php?t=1875 ) 로 스트리밍 해야합니다 . 들어 스트리밍 , 당신이 가장 가능성이 필요합니다 플러그인 : https://marketplace.gephi.org/plugin/graph-streaming을 .
UPDATE : 당신은 유용 소니아 소프트웨어를 찾을 수 있습니다 http://web.stanford.edu/group/sonia을 .