AIC에 대한 인공 신경망의 매개 변수 수


답변:


14

피드 포워드 네트워크에서 학습 된 모든 연결은 매개 변수입니다. 다음은 Wikipedia의 일반 네트워크 이미지입니다.

여기에 이미지 설명을 입력하십시오

(×4)+(4×2)=20


연결은 고유하지 않을 수 있습니다 ( ieexplore.ieee.org/document/714176 참조 ). 따라서 단순히 연결 수를 계산해도 괜찮습니까? 매개 변수와 하이퍼 파라미터를 구분해야합니까?
Funkwecker

바이어스 노드가 포함 된 경우 총 연결 수는 26입니다.
agcala

0

신경망은 함수의 기능의 함수일뿐입니다 (모델의 아키텍처에 의해 지시 됨). 결과 함수를 단순화 할 수없는 경우 모델의 총 매개 변수 수 (각 노드의 모든 매개 변수 수의 합계)는 AIC 계산에 필요한 수입니다.


0

A에 대한 MLP 완전히 연결 네트워크 다음 (파이썬) 코드를 사용할 수 있습니다 :

def total_param(l=[]):
s=0
for i in range(len(l)-1):
    s=s+l[i]*l[i+1]+l[i+1]
return s

다음 레이어 구성의 네트워크가있는 경우

input:  435
hidden: 166 
hidden: 103 
hidden:  64
output:  15

당신은 그냥 함수를 호출

total_param([435,166,103,64,15]) 
97208
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.