RNN에서 시간이지나면서 다시 전파되는 이유는 무엇입니까?

반복적 인 신경망에서는 일반적으로 여러 시간 단계를 통해 전파되고 네트워크를 "롤링 해제"한 다음 입력 시퀀스를 통해 전파됩니다.

시퀀스에서 각 개별 단계 후에 가중치를 업데이트하지 않는 이유는 무엇입니까? (잘림 길이 1을 사용하는 것과 동일하므로 롤링 할 것이 없습니다.) 이것은 사라지는 기울기 문제를 완전히 제거하고 알고리즘을 크게 단순화하며 아마도 현지 최소값에 걸릴 가능성을 줄이며 가장 중요하게 잘 작동하는 것 같습니다 . 텍스트를 생성하기 위해이 방법으로 모델을 훈련 시켰으며 결과는 BPTT 훈련 된 모델에서 본 결과와 비슷한 것으로 보입니다. 내가 본 RNN에 대한 모든 튜토리얼은 BPTT를 사용한다고 말하고 있기 때문에 혼란스러워합니다.

업데이트 : 답변을 추가했습니다

편집 : 나는 두 가지 방법을 비교할 때 큰 실수를했고 내 대답을 바꿔야합니다. 그것은 내가하고있는 방식으로 밝혀졌습니다. 현재 시간 단계로 전파되면서 실제로 더 빨리 배우기 시작합니다. 빠른 업데이트는 가장 기본적인 패턴을 매우 빠르게 학습합니다. 그러나 더 큰 데이터 세트와 더 긴 교육 시간으로 BPTT는 실제로 최고의 결과를 얻었습니다. 나는 몇 가지 시대에 대한 작은 샘플을 테스트하고 있었고 레이스에서 우승하기 시작한 사람이 승자가 될 것이라고 생각했습니다. 그러나 이것은 나를 흥미로운 발견으로 이끌었습니다. 단 한 번의 시간 간격으로 전파하는 훈련을 시작한 다음 BPTT로 변경하고 전파 거리를 천천히 늘리면 수렴 속도가 빨라집니다.

RNN은 각 레이어가 새로운 입력을받을 수 있지만 동일한 매개 변수를 갖는 DNN (Deep Neural Network)입니다. BPT는 그 자체가 그라디언트 디센트 (Gradient Descent)를위한 멋진 단어 인 이러한 네트워크에서 역 전파 (Back Propagation)를위한 멋진 단어입니다.

말하는 RNN 출력하는 Y t 각 단계에서와 E R R O R t = ( Y t - Y t ) (2)$\hat{y}_t$

$$\begin{equation} error_t=(y_t-\hat{y}_t)^2 \end{equation}$$

가중치를 배우기 위해서는 함수 의 변화가 손실 함수에 얼마나 영향을 미치는가? 다음과 같은 방향으로 매개 변수를 이동하십시오.

$$\begin{equation} \nabla error_t=-2(y_t-\hat{y}_t)\nabla \hat{y}_t \end{equation}$$

즉, 각 계층에서 예측이 얼마나 좋은지에 대한 피드백을받는 DNN이 있습니다. 파라미터의 변경은 DNN의 모든 계층 (시간 간격)을 변경하고 모든 계층은 다음 출력에 기여하므로이 점을 고려해야합니다.

간단한 하나의 뉴런 1 레이어 네트워크를 사용하여 이것을 반 명시 적으로보십시오.

$$\begin{align*} \hat{y}_{t+1} =& f(a+bx_t+c\hat{y}_t)\\ \frac{\partial}{\partial a}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot c\cdot \frac{\partial}{\partial a}\hat{y}_{t} \\ \frac{\partial}{\partial b}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot (x_t+c\cdot\frac{\partial}{\partial b}\hat{y}_{t})\\ \frac{\partial}{\partial c}\hat{y}_{t+1} = & f'(a+bx_t+c\hat{y}_t)\cdot (\hat{y}_t+c\cdot\frac{\partial}{\partial c}\hat{y}_{t})\\ \iff\\ \nabla \hat{y}_{t+1} =& f'(a+bx_t+c\hat{y}_t)\cdot \left(\begin{bmatrix}0\\x_t\\\hat{y}_t \end{bmatrix} + c \mathbin{\color{red}{\nabla \hat{y}_{t}}} \right) \end{align*}$$

함께 학습율 한 트레이닝 단계는 다음이다 : [ ~ ~ B ~ C ] ← [ B C ] + δ ( Y t - Y t ) ∇ Y$\delta$

$$\begin{equation} \begin{bmatrix}\tilde{a}\\\tilde{b}\\\tilde{c}\end{bmatrix} \leftarrow \begin{bmatrix}a\\b\\c\end{bmatrix} + \delta (y_{t}-\hat{y}_{t})\nabla \hat{y}_t \end{equation}$$

우리가 볼 것은 계산하기 위해 있다는 것입니다 당신이 필요 에서 계산, 즉 롤에 ∇ y를 t . 당신이 제안하는 것은 단순히 빨간색 부분을 무시하고 t에 대한 빨간색 부분을 계산 하지만 더 이상 재귀하지 않는 것입니다. 나는 당신의 손실이$\nabla \hat{y}_{t+1}$$\nabla \hat{y}_{t}$$t$

$$\begin{equation} error=\sum_t(y_t-\hat{y}_t)^2 \end{equation}$$

어쩌면 각 단계는 집계에 충분한 원유 방향에 기여할 것입니까? 이것은 결과를 설명 할 수 있지만 방법 / 손실 기능에 대해 더 많이 듣고 싶습니다! 또한 두 개의 시간 대별 ANN과의 비교에 관심이 있습니다.

edit4 : 주석을 읽은 후에는 아키텍처가 RNN이 아닌 것 같습니다.

$h_t$

모델 : 각 단계에서 상태 비 저장-숨김 상태 재 작성 edit2 : DNN에 더 많은 참조를 추가했습니다.

"시간을 통한 전개"는 단순히 연쇄 규칙의 적용입니다.

$$\frac{dF(g(x), h(x), m(x))}{dx} = \frac{\partial F}{\partial g}\frac{dg}{dx} + \frac{\partial F}{\partial h}\frac{dh}{dx} + \frac{\partial F}{\partial m}\frac{dm}{dx}$$

시간 단계에서 RNN의 출력 $t$, $H_t$ is a function of the parameters $\theta$, the input $x_t$ and the previous state, $H_{t-1}$ (note that instead $H_t$ may be transformed again at time step $t$ to obtain the output, that is not important here). Remember the goal of gradient descent: given some error function $L$, let's look at our error for the current example (or examples), and then let's adjust $\theta$ in such a way, that given the same example again, our error would be reduced.

How exactly did $\theta$ contribute to our current error? We took a weighted sum with our current input, $x_t$, so we'll need to backpropagate through the input to find $\nabla_\theta a(x_t, \theta)$, to work out how to adjust $\theta$. But our error was also the result of some contribution from $H_{t-1}$, which was also a function of $\theta$, right? So we need to find out $\nabla_\theta H_{t-1}$, which was a function of $x_{t-1}$, $\theta$ and $H_{t-2}$. But $H_{t-2}$ was also a function a function of $\theta$. And so on.