RNN GRU LSTM 模型理解

一、RNN

1.  在RNN中，

二、GRU

1. GRU是为了解决RNN 梯度消失引入的改良模型，

2. GRU 通过门控 Gamma_r Gamma_u 两个变量，实现了对于过往记忆的筛选：这种机制使得GRU能够灵活地决定何时“忘记”过去的信息以及何时“记住”新的信息，从而有效地捕捉序列数据中的长期依赖关系。

具体理解如下：