b2b 网站系统营销网站建设创意

前言：前面几篇文章讲解了NLP数据的基本处理，从这篇文章开始做NLP相关模型的普及。。。

首先普及RNN模型。

一、RNN相关概念

RNN(Recurrent Neural Network), 中文称作循环神经网络, 它一般以序列数据（即数值与所在位置均包含重要信息的数据，如时间序列、文本、语音等）为输入, 通过网络内部的结构设计有效捕捉序列之间的关系特征, 一般也是以序列形式进行输出。

其核心特点是具有记忆能力，能够利用前一时刻的隐藏状态影响当前时刻的输出，从而捕捉序列中的动态信息。

一般单层神经网络结构:

RNN单层网络结构:

以时间步对RNN进行展开后的单层网络结构:

RNN的优缺点：

二、RNN模型的基本运作

RNN常用于NLP的文本分类、情感分析、 意图识别等任务。

下面我们将以一个用户意图识别的例子进行简单的分析:

第一步: 用户输入了"What time is it ?", 我们首先对它进行基本的分词, 因为RNN是按照顺序工作的, 每次只接收一个单词进行处理。

第二步: 首先将单词"What"输送给RNN, 它将产生一个隐层输出O1。

第三步: 继续将单词"time"输送给RNN, 但此时RNN不仅仅利用"time"来产生输出O2, 还会使用来自上一层隐层输出O1作为输入信息。

第四步: 重复这样的步骤, 直到处理完所有的单词。

第五步: 最后，将隐层输出O5经过处理来解析用户意图。

三、RNN的分类

这里我们将从两个角度对RNN模型进行分类. 第一个角度是输入和输出的结构, 第二个角度是RNN的内部构造。

（一）根据输入和输出的结构分类

1. N vs N - RNN

2. N vs 1 - RNN

3. 1 vs N - RNN

4. N vs M - RNN

（二）根据RNN的内部构造分类

1.传统RNN ：简单时间序列预测（如股票价格短期趋势）。

2.LSTM 长短期记忆网络）：机器翻译、语音识别（需长程依赖的任务）。

3. Bi-LSTM（双向LSTM） ：命名实体识别（NER）、情感分析。

4. GRU （门控循环单元）：文本生成、视频帧预测。

5. Bi-GRU（双向GRU）：实时性要求较高的任务（如在线评论情感分析）。

重点是传统RNN、LSTM和GRU。

文章的最后~

附赠1：（N vs N、 N vs 1、 1 vs N 、N vs M ）RNN对比

附赠2：（传统RNN 、 LSTM 、 Bi-LSTM 、 GRU 、 Bi-GRU）RNN对比

今天的分享到此结束。