递归神经网络(RNN)是一种特殊类型的人工神经网络，用于时间序列或顺序数据。当数据点彼此独立时使用前馈神经网络；在顺序数据的情况下，数据点相互依赖。在这种情况下，需要修改神经网络以合并数据点之间的依赖关系。递归神经网络(RNN)具有记忆的概念，这有助于存储先前输入的状态或信息，以生成下一个输出序列。
递归神经网络(RNN)算法中的每个节点都充当存储单元，可以进行计算和执行操作。如果算法的预测不正确，那么系统会自我学习并在反向传播期间继续朝着正确的预测方向努力。
创建RNN是为了解决前馈神经网络的几个问题，
1、前馈神经网络无法处理顺序数据。
2、前馈神经网络只考虑当前输入。
3、前馈神经网络无法记住以前的输入。
递归神经网络的类型
1、一对一
它被称为普通神经网络。它处理固定大小的输入到固定大小的输出，其中两者都独立于先前的信息或输出。描述此类RNN的最佳示例是图像分类。
2、一对多
它处理固定大小的信息作为输入，并给出一系列数据作为输出。一个合适的例子是图像字幕，它将图像作为输入并给出一系列单词作为输出。
3、多对一
它接受一系列信息作为输入，并给出固定大小的输出。例如，它用于情感分析，其中一个句子被分类为表达积极或消极的情绪。
4、多对多
这种类型的RNN将一系列信息作为输入，并将输出作为数据序列循环处理。它应用于机器翻译，其中RNN读取一种语言的句子并以其他语言输出。
递归神经网络架构
1、双向循环神经网络(BRNN)
虽然单向RNN只能从先前的输入中提取信息以预测当前状态，但BRNN可以提取未来的数据以提高其准确性。
2、长短期记忆（LSTM）
是一种流行的人工循环神经网络，用于深度学习领域。长短期记忆体具有反馈连接，这在前馈神经网络中不存在。
LSTM不仅可以处理单个数据点，还可以处理整个数据序列。LSTM适用于连接的手写识别、语音识别、网络流量异常检测等任务。
3、门控循环单元(GRU)
这种架构也类似于LSTM。这是因为GRU还可以解决RNN模型的短期记忆问题。GRU使用隐藏状态而不是单元状态，并使用两个门代替三个门。这里使用的两个门是重置门和更新门。与LSTM非常相似，重置和更新门控制要保留的信息量以及要保留哪些信息。
递归神经网络的应用
1、有助于解决时间序列问题，例如股票市场预测。
2、有助于解决文本挖掘和情感分析问题。
3、RNN大量用于开发NLP技术、机器翻译、语音识别、语言建模等。
4、它有助于图像字幕、视频标记、文本摘要、图像识别、面部识别和其他OCR应用程序。
