如何堆叠多层LSTM网络——长短期记忆(LSTM)系列_LSTM的建模方法(2)

发布时间：2018-12-07 15:15,

浏览次数：1362

, 标签：

LSTM

导读：

堆叠式LSTM属于深度学习，通过添加网络的深度，提高训练的效率，获得更高的准确性。

文中介绍了堆叠式LSTM的架构和实现方法

在堆叠式LSTM中，层与层的输数出通过return_sequences = True参数修改成3D数据，以便供下一层网络使用。

源码地址

https://github.com/yangwohenmai/LSTM/tree/master/%E9%95%BF%E7%9F%AD%E6%9C%9F%E8%AE%B0%E5%BF%86(LSTM)/%E4%BD%BF%E7%94%A8LSTM%E5%BB%BA%E6%A8%A1/%E5%A0%86%E5%8F%A0%E7%9A%84%E9%95%BF%E7%9F%AD%E6%9C%9F%E8%AE%B0%E5%BF%86%E7%BD%91%E7%BB%9C

为什么要增加深度？

堆叠LSTM隐藏层使模型更深入，更准确地将描述作为深度学习技术获得。

神经网络的深度通常归因于该方法在广泛的具有挑战性的预测问题上的成功

可以将其他隐藏层添加到多层感知器神经网络中以使其更深。附加隐藏层被理解为重新组合来自先前层的学习表示并在高抽象级别创建新表示。例如，从线到形状到对象。

足够大的单个隐藏层多层感知器可用于近似大多数功能。增加网络的深度提供了另一种解决方案，需要更少的神经元和更快的训练。最终，添加深度是一种代表性优化。

堆叠式LSTM架构

LSTM可以利用相同的好处。</