Spatio-Temporal Backpropagation for Training High-performance Spiking Neural Networks

郑重声明：原文参见标题，如有侵权，请联系作者，将会撤销发布

FRONTIERS IN NEUROSCIENCE, (2018)

Abstract

　　与人工神经网络 (ANN) 相比，尖峰神经网络 (SNN) 有望探索类脑行为，因为尖峰可以编码更多时空信息。 尽管现有的包括 ANN 预训练或基于反向传播 (BP) 的直接训练的方案使 SNN 的监督训练成为可能，但这些方法仅利用网络的空间域信息导致性能瓶颈，并且需要许多复杂的训练技术。 另一个基本问题是尖峰活动自然是不可微的，这给训练 SNN 带来了很大的困难。 为此，我们构建了一个对梯度下降训练更友好的迭代 LIF 模型。 通过在训练阶段同时考虑逐层空间域 (SD) 和时间相关时间域 (TD)，以及尖峰活动的近似导数，我们提出了时空反向传播 (STBP) 不使用任何复杂技能的训练框架。我们设计了相应的全连接和卷积架构，并在静态 MNIST 和自定义对象检测数据集以及动态 N-MNIST 上评估我们的框架。 结果表明，与尖峰网络上现有的最先进算法相比，我们的方法实现了最佳精度。 这项工作为探索具有丰富时空动态的未来类脑计算范式的高性能 SNN 提供了新的视角。

原文：https://www.cnblogs.com/lucifer1997/p/15175492.html