问脉冲(尖峰)神经网络是否优于递归神经网络？

EN

我不相信你看待这个问题的方式是正确的。神经网络(或任何预测模型)最重要的属性是它的准确性。如果模型更准确(和更具预测性)，我宁愿花10倍的时间来构建模型。

有许多标准技术可用于评估模型的预测能力，例如

*保留一次交叉验证

*省略多个交叉验证

*费雪随机化(http://en.wikipedia.org/wiki/Ronald_Fisher)

还有许多用于构建预测模型的指导原则，例如

*奥卡姆剃刀

*避免过度拟合(http://web.engr.oregonstate.edu/~tgd/classes/534/slides/part10.pdf)

*对过度拟合的惩罚(http://en.wikipedia.org/wiki/Regularization_(mathematics))

这里有几个地方可以找到更多信息

http://predictivemodelingblog.blogspot.com/

http://www.statsoft.com/textbook/data-mining-techniques/

结论:选择能解释你的数据的最简单的模型

让我尝试回答最初的问题，该问题特定于尖峰神经网络的性能。我最近才开始熟悉尖峰网络，但到目前为止，我找到的关于他们表现的最好的评论是Hélène Paugam Moisy和Sander Bohte的专著“用尖峰神经元网络计算”，这本书没有付费墙here和其他网站。

从这个来源可以看出，一般来说，它们的表现很好，因为它们天生的能力；尖峰网络是通用的逼近器，就像它们在普通神经网络中的一些近亲一样，它们的计算能力超过了图灵机。(第5页，Paugam Moisy和Bohte)。事实上，对于B型尖峰神经元，Wolfgang“得出结论，尖峰神经元网络在计算上比第一代和第二代神经网络都更强大”，即感知器家族和具有连续激活的一类网络(第21页，Paugam Moisy和Bohte)。另一方面，它们容易出现加载问题，在本文讨论的某些条件下，加载问题可能是NP-完全的。

在计算性能方面，尖峰网络的各式各样的子类型在它们的资源需求上差别很大。在第12、14-15页上，Paugam Moisy和Bohte很好地、快速地总结了处理操作中的一些差异：

“霍奇金-赫克斯利模型(HH)是现实的，但对于SNN的模拟来说太复杂了。尽管ODE9解算器可以直接应用于微分方程系统，但要计算霍奇金-赫克斯利模型大型网络中神经元之间的时间相互作用将是困难的。”

...The复杂性范围也可以用模拟的计算要求来表示。由于它由四个微分方程定义，霍奇金-赫克斯利模型每1ms模拟需要大约1200次浮点计算( FLOPS )。简化为两个微分方程，莫里斯-勒卡尔或菲茨休-纳古莫模型的计算成本仍然是一到几百个FLOPS。LIF模型只需要5个FLOPS，对于具有自适应的LIF和二次型或指数积分与火神经元等变体大约需要10个FLOPS，而对于Izhikevich模型大约需要13个FLOPS。

正如预期的那样，计算能力和这些计算成本之间存在权衡；LIF可能需要很少的失败，但在本文的后面部分，他们将详细说明它如何无法实现其他尖峰计算所享受的准确性。计算需求也将受到尖峰网络编码方式的极大影响(我打算自己这样做，但还没有机会进行实验)。在第38-39页上，Paugam Moisy和Bohte强烈建议使用事件驱动的架构，该架构可以最大限度地利用并行性。我还建议查看他们广泛的参考文献，我相信这可以带来几十个其他实用的性能技巧。我希望这能有所帮助。