一般来说,通过向隐藏层或更多隐藏层添加更多节点来扩展人工神经网络,您会获得什么?
它是否允许映射更精确,或者它是否允许在它可以识别的关系中更微妙,或者其他什么?
发布于 2008-12-02 01:05:55
这是一个非常有趣的问题,但它不是那么容易回答。这取决于您试图解决的问题以及您尝试使用的神经网络。有几种神经网络类型。
一般来说,节点越多,精度越高,这一点不是很清楚。研究表明,大多数情况下只需要一个隐藏层。节点数应该是解决问题所需的最小节点数。如果你没有足够的解决方案--你将无法得到解决方案。
另一方面-如果你已经达到了很好的解决方案的节点数量-你可以添加越来越多的节点,并且你将看不到结果估计的任何进一步的进展。
这就是为什么有这么多类型的神经网络。他们试图解决不同类型的问题。所以你有神经网络来解决静态问题,解决与时间相关的问题等等。节点的数量并不像它们的设计那样重要。
发布于 2008-12-02 01:25:46
当你有一个隐藏层时,你是在创建输入的组合特征。那么,是通过现有输入的更多特征更好地解决问题,还是通过组合现有特征的高阶特征来更好地解决问题呢?这是标准前馈网络的权衡。
你有一个理论上的保证,任何功能都可以用一个具有两个隐藏层和非线性激活的神经网络来表示。
此外,如果您不确定适当的拓扑结构,请考虑使用其他资源进行增强,而不是添加更多节点。
发布于 2008-12-02 01:43:29
非常粗略的经验法则
通常,输入向量越大,每层的元素越多。
更多的层可以让您对更多的非线性系统进行建模。
如果您使用的网络具有传播延迟,则可以使用更多层对时间序列进行建模。注意在延迟中有时间抖动,否则它不会工作得很好。如果这对你来说只是胡言乱语,那就忽略它。
更多的层允许您插入重复出现的特征。这对于识别任务非常有用。你安的实现我不允许这样做。
HTH
https://stackoverflow.com/questions/332722
复制相似问题