在神经网络中，为什么传统上将神经元的数量设置为2^n？

在神经网络中，传统上将神经元的数量设置为2^n的原因有以下几点：

计算效率：在神经网络中，神经元之间的连接通常使用矩阵运算来表示。而矩阵运算在计算机中的实现通常依赖于并行计算的技术，而并行计算的效率往往与计算单元的数量有关。将神经元的数量设置为2^n，可以更好地利用计算机硬件的并行计算能力，提高计算效率。
内存管理：在神经网络中，神经元之间的连接通常需要存储权重参数。将神经元的数量设置为2^n，可以使得权重参数的存储更加高效。例如，当神经元数量为8时，可以使用一个8x8的矩阵来存储所有的权重参数，而不需要额外的内存空间来存储不必要的参数。
网络结构：在神经网络中，网络的层数和每层的神经元数量通常是固定的。将神经元的数量设置为2^n，可以更好地满足网络结构的要求，使得网络的设计更加灵活和简洁。
数据表示：在神经网络中，输入和输出的数据通常是以二进制形式表示的。将神经元的数量设置为2^n，可以更好地适应数据的表示和处理，提高网络的表达能力和学习能力。

总结起来，将神经元的数量设置为2^n可以提高计算效率、内存管理、网络结构的灵活性，并且更好地适应数据的表示和处理。

4与神经网络连接:草案评估+进一步步骤

artificial-intelligence、neural-network、game-ai

我想建立一个连接4引擎，它使用人工神经网络工作-仅仅是因为我着迷于ANNs。我要创建以下的人工神经网络结构草案。能行吗？这些连接(甚至是交叉连接)正确吗？你能帮我起草这个ANN的UML类图吗？我想把董事会的代表交给人工神经网络作为输入。输出应该是选择的一步。以后应该使用进行学习，并应用。引擎将对抗人类玩家。然后根据比赛的结果，调整权重。我在找什么. ..。主要是编码问题。它越是从抽象思维转向编码，它就越好。

浏览 16提问于2010-12-26得票数 7

回答已采纳

1回答

神经网络中输入矩阵和权矩阵维数的约定？

neural-network、matrix

我目前正在学习神经网络，我在互联网上看到了关于权重和输入矩阵维度的相互矛盾的解释。我只想知道是否有比其他人更多人使用的惯例。目前，我定义了输入矩阵X，其维度为： (男x n) 其中m是样本数，n是特征数。我用维数来定义我的权重矩阵： (a X b) 其中a是层中的神经元数目，b是最后一层中的神经元数。这是常规做法还是我该改变什么？

浏览 0提问于2020-07-06得票数 1

回答已采纳

1回答

利用神经网络进行Q学习的几个问题

machine-learning、artificial-intelligence、neural-network、reinforcement-learning、q-learning

我已经实现了Q-学习，才能接近。Q(S，A)我使用如下的神经网络结构，激活乙状结肠输入，动作神经元的输入数+1(所有输入定标为0-1) 输出，单一输出。Q值 N个隐层数。随机0< rand() < propExplore的勘探方法在每次使用以下公式进行的迭代中，我计算了一个Q-目标值然后用， error = QTarget - LastQValueReturnedFromNN 并通过神经网络向后传播误差。 Q1，我在正确的轨道上吗？我看过一些文章，它们实现了一个神经网络，每个动作都有一个输出神经元。 Q2，我的奖励函数返回一个介于

浏览 0提问于2014-12-07得票数 8

回答已采纳

1回答

Hopefield贡献矩阵模式识别

c#、algorithm、matrix、neural-network

我正在读这本书： C#第二版神经网络简介特别是关于Hopefield网络的章节。他解释了如何计算作为模式的布尔数组的贡献矩阵。对于给定以下模式0101的实例，相应的贡献矩阵(权重)是： 0 -1 1 -1 -1 0 -1 1 1 -1 0 -1 -1 1 -1 0 识别模式的过程遵循以下规则：我们现在必须将这些权重与0101的输入模式进行比较。我们将只与输入模式中包含1的位置相对应的权重之和。每个神经元的激活结果如下所示。 N1 = -1 + -1 = -2 N2 =0+1=1 N3 = -1 + -1 = -2 N4 =1+0=1 如果没有激活函数，这些值

浏览 3提问于2013-12-29得票数 1

回答已采纳

1回答

多个输入上的密集层可以表示为单个矩阵乘法吗？

machine-learning、neural-network

表示a[2, 3]是2x3维的矩阵。假设每个输入中有10个元素，网络是一个两个元素的分类器(例如，猫或狗)。假设只有一个致密层。现在，我忽略了偏差向量。我知道这是一个过于简单的神经网络，但它仅适用于此示例。神经网络密集层中的每个输出可以计算为 output = matmul(input, weights) 其中weights是权重矩阵10x2，input是输入向量1x10，output是输出向量1x2。我的问题是:可以用一个矩阵乘法同时计算整个输入序列吗？看起来你可以计算 output = matmul(input, weights) 其中总共有100个输入，input是100x10，we

浏览 20提问于2020-11-28得票数 1

回答已采纳

1回答

神经网络模型如何对单个层中的每个神经元学习不同的权重？

python、machine-learning、neural-network、feed-forward

我对神经网络的工作方式有了很大的了解，并提出了一些相互关联的问题，但我无法找到答案。考虑一个隐层前馈神经网络:如果每个隐层神经元的函数是相同的。 a1 = relu (w1x1+w2x2), a2=relu(w3x1+w4x2), ... 如何使模型学习不同的权重值？我不知道人工建立神经元间联系的意义。如图片所示，通过这种方式，我们定义了功能的可能功能(即房屋大小和卧室数相加可能代表了房屋可能容纳的家庭大小)。但是完全连接的网络对我来说没有意义。我明白，一个完全连接的神经网络应该以某种方式自动定义哪些函数是有意义的，但它是如何实现的呢？由于不能回答这个问题，我也不明白为什么要增加神

浏览 4提问于2020-05-12得票数 1

回答已采纳

1回答

神经网络首先找到最佳的参数或结构。

python、tensorflow、neural-network

我正在实现我的第一个用于图像分类的神经网络。我想知道我是否应该先找到最好的超参数，然后尝试修改我的神经网络结构(例如层数，退出)或者建筑然后是超级参数？

浏览 0提问于2019-04-25得票数 0

回答已采纳

2回答

word2vec中的特征矩阵是什么？

machine-learning、neural-network、word2vec

我是神经网络的初学者，目前我正在探索word2vec模型。然而，我很难理解特征矩阵到底是什么。 📷 我可以理解，第一个矩阵是一个给定单词的一个热编码向量，但是第二个矩阵意味着什么？更具体地说，这些价值观中的每一个(即。17，24，1等)指？

浏览 0提问于2017-06-21得票数 12

2回答

如何计算神经网络的隐藏神经元和输出神经元的数量？

neural-network、ocr

我对神经网络非常陌生，但我正在尝试创建一个用于光学字符识别的神经网络。我有100张图片，大小为24x14，每个数字从0到9。神经网络的输入数量是336，但我不知道如何获得隐藏神经元和输出神经元的数量。我如何计算它？

浏览 1提问于2016-03-03得票数 1

1回答

是否有办法使用Tensorflow (带有Keras)或PyTorch来删除NN中各层之间的1-2 (或更多)特定神经元连接？

tensorflow、machine-learning、keras、neural-network、pytorch

我正在制作一个GUI，用于创建不同的独特神经网络。我不赞成使用TensorFlow 2.0 (使用Keras )或PyTorch作为后端。但我缺乏关于这些主题的信息，如果有人能回答这些问题，我将非常感激：语言: Python 1)如何利用这些框架去除神经网络中各层间的特定神经元连接? 2)如何为神经网络中神经元的某些设置特定的学习规则? 3)如何设置该层神经元的特定激活函数某些；非常感谢，请不要犹豫回答，任何信息都是有用的。如果有人想为这个项目做出贡献，那就太棒了。

浏览 2提问于2020-01-16得票数 0

回答已采纳

2回答

训练神经网络技巧

matlab、neural-network

对于物体识别，建议我在MATLAB中使用神经网络。我有30个对象和每个对象的20个图像，所以我有600个输入数据和20个不同的类。输入矩阵为100x600，目标为1x600。输入矩阵列是关键点的色调直方图，在100个框中，就像这样:我取了m的(m,n)=hist(hue_val,100)。如果我选择MLP网络，需要多少层和这些层的神经元，哪种传递函数适合每一层？最后一个问题，我需要负样本吗？

浏览 3提问于2011-09-02得票数 3

回答已采纳

3回答

如何使用遗传算法来进化神经网络的权重？

artificial-intelligence、neural-network、genetic-algorithm

我正在做一项任务，我需要进化我的神经网络的权重。我的神经网络是工作的，但我不确定如何以一种能让我获得好结果的方式来进化我的网络。我知道我的AI老师说我需要使用sigmoid函数并将我的权重加起来*输入，但我不太确定剩下的部分。谢谢。编辑:我需要使用GA来训练权重。抱歉，我没说清楚。

浏览 1提问于2012-03-03得票数 2

回答已采纳

1回答

为什么在神经网络中只有一个隐藏层？

machine-learning、neural-network、genetic-algorithm、evolutionary-algorithm

我最近做了我的第一个神经网络模拟，也使用了遗传进化算法。这是一个简单的软件，它只是模拟收集食物的简单有机体，正如人们所预料的，它们从具有随机和零星运动的有机体进化为具有受控的食物寻找运动的有机体。因为这种有机体很简单，所以我只使用了几个隐层神经元和几个输入输出神经元。我知道，简单地增加神经元就可以制造出更复杂的神经网络，但你不能增加更多的层吗？或者这会产生某种冗余吗？所有的神经网络图，如这一个，总是有一个输入层，一个隐藏层和一个输出层。如果你只是加了一堆隐藏的层，就不能建立一个更复杂的神经网络吗？当然，这会使神经网络的处理变得更加困难，但它会创造出某种优势吗，还是就像在一个单层中增加更多的神经

浏览 1提问于2015-06-16得票数 1

回答已采纳

1回答

在训练过程中，人工神经元之间的连接是如何修改的？

deep-learning、neural-network、artificial-intelligence

背景在特斯拉自主日，安德烈·卡帕西做了一次演讲。在这篇演讲中，他说，在一开始，人工神经网络中人工神经元之间的连接是随机初始化的。因此，网络进行随机预测。后来他说，信息通过网络向前流动，然后通过反向传播算法，信息在网络中反向流动。当信息向后流动时，神经元之间的连接被修改。反过来，网络做出了越来越好的预测。此外，我还从网上的一些讲座中了解到，神经元之间的连接(权重)存储在矩阵中。问题所以我的问题是，连接这两个事实的数学公式或方程是什么？也就是说，如何通过反向传播算法修改这些矩阵？

浏览 1提问于2019-12-13得票数 3

3回答

增加或降低增加神经元或体重的学习率？

machine-learning、neural-network、deep-learning、conv-neural-network

我有一个卷积神经网络，我修改了结构。我没有时间重新训练和执行交叉验证(网格搜索最优参数)。我想直观地调整学习速度。在下列情况下，我是否应该增加或降低RMS (基于SGD)优化器的学习速率：我给完全连接的层增加了更多的神经元？在卷积神经网络中，我在完全连接之前去掉了一个次采样(平均或最大池)层，并且增加了特征映射和softmax输出之间的完全连接单元的数量(这样就有更多的权值连接到顶部完全连接的神经元)？

浏览 7提问于2015-12-27得票数 9

回答已采纳

3回答

第二部分弹性反向传播神经网络

algorithm、artificial-intelligence、neural-network、backpropagation

这是的后续问题.对于给定的神经元，我不清楚如何取其误差的偏导数和其权重的偏导数。从这个中可以清楚地看到，传播是如何工作的(尽管我正在处理弹性传播)。对于前馈神经网络，我们需要1)在神经网络中向前移动，触发神经元，2)从输出层神经元中计算出总误差。然后向后移动，按神经元中的每个权重来传递该误差，然后再次向前，更新每个神经元的权重。尽管如此，这些都是我不明白的。 A)对于每个神经元，如何计算偏导数的偏导数()对权重的偏导数？我的困惑是，在微积分中，偏导数是用n个变量函数来计算的。我有点理解和在中的答案。我甚至理解了连锁规则。但当我想到如何将它应用于线性组合器和乙状结肠激活函数的结果时，它就不起

浏览 1提问于2012-08-27得票数 7

1回答

神经网络训练中梯度和偏导数的解释

machine-learning、neural-network、loss-function、gradient-descent、backpropagation

我试图通过了解如何解释梯度及其偏导数来理解神经网络训练中偏微分的目的。下面是我解释它们的方法，所以我想知道我是否正确，如果不是，是否有人能指出我的正确方向。如果我们在处理依赖于单个变量的函数，则该函数相对于该特定变量的导数是一个斜率(即常数)，它告诉我们因变量的变化将如何影响函数值的变化。如果我们处理的函数依赖于几个变量，那么这个函数对所有这些因变量的导数就是一个梯度(即偏导数的向量)，它指向函数极值的方向。每个偏导数对应于我们试图优化的N维空间中的一个特定维数(例如二次代价函数C(W，b))。我的问题是，当我们计算关于一个参数的偏导数(例如输入x1和第一隐层神经元之间的权重)时，我们将

浏览 0提问于2020-01-17得票数 3

回答已采纳

2回答

当一个神经网络的大小发生变化时，它能被训练吗？

machine-learning、neural-network、recurrent-neural-network

是否有已知的方法在神经网络缩小或增长时(按节点数、连接数等)进行持续训练和优雅退化？据我记忆所及，我所读到的关于神经网络的一切都是从静态的角度看的。你定义了网络，然后训练它。如果有N个节点(神经元)的神经网络X，是否有可能对网络(X)进行训练，以便在N增加或减少时，网络仍然有用并能够执行？

浏览 4提问于2016-07-17得票数 4

回答已采纳

2回答

基于神经网络的外汇市场预测

neural-network

我想使用ANN自动交易货币，最好是美元/欧元或美元/英镑。我知道这很难，而且可能不是直截了当。我已经读过一些论文，做了一些实验，但运气不佳。我想征求专家的意见，使这项工作。以下是我迄今所做的工作：我得到了2013年7月份的滴答数据。它有出价/要求/出价量/索价量。提取时间为中午12点至下午14点的所有时间点。根据这些数据，创建了一个数据集，其中每个条目按顺序由n个出价值组成。用这些数据训练具有n-1输入的神经网络，输出是预测的第n个投标值。 ANN有n-1输入神经元、(n-1)*2 +1隐藏神经元和1个输出神经元.输入层有线性TF，隐藏层有对数TF，输出层有线性TF。先用n-125

浏览 0提问于2014-07-02得票数 10

1回答

利用图像训练的人工神经网络

image、artificial-intelligence、kinect、software-design

我感兴趣的是创建一个使用Microsoft检测像笔这样的对象的软件。我回顾了100幅正面图像和200幅负片图像，以便用人工神经网络进行采集。我的问题是:如何将这些图像转换成人工神经网络的输入？我想最后一层有一个神经元，因为是一个输出是笔还是不是笔，我猜输入也是一个，我想总共使用3层。但我不知道是否应该转换矩阵中的正负图像，或者我能做些什么？

浏览 4提问于2014-02-15得票数 3

回答已采纳