我做了一个小的神经网络，它有两个输入x，y和输出z，a 1或0。有一个隐藏层，包含两个神经元，h1，h2和输出层中的一个神经元。输入是高度和宽度，0到100之间的整数，类是大的和小的(例如，10,8是“小”，76,92是“大”)。有线性和非线性两种数据类型。我使用了sigmoid激活函数，并使用关于权重和偏差的偏微分进行反向传播。我没有使用任何Ml库。我正在尝试直接在大多数数学中编
浏览 5提问于2020-05-17得票数 0
4回答
反向传播和前馈神经网络有什么区别？
除了流向之外，还有其他的区别吗？假设我正在实现反向传播，即它包含正向和反向流。那么，反向传播是否足以显示前馈？
浏览 10提问于2015-02-09得票数 42
回答已采纳
2回答
在CNN中使用反向传播来更新随机分配的权重、偏差和滤波器。对于值的上升，我们从端到尾用链规则求出梯度，并使用该公式，梯度下降是一个优化器，用于优化损失函数。这里还计算了梯度，公式是如果我在上面给出的解释是错误的，请纠正我。我的怀疑是：
的反
浏览 5提问于2021-02-15得票数 2
2回答
我知道神经网络可以使用梯度下降进行训练，我知道它是如何工作的。 最近，我偶然发现了其他训练算法:共轭梯度算法和准牛顿算法。我试图理解它们是如何工作的，但我能得到的唯一好的直觉是它们使用了更高阶的导数。 我的问题如下:我提到的那些替代算法与通过使用损失函数的梯度调整权重的反向<
浏览 39提问于2019-03-22得票数 6
回答已采纳
1回答
我在matlab中使用了一个时滞神经网络，我想用不同的训练算法来训练它。我使用了很多这样的算法，例如粒子群优化算法、levenberg marquardt算法、拟牛顿算法和.现在我想使用反向传播，但是我不能使用训练函数，因为时滞神经网络的反向传播不同于前馈贝塔。有谁能告诉我，在matlab中是否有任何功能用于训
浏览 0提问于2014-02-10得票数 1
1回答
我试图理解损失函数和反向传播之间的联系。据我所知，在LSTM算法中，反向传播被用来获取和更新矩阵，在前向传播中使用偏差来获取当前的单元和隐藏状态。损失函数取训练集的预测输出和实际输出。但哪一部分是LSTM的培训部分？它们之间有某种联系吗？LSTM模式的培训目标是什么？
浏览 0提问于2019-08-31得票数 0
我刚刚开始为神经网络编程。我目前正在研究反向传播(BP)神经网络的工作原理。虽然在BP网络中训练的算法非常简单，但我找不到任何关于该算法为什么有效的文本。更具体地说，我正在寻找一些数学推理，以证明在神经网络中使用sigmoid函数是合理的，以及是什么使它们能够模拟几乎任何抛向它们的数据分布。
谢谢!
浏览 3提问于2012-07-27得票数 22
回答已采纳
1回答
CNN的反向传播训练
、、、、
我以前在浅层(一层或两层)神经网络中工作，所以我对它们的工作原理有一定的了解，在训练过程中很容易直观地看到向前和向后传递的导子，目前我正在研究深层神经网络(更确切地说，是CNN)，我读过很多关于它们的训练的文章，但我仍然无法理解CNN训练的总体情况，因为在某些情况下，使用预训练层的人使用自动编码提取卷积权，在某些情况下，随机权值被用于卷积，然后使用反向</
浏览 4提问于2016-07-11得票数 2
我正在用一个1的示例代码自我实现一个人工神经网络( ANN )。虽然原则上我清楚ANN代码是如何工作的(我以前用过其他语言)，但我对python语法/逻辑有更多的问题:在第181行中，网络被训练了10000次，但是由于“反向传播”(第39行)函数不返回网络，而变量“另外，在函数“反向传播”中，变量"netwo
浏览 0提问于2018-05-24得票数 0
回答已采纳
3回答
我在python中通过实现使用了feed-foward神经网络。对于训练，我将使用反向传播算法。我知道，对于神经网络，我们需要恰到好处的数据量，以便不会对网络进行过低/过高的训练。我可以为数据集获得大约1200个不同的训练数据模板。如何计算训练的最佳数据量？
由于我已经尝试了数据集中的500个项目，并且花了很多小时才收敛，所以我
浏览 0提问于2010-11-05得票数 2
回答已采纳
1回答
反向传播神经元网络
、、、、
每条鱼都有大脑(神经网络(从现在起使用人工神经网络))。目前，神经网络不使用后备技术，而是接受遗传算法的训练。效果很好。我想通过反向传播来实现学习，并对这两种方法进行比较。问题只存在于反向传播中。我读过一些关于它的文章，但我还不明白如何在这个例子中使用它。我可能只是不明白。现在我有了4个输入的神经网
浏览 1提问于2016-07-26得票数 0
2回答
多线程反向传播
、、、、
我已经在VB.NET -it中编写了一个反向传播类，效果很好-我正在C#人工智能项目中使用它。
但我在家里有一台AMD Phenom X3，在学校有一台英特尔i5。我的神经网络也不是多线程的。如何将反向传播类转换为多线程算法？或者如何在其中使用GPGPU编程？或者我应该使用任何具有多线程反向传播神经网络的第三方库？
浏览 3提问于2012-01-06得票数 1
回答已采纳
我从别人那里接过一些代码，我的任务是在pytorch中重现相同的模型和性能。我也得到了该模型的最佳超参数。在尝试了很长一段时间后，我发现如果我将drop - out rate设置为0，那么我的测试性能是最好的。它停止得越早，失落率就越小。事实上，它的表现比以前的模型要好一点。而之前的模型有显着的辍读率。神经网络大概有4-5层。总输入嵌入约为1000。虽然我很高兴看
浏览 3提问于2020-10-13得票数 0
1回答
我正在尝试用python编写一个反向传播的神经网络。
下面是完整的代码：反向传播代码从146行开始( 165行的根代码什么也不做。只是在尝试一些想法)非常感谢。
浏览 0提问于2017-01-07得票数 0
回答已采纳
1回答
我已经看到了神经网络误差最小化的反向传播算法的公式，但我不太清楚它对权重的影响是什么。📷这里，原始输入是1和1。因此，最终输出在这种情况下变成4。假设我们希望更改权重，使“校正”输出与所需的目标output=1完全匹配。
浏览 0提问于2021-10-28得票数 3
3回答
我有一个概念上的问题，因为术语困扰着我。反向传播算法是一种神经网络训练算法，还是仅仅是一种递归算法来计算神经网络的雅可比？那么这个Jacobian将作为主要训练算法的一部分，例如最陡峭的下降？因此，计算雅可比矩阵(神经网络输出到网络参数的偏导数)是一种训练算法还是一种数值方法？
浏览 0提问于2021-09-08得票数 4
回答已采纳
1回答
在深入研究神经网络的主题以及如何有效地训练它们的同时，我遇到了使用非常简单的激活函数的方法，例如整流线性单元 (ReLU)，而不是经典的光滑sigmoids。根据我的理解，ReLU函数在原点是不可微的，因此反向传播算法(BPA)不适合于使用ReLU训练神经网络，因为多变量微积分的链式规则仅指光滑函数。然而，我读到的关于使用ReL
浏览 4提问于2015-05-14得票数 31
1回答
现在，我对反向传播算法有一个问题。我知道使用链规则的多层神经网络中误差最小化的思想。然而，我不明白乙状结肠函数的导数的作用。该算法描述了这种导数。这有什么意义？你能用简单的语言一步一步地解释这一点吗？
📷
浏览 0提问于2018-05-16得票数 0
回答已采纳
4回答
我是神经计算的新手，可以理解反向传播的概念。我的问题是，你能在没有反向传播的情况下训练一个MLP来适应一个函数吗？比如说，我需要拟合一个正弦函数。如何才能在不使用反向传播分配权重的情况下做到这一点？
浏览 0提问于2013-03-21得票数 0
云服务器
ICP备案
云直播
对象存储
实时音视频
腾讯云开发者
