为什么在0-1回归任务中，sigmoid层比tanh层的结果更差？

文章/答案/技术大牛

发布

1回答

neural-network、activation-function

我正在使用回归来预测一个值为0-1的数组(位数组)。batchNormalizationLayer tanhLayer]; 我使用了以下代码来实现Sigmoid层： classdef sigmoidLayer < nnet.layer.Layer function layer = sigmoidLayer(name)那么为什么

浏览 24提问于2019-10-04得票数 0

3回答

神经网络的激活函数选择

machine-learning、artificial-intelligence、neural-network、linear-algebra

神经网络的隐层和输出层可以使用不同的激活函数吗？使用这种方案有什么明显的好处吗？

浏览 6提问于2013-12-04得票数 2

回答已采纳

1回答

我们能用ReLU激活函数作为输出层的非线性吗？

machine-learning、neural-network、deep-learning、keras、activation-function

我为最后一个密集层训练了一个线性激活函数的模型，但是我有一个约束，禁止目标的负值，这是一个连续的正值。我可以使用ReLU作为输出层的激活吗？我害怕尝试，因为它通常用于隐藏层作为整流器。我在用凯拉斯。

浏览 0提问于2019-03-15得票数 3

回答已采纳

1回答

利用Back神经网络给出连续类标签

machine-learning、scikit-learn、neural-network、artificial-intelligence

给我一个数据集，其中类标签是[-1,1]之间的连续值。基于此，我想问几个问题：谢谢。

浏览 2提问于2017-10-22得票数 1

回答已采纳

1回答

如何确定激活函数？

tensorflow、deep-learning、neural-network

目前有许多激活函数，如sigmoid、tanh、ReLU (是首选)，但我有一个问题，即需要考虑哪些选择才能选择特定的激活函数。例如:当我们想在GANs中更新一个网络时，我们更喜欢使用LeakyReLU。Sigmoid :当您有一个二进制类要识别时ReLU：？如有任何帮助或文章，将不胜感激。

浏览 4提问于2022-01-25得票数 2

回答已采纳

2回答

神经网络中的激活函数

machine-learning、neural-network、deep-learning、data-science-model、activation-function

我有一组关于神经网络中各种激活函数的使用的问题。如果有人能给我解释的话，我会非常感激的。为什么Sigmoid不用于多类分类？为什么我们在所有负值的回归问题中不使用任何激活函数？ 为什么我们在计算average='micro'分类时使用multi_class？

浏览 0提问于2019-11-13得票数 -1

回答已采纳

2回答

为什么使用sigmoid函数来确定后验概率？

java、machine-learning、neural-network

我在学习神经网络时，在我的机器学习课本中遇到了这个问题：The output of the sigmoid function may be interpreted as the posterior probability t

浏览 2提问于2014-02-26得票数 2

1回答

人工神经网络-为什么通常在隐藏层中使用乙状结肠激活函数而不是tanh-乙状结肠激活函数？

machine-learning、neural-network、normalization、activation-function

为什么log-sigmoid激活函数是隐藏层中的主要选择，而不是tanh-sigmoid激活函数？此外，如果我使用Z-得分归一化，我是否可以使用乙状结肠激活函数在隐藏层？

浏览 0提问于2017-07-15得票数 1

回答已采纳

1回答

如何让我的神经网络正确地进行线性回归？

python、machine-learning、neural-network、activation-function、stochastic-gradient

我使用了Michael Nielsen的《神经网络和深度学习》一书中第一个神经网络的代码，该代码用于识别手写数字。它使用小批量随机梯度下降和sigmoid激活函数。然后我给它一串数据，它代表一条直线，所以基本上是0到1之间的点的数量，其中输入与输出相同。无论我如何调整学习率和使用的纪元数，网络永远不能进行线性回归。这是因为我使用的是sigmoid激活功能吗？蓝线表示网络的预测，而绿线是训练数据，网络预测的</

浏览 22提问于2021-07-31得票数 1

回答已采纳

2回答

回归任务中线性激活函数的替代方案以限制输出

machine-learning、neural-network、deep-learning、regression、activation-function

是否有人有适用的建议，甚至这些建议是可以的或任何其他东西？在回归任务中，通常采用线性激活函数作为最终层的非线性来估计输出实值的函数(S)。使用sigmoid函数的原因是它的输出受限于范围0 to 1，这是一个很好的指定概率的范围。此外，sigmoid更多地用于分类任务，其中类在输入o.w<e

浏览 0提问于2018-06-08得票数 2

回答已采纳

1回答

神经网络(无隐层)与Logistic回归？

python、machine-learning、neural-network、keras、logistic-regression

我上过一门关于神经网络的课程，不太明白为什么我从logistic回归和两层神经网络(输入层和输出层)中得到了不同的结果。输出层使用sigmoid激活函数。根据我所了解到的，我们可以使用神经网络中的sigmoid激活函数来计算概率。这应该是非常相似的，如果不是完全相同的逻辑回归试图完成的

浏览 1提问于2017-09-24得票数 10

回答已采纳

1回答

二次回归与TensorFlow不起作用

machine-learning、tensorflow、regression

history = model.fit(tf.expand_dims(x, axis=-1), y, epochs = 100)📷 我试着增加更多的层次

浏览 0提问于2023-03-24得票数 0

回答已采纳

1回答

设置多个隐藏层的sklearn for分类器激活参数

python、machine-learning、scikit-learn、neural-network、backpropagation

我设计了一个神经网络，它有两个隐藏层，具有不同的激活函数。如何使用sklearn.neural_network.MLPClassifier库为每一层设置不同于其他层的激活函数？clf = MLPClassifier(alpha=1e-5 ,hidden_layer_sizes=(10,5),activation=['tanh

浏览 58提问于2021-05-29得票数 1

1回答

卷积神经网络中的连续输出应该是怎样的？

machine-learning、neural-network、deep-learning、regression、cnn

我已经标记了人脸图像(标签是年龄-continuous值-)数据集，我想构建一个卷积神经网络模型来预测一个人的年龄。标签，即年龄必须如何编码？使用哪种激活功能？

浏览 0提问于2019-02-27得票数 2

回答已采纳

1回答

为什么我的XOR神经网络收敛到0.5，python

python、neural-network

我实现了以下神经网络来解决Python中的异或问题。该神经网络由2个神经元的输入层、2个神经元的隐层和1个神经元的输出层组成。我使用Sigmoid函数作为隐藏层和输出层的激活函数。

浏览 0提问于2017-08-22得票数 0

回答已采纳

1回答

Sigmoid作为LSTM中的最后一层

python、keras、deep-learning、softmax、sigmoid

把sigmoid放在最后一层，我得到了比softmax更好的98%的准确率。我的问题是： 1)如果我在最后一层使用Softmax :在Softmax中，基于两个神经元作为其他代码末尾的输出，我可以比较分数并判断数据属于哪一个。2)如果我在最后一层使用Sigmid :那么我必须将一个神经元作为up输出，我如何比较分数，如何确定这行数据集属于哪个类？model = S

浏览 9提问于2021-05-07得票数 0

3回答

为什么当我们有ReLU的时候，sigmoid/tanh激活函数仍然用于深度神经网络？

neural-network、deep-learning、activation-function

从各个方面看，ReLU比乙状结肠或tanh更适合于深层神经网络：在生物学上更合理性能更好我只看到sigmoid/tanh的一个优点:它们是有界的。这意味着当你继续训练的时候，你的活动不会爆炸，你的网络参数也不会飞向天空。 为什么我们不应该忘记乙状结肠/坦克的深层神经网络呢？

浏览 0提问于2016-07-10得票数 3

回答已采纳

3回答

在回归的情况下，神经网络的激活函数应该是什么？

machine-learning、neural-network

我的问题是基于的理解在神经网络中，神经元由阈值(激活)函数激活，在上面的例子中是sigmoid函数。对于回归问题，我们需要激活函数吗？向Souvik致敬

浏览 9提问于2017-06-29得票数 0

1回答

用Keras构造LSTM模型

neural-network、keras、lstm、recurrent-neural-network

为了遵循中的指南，我就是这样做的：model = Sequential() 然而，尽管在评估中使用了完全相同的数据，但这两种网络模型的最终测试精度相差很大。例如，LSTM<e

浏览 1提问于2017-04-28得票数 2

1回答

当使用ReLU时，如何确定神经网络最后一层的范围

artificial-intelligence、conv-neural-network、relu

我正在编写一个神经网络，用于0到10之间数字的简单图像识别。我所针对的激活函数是ReLU (纠偏线性单元)。我只是取最大的值，说这是百分之百的概率吗？我希望我的问题可以理解。提前谢谢

浏览 0提问于2019-08-01得票数 2

回答已采纳

点击加载更多