1回答
什么时候决定我们需要一个批次或演化层，我们如何决定？我现在使用的是PyTorch，我想知道如何决定添加哪一层？
浏览 3提问于2020-07-03得票数 0
BatchNormalizationLayer被认为是神经网络中的一个层吗？例如，如果我们说Resnet50有50个层，这是否意味着其中一些层可能是批规范化层？在Keras中构建模型时，我认为它是额外的，类似于退出层或添加“激活层”。但BatchNormalization有可训练的参数所以..。我很困惑
浏览 1提问于2020-12-05得票数 2
回答已采纳
给出了训练数据集、训练集(m )和训练集(m，)以及一些神经网络序列模型。
培训数据何时和范围也必须标准化？预测值应该如何去规范化？不同层的激活函数的选择对此有何影响？，我们是否必须对Xtrain数据进行规范化？，我们规范的范围是否取决于输入层激活函数域？或者所有激活函数都会影响到它，因此应该将其规范化为模型中所有激活函数的公共
浏览 2提问于2020-05-22得票数 0
1回答
如何设置Keras的批处理归一化层的权重？权重:初始化权重。有形状的2个Numpy数组的列表：(input_shape，)，(input_shape，)请注意，该列表的顺序是伽马、贝塔、平均值、std
我们需要所有四种伽马，贝塔，平均，性病吗？
浏览 2提问于2017-03-14得票数 5
回答已采纳
3回答
在标准CNN上应用批标准化的地方
、、、、
我有以下架构：Relu1Conv2Pooling3FullyConnect2
我的问题是，在哪里应用批处理标准化？在TensorFlow中做这件事的最佳功能是什么？
浏览 4提问于2017-11-06得票数 13
回答已采纳
2回答
我是DL和Keras的新手。目前，我试图实现一个类似于Unet的CNN，现在我想在我的非顺序模型中包括批化层，但现在并不是这样。这就是我目前试图将其包括在内的原因：
conv1 = Conv2D2,2), activation='linear', padding='same')(upcon
浏览 5提问于2017-09-20得票数 3
回答已采纳
然后，似乎有几种方法可以解决这个问题( \gamma, \beta是每个BN层的学习参数)。关于批处理规范化的原始论文https://arxiv.org/pdf/1502.03167.pdf在第5页第3.2节最后一段中写道：
对于卷积层，我们还希望归一化服从卷积性质，从而使同一特征映射的不同元素在不同的位置以相同的方式规范化为了实现这一点，我们联合标准化了所有小型批次中的所有<
浏览 0提问于2021-01-19得票数 3
1回答
下面是我用于多类分类的模型。model.compile(loss = 'categorical_crossentropy' , optimizer = 'adam' , metrics = ['accuracy'] )
我希望范围正常化第一层产生的输出，即具有relu激活的层，在0到1之间。我已经检查了Keras中可用的规范化层，但据我所读，它们生成的输出平
浏览 0提问于2020-06-14得票数 0
最近发展起来的方法解决了与相同的问题，但具有较低的计算开销，并且不依赖于批处理，因此它可以在训练和测试中得到一致的应用。我的问题是，层规范化总是好于批处理规范化，还是仍然有一些情况下批规范化可能是有益的？
浏览 1提问于2016-10-25得票数 2
回答已采纳
1回答
如您所知，在联邦学习环境中，客户使用他们的非i.i.d数据来培训联合全局模型的本地版本，并且每个人都提交对全局模型的更新，该模型将被聚合到下一个联合全局模型中。在训练阶段，由批处理归一化层进行的规范化是基于本地批处理统计量的。我的问题是，如何为全局模型聚合这些本地统计数据(批处理规范化参数)，以便它们代表所有数据的全局统计？我指的是每一批规范化层的</em
浏览 0提问于2020-09-03得票数 3
回答已采纳
BatchNormalization())我正在使用带有Tensorflow后端的Keras我的问题是-在Keras的实现中，BN是在激活功能之前还是之后执行？为了更清晰，
最初的(Ioffe and Szegedy 2015)论文提出了“之前”的观点，但下面的评论显示出了不同的观点。在Keras ()中，它说“规范每个批
浏览 1提问于2019-04-24得票数 3
一些TensorFlow层(如和 )接受一个kernel_constraint参数，根据，该参数实现了
可选的投影函数，在被优化器更新后应用于内核(例如，用于实现层权的范数约束或值约束)。提出了一种称为权值归一化的神经网络归一化技术，该技术对网络层的权向量进行规范化，而批归一化则对通过该层的实际数据批进行规范化。在某些情况下，权重归一化方法<e
浏览 1提问于2018-07-15得票数 7
我很难理解使用批处理规范化的DNN模型，特别是使用keras。有人能给我解释一下我构建的这个模型中每一层的结构和内容吗？epochs=20, verbose=2, validation_data=(X_test, y_test))我认为，这是我的模型的所有层modelbatch.layers[9].get_weights()[2].shape)print(modelbatch.lay
浏览 3提问于2017-08-17得票数 1
2022年100+数据科学访谈问答的问题22问批量标准化的好处是什么？此外，批归一化似乎具有正则化效果，从而改善了网络的泛化特性，因此不必使用丢包来减少过度拟合。在这两种情况下，我怀疑它们所指的都是改进的测试错误，前者涉及改进的测试错误，甚至进行了一些超参数调优。
为什么批次规范化有正规化作用？(或者说是这样？)
浏览 0提问于2022-10-06得票数 1
1回答
根据这一条：当使用sigmoid激活函数时会出现消失梯度问题，因为sigmoid将大的输入空间映射到小的空间中，所以大值的梯度接近于零。本文建议采用批归一化层。
我不明白它是怎么工作的？当使用规范化时，大值仍然在另一个范围内得到较大的值(而不是-inf、i
浏览 0提问于2021-06-02得票数 3
name=conv_name)(x) return x我很困惑。为什么人们在Keras中使用上面的样式，而不是下面这些？x = BatchNormalization(axis=bn_axis, name=bn_name)(x)
x = Activat
浏览 4提问于2017-02-21得票数 6
1回答
丢包和批归一化-层的顺序重要吗？
、、、、
我正在建立一个神经网络模型，我的问题是，退出和批量归一化层的排序是否真的会影响模型呢？如果我使用ROC-AUC评分作为我的度量标准的话，将辍学层放在批-归一化层之前(反之亦然)是否会对模型的输出产生任何影响。我希望输出有一个很大的(中华民国-AUC)评分，并想知道它会在任何方面受到影响的排序层。
浏览 1提问于2019-10-06得票数 3
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
