问如何在TensorFlow中添加正则化？

EN

正如您在第二点中所说的，使用regularizer参数是推荐的方法。您可以在get_variable中使用它，也可以在variable_scope中设置一次，并将所有变量规范化。

损失收集在图表中，您需要手动将它们添加到成本函数中，如下所示。

  reg_losses = tf.get_collection(tf.GraphKeys.REGULARIZATION_LOSSES)
  reg_constant = 0.01  # Choose an appropriate one.
  loss = my_normal_loss + reg_constant * sum(reg_losses)

希望这能帮上忙！

对我来说，现有答案的几个方面还不清楚，下面是一个逐步的指南：

1. 定义一个正则化者。这就是可以设置正则化常数的地方，例如： 正则化= tf.contrib.layers.l2_regularizer(scale=0.1)
2. 通过以下方式创建变量： 权重= tf.get_variable( name=“权重”，regularizer=regularizer，.) 同样，可以通过常规的weights = tf.Variable(...)构造函数创建变量，然后使用tf.add_to_collection(tf.GraphKeys.REGULARIZATION_LOSSES, weights)创建变量。
3. 定义一些loss术语并添加正则化术语： ( tf.get_collection(tf.GraphKeys.REGULARIZATION_LOSSES) reg_term = tf.contrib.layers.apply_regularization(regularizer，reg_variables)损失+= reg_term 注意:看起来tf.contrib.layers.apply_regularization是作为一个AddN实现的，因此或多或少相当于sum(reg_variables)。

我会提供一个简单的正确答案，因为我没有找到一个。您需要两个简单的步骤，其余步骤由tensorflow魔术完成：

1. 在创建变量或层时添加正则化程序： (x，kernel_regularizer=tf.contrib.layers.l2_regularizer(0.001)) #或tf.get_variable('a'，regularizer=tf.contrib.layers.l2_regularizer(0.001)) )
2. 在定义损失时添加正规术语： 损失= ordinary_loss + tf.losses.get_regularization_loss()