如何改进我的CNN？高常数验证误差
提问于 2019-07-16 07:57:17
我正在研究一个问题，根据奶牛的图像来预测奶牛有多胖。我使用CNN来估计介于0-5之间的值(我拥有的数据集，只包含2.25到4之间的值)，我使用的是4层CNN层和3层隐藏层。
我实际上有两个问题: 1/我得到0.05的训练误差，但3-5周期后，验证误差保持在0.33左右。2/我的神经网络预测的值在2.9到3.3之间，与数据集范围相比太窄了。这正常吗？
我该如何改进我的模型？
model = tf.keras.models.Sequential([
tf.keras.layers.Conv2D(16, (3,3), activation='relu', input_shape=(512, 424,1)),
tf.keras.layers.MaxPooling2D(2, 2),
tf.keras.layers.Conv2D(32, (3,3), activation='relu'),
tf.keras.layers.MaxPooling2D(2, 2),
tf.keras.layers.Conv2D(32, (3,3), activation='relu'),
tf.keras.layers.MaxPooling2D(2, 2),
tf.keras.layers.Conv2D(64, (3,3), activation='relu'),
tf.keras.layers.MaxPooling2D(2,2),
tf.keras.layers.Flatten(input_shape=(512, 424)),
tf.keras.layers.Dense(256, activation=tf.nn.relu),
tf.keras.layers.Dense(128, activation=tf.nn.relu),
tf.keras.layers.Dense(64, activation=tf.nn.relu),
tf.keras.layers.Dense(1, activation='linear')
])学习曲线：
预测：
回答 1
Stack Overflow用户
回答已采纳
发布于 2019-12-04 01:22:20
这似乎是过度适应的情况。你可以的
ShuffleData，通过在cnn_model.fit中使用shuffle=True。代码如下：history = cnn_model.fit(x = X_train_reshaped, y = y_train, batch_size = 512, epochs = epochs, callbacks=[callback], verbose = 1, validation_data = (X_test_reshaped, y_test), validation_steps = 10, steps_per_epoch=steps_per_epoch, shuffle = True)- 使用
Early Stopping。代码如下所示callback = tf.keras.callbacks.EarlyStopping(monitor='val_loss', patience=15) - 使用正规化。正则化代码如下所示(您也可以尝试l1正则化或l1_l2正则化)：
from tensorflow.keras.regularizers import l2
Regularizer = l2(0.001)
cnn_model.add(Conv2D(64,3, 3, input_shape = (28,28,1), activation='relu', data_format='channels_last', activity_regularizer=Regularizer, kernel_regularizer=Regularizer))
cnn_model.add(Dense(units = 10, activation = 'sigmoid', activity_regularizer=Regularizer, kernel_regularizer=Regularizer))
- 您可以尝试使用
BatchNormalization。 - 使用
ImageDataGenerator执行图像数据增强。有关这方面的更多信息，请参考此链接。 - 如果像素不是
Normalized，用255除以像素值也有帮助。 - 最后，如果仍然没有变化，您可以尝试使用
Pre-Trained Models，如ResNet或VGG Net等。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/57061266
复制相关文章
![[验证码识别技术]字符验证码杀手--CNN](https://ask.qcloudimg.com/http-save/yehe-1170933/dhbf4023hl.png)
点击加载更多
腾讯云开发者
