MSELoss损失函数

狼啸风云

修改于 2022-09-02 21:26:56

4.6K0

修改于 2022-09-02 21:26:56

文章被收录于专栏：计算机视觉理论及其实现计算机视觉理论及其实现

MSELoss损失函数中文名字就是：均方损失函数，公式如下所示：

这里 loss, x, y 的维度是一样的，可以是向量或者矩阵，i 是下标。

很多的 loss 函数都有 size_average 和 reduce 两个布尔类型的参数。因为一般损失函数都是直接计算 batch 的数据，因此返回的 loss 结果都是维度为 (batch_size, ) 的向量。

一般的使用格式如下所示：

loss_fn = torch.nn.MSELoss(reduce=True, size_average=True)

　这里注意一下两个入参：

　　Ａ reduce = False，返回向量形式的 loss　

　　Ｂ　reduce = True，返回标量形式的loss

C size_average = True，返回 loss.mean();

　　D 如果 size_average = False，返回 loss.sum()

默认情况下：两个参数都为True．

下面的是python的例子：

# -*- coding: utf-8 -*-

import torch
import torch.optim as optim
 
loss_fn = torch.nn.MSELoss(reduce=False, size_average=False)
#loss_fn = torch.nn.MSELoss(reduce=True, size_average=True)
#loss_fn = torch.nn.MSELoss()
input = torch.autograd.Variable(torch.randn(3,4))
target = torch.autograd.Variable(torch.randn(3,4))
loss = loss_fn(input, target)
print(input); print(target); print(loss)
print(input.size(), target.size(), loss.size())

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2020/07/10 ，如有侵权请联系 cloudcommunity@tencent.com 删除

mapreduce