pytorch中的loss函数_pytorch loss不下降

全栈程序员站长

发布于 2022-10-02 11:48:34

5820

发布于 2022-10-02 11:48:34

文章被收录于专栏：全栈程序员必看全栈程序员必看

大家好，又见面了，我是你们的朋友全栈君。

1) 两个分布很接近，但是与0和1不接近，loss仍然很大，只适合分类

2)mse只计算两个差异，做回归用的，数据相同，bceloss比mseloss大。

3)SmoothL1Loss比mseloss小

4) bceloss收敛比较快

5)bceloss input必须是0-1之间，targets可以不是

6)target 是0.5 input 是0.4与0.6，loss无正负之分，只有大小之分。

import torch

conf_mask = torch.FloatTensor([0.0, 1.0, 0.0, 1.0, 1.0])
conf_data = torch.FloatTensor([0.1, 0.9, 0.0, 0.2, 0.2])

loss_fn = torch.nn.MSELoss() # reduce=False, size_average=False)

x= loss_fn(conf_data, conf_data).item()
print('self',x)

x= loss_fn(conf_data, conf_mask).item()
print('mse',x)

loss_fn = torch.nn.BCELoss()  # reduce=False, size_average=False)

x = loss_fn(conf_data, conf_data).item()
print('self',x)
x = loss_fn(conf_data, conf_mask).item()
print('bce',x)

mseloss 个值比较࿱

发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/192157.html原文链接：https://javaforall.cn

本文参与腾讯云自媒体分享计划，分享自作者个人站点/博客。

原始发表：2022年9月18日，如有侵权请联系 cloudcommunity@tencent.com 删除

java