pytorch各种损失函数
时间:2021-02-23
本文章向大家介绍pytorch各种损失函数,主要包括pytorch各种损失函数使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
官方文档:https://pytorch.org/docs/stable/nn.html#loss-functions
1:torch.nn.L1Loss
mean absolute error (MAE) between each element in the input x and target y .
MAE是指平均绝对误差,也称L1损失:
loss = nn.L1Loss() input = torch.randn(1, 2, requires_grad=True) target = torch.randn(1, 2) output = loss(input, target)
2:torch.nn.MSELoss
measures the mean squared error (squared L2 norm) between each element in the input x and target y .
loss = nn.MSELoss() input = torch.randn(1, 2, requires_grad=True) target = torch.randn(1, 2) output = loss(input, target)
3:torch.nn.NLLLoss && torch.nn.CrossEntropyLoss
torch.nn.NLLLoss是用于多分类的负对数似然损失函数(negative log likelihood loss)
torch.nn.CrossEntropyLoss是交叉熵损失函数
二者的区别:
m = nn.LogSoftmax(dim=1) loss = nn.NLLLoss() # input is of size N x C = 3 x 5 input = torch.randn(3,5,requires_grad=True) #each element in target has to have 0 <= value < C target = target = torch.empty(3, dtype=torch.long).random_(5) output = loss(m(input), target) print(output) loss = nn.CrossEntropyLoss() output = loss(input, target) print(output)
4:torch.nn.BCELoss && torch.nn.BCEWithLogitsLoss
二者的区别:
m = torch.nn.Sigmoid() loss = torch.nn.BCELoss() input = torch.randn(3,requires_grad=True) target = torch.empty(3).random_(2) output = loss(m(input), target) print(output) loss = torch.nn.BCEWithLogitsLoss() output = loss(input, target) print(output)
ref:https://www.cnblogs.com/wanghui-garcia/p/10862733.html
原文地址:https://www.cnblogs.com/xiaoxiaomajinjiebiji/p/13984479.html
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- .net core2.0下使用Identity改用dapper存储数据(实例讲解)
- Bootstrap实现下拉菜单多级联动
- C#日期格式强制转换方法(推荐)
- Python实现希尔排序算法的原理与用法实例分析
- 详解vue项目的构建,打包,发布全过程
- 深入理解Python分布式爬虫原理
- bootstrap实现二级下拉菜单效果
- 快速了解Java中ThreadLocal类
- Java基于分治算法实现的棋盘覆盖问题示例
- Python 和 JS 有哪些相同之处
- Java操作Redis详细介绍
- Bootstrap 3多级下拉菜单实例
- Python3安装Scrapy的方法步骤
- Java实现的决策树算法完整实例
- java线程池工作队列饱和策略代码示例