【AI面试】CrossEntropy Loss 、Balanced Cross Entropy、 Dice Loss 和 Focal Loss 分类损失横评

2023-11-08

在实际任务中,数据的不均衡一直是深度学习领域一个不可忽略的问题。常说的长尾效应,说的就是这个问题。少而多的误差,最终造成的结果,是不容忽视的。

长尾效应:在正态分布中,曲线中间凸起的是“头”,两边相对平缓的部分叫做“尾”。对于绝大部分的需求来说,都会集中在中间凸起的“头”处,但是除了“头”,还有两边长长的“尾”。不同于中间的“头”,分布在尾部的需求是个性化的,零散的,少量的需求。这部分需求,构成了一条长长的“尾巴”,所谓的长尾效应就是在于它的数量上。将所有的非流行的市场,累加起来就会形成一个巨大的市场,甚至比主流市场还要巨大。

无论是纯纯的分类任务,还是目标检测中的回归任务,这种不均衡性都一直存在,具体表现为三种形式:

  1. 类与类之间的数量不均衡;
  2. 前景与背景之间数量不均衡;
  3. 简单样本和苦难样本之间的不均衡。

如何在计算损失的时,将最终的loss值,更能体现大局观,不会被某一面绑架,也不要忽略了某一面的问题?值得探讨

本文就对类似这种不均衡的问题展开讨论,这也是在工作项目中常常会遇到的问题,同时,也是面试官最喜欢问到的问题。


与此同时,在UNet分割任务中,把目标分割任务的mask,转化为对像素点的分类任务

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

【AI面试】CrossEntropy Loss 、Balanced Cross Entropy、 Dice Loss 和 Focal Loss 分类损失横评 的相关文章

随机推荐

  • 使用jstl时出错

    报错描述 在maven项目中配置了jstl工具后 并在启动项目时出现如下问题 报错原因 第一次报错原因 pom xml文件中对jstl引用错误 第二次报错原因 没有加入standard jar 解决办法 在maven的依赖中写成如下配置
  • ts中lambda表达式_'Lambda表达式在Javac中的翻译'规范

    ts中lambda表达式 现在可以使用 javac中的Lambda表达式的翻译 规范的初稿 该规范旨在提出一种策略 用于将 Lambda Strawman 提议的各个部分从Java源代码转换为字节码 方法引用的伪语法将用 于转换为采用 方法
  • 深圳铨顺宏圆满落幕IOTE 2022第十八届国际物联网展

    11月15日 期待已久的IOTE 2022 第十八届国际物联网展在深圳会展中心 宝安新馆 正式拉开序幕 展商云集 盛大开幕 作为物联网行业一年一度的重大盛会 本届展会聚集了全国行业精英 涵盖了全球范围智慧仓储物流 档案信息化 智慧新零售 智
  • vue 解决Invalid Host header

    vue 解决Invalid Host header 在build webpack dev conf js文件中 加上disableHostCheck true 如下图
  • 路由器抓包工具TCPDUMP使用方式

    一 概述 tcpdump 用简单的语言概括就是dump the traffic on a network 是一个运行在linux平台可以根据使用者需求对网络上传输的数据包进行捕获的抓包工具 windows平台有sniffer等工具 tcpd
  • 关于如何提高自己的写程序的思维!

    工作有两种 一种是作法与程序已经确定 执行者只要依样画葫芦 就可完成工作 这是所谓的 标准操作 另一种则必须加进执行者的创意功夫 最常见的例子是 开发新产品如果没有创意 就不可能与众不同 如果你希望自己年薪百万以上 唯一方法就是养成工作时加
  • 为取经而来_唐僧在取经路上犯的哪个大错?原本两三年的路他却走了14年

    三世诸佛 十二部经 在人性中本自具有 不能自悟 需求善知识指示方见 唐朝盛年 为了取得经书 感化众人 唐僧师徒踏上了西天取经之路 路途遥远 责任重大 唐僧师徒在路上马不停蹄 从未有片刻休息 但是 唐僧犯了一个致命的错误 导致原本两三年的路他
  • Python之枚举类Enum定义错误码

    在 web 项目中 我们经常使用自定义状态码来告知请求方请求结果以及请求状态 在 Python 中该如何设计自定义的状态码信息呢 1 普通类 字典设计状态码 class RETCODE OK 0 ERROR 1 IMAGECODEERR 4
  • 循序渐进看Java web日志跟踪(1)-Tomcat 日志追踪与配置

    日志 是软件运行过程中 对各类操作中重要信息的记录 日志跟踪 不管对于怎么样的项目来说 都是非常重要的一部分 它关系到项目后期的维护和排错 起着举足轻重的作用 项目开发过程中 对日志的记录规则 也将影响到改项目后期维护的难度 在开发过程中
  • git常用操作及常见问题解决

    一 创建一个版本库 选择一个合适的地方 创建一个空目录 mkdir learngit cd learngit pwd root test learngit 通过git init 命令将这个目录变成git可以管理的仓库 root zrjdeb
  • java应用系统运行速度慢的解决方法

    场景 我们在部署了TOMCAT应用 刚刚开始启动的一个段时间内 访问系统的速度比较快 但是过了一段时间 应用系统就慢慢的变慢起来了 服务的访问加载时间慢慢变长 问题解决思路 1 查看部署应用系统的系统资源使用情况 CPU 内存 IO这几个方
  • jstack 命令

    NAME jstack Prints Java thread stack traces for a Java process core file or remote debug server SYNOPSIS jstack options
  • Python数据挖掘:利用聚类算法进行航空公司客户价值分析

    无小意丶 个人博客地址 无小意 知乎主页 无小意丶 公众号 数据路 shuju lu 刚刚开始写博客 希望能保持关注 会继续努力 以数据相关为主 互联网为辅进行文章发布 本文是 Python数据分析与挖掘实战 一书的实战部分 在整理分析后的
  • python : Numpy: numpy.c_

    numpy c numpy c
  • BigDecimal 除法运算提示:java.lang.ArithmeticException: Non-terminating decimal expansion; no exact repres

    业务场景 今天在计算重点工程总数占比工程总数 百分比 的时候 遇到一个错误 java lang ArithmeticException Non terminating decimal expansion no exact repres 异常
  • lambda函数

    文章目录 一 定义 二 格式 一 定义 lambda函数是一种匿名函数 是一种通过单个语句生成函数的方式 其结果是返回值 使用lambda关键字定义 该关键字仅表达 我们声明一个匿名函数 的意思 二 格式 冒号前是参数 可以有多个 用逗号隔
  • flex-wrap 后内容高度被撑开

    问题 布局时出现换行后 高度异常 box height calc 100vh 100px background fff overflow auto padding 76px 0 0 17px display flex flex wrap w
  • MySQL中的锁

    数据库中的锁 锁分类 按锁的粒度划分 表级锁 行级锁 页级锁 按锁级别划分 共享锁 排它锁 意向锁 按加锁方式划分 自动锁 显示锁 按使用方式划分 乐观锁 悲观锁 MySQL中的行级锁 表级锁和页级锁 行级锁 行级锁分为共享锁和排他锁 行级
  • 经典小题目2(进制转换,递归真是个好东西啊!C语言)

    递归真是个好东西 进制转换 十进制 gt R进制 除基取余 倒序排列 1 十进制转二进制 十进制转二进制 void convert1 int n if n 0 return else convert1 n 2 printf d n 2 2
  • 【AI面试】CrossEntropy Loss 、Balanced Cross Entropy、 Dice Loss 和 Focal Loss 分类损失横评

    在实际任务中 数据的不均衡一直是深度学习领域一个不可忽略的问题 常说的长尾效应 说的就是这个问题 少而多的误差 最终造成的结果 是不容忽视的 长尾效应 在正态分布中 曲线中间凸起的是 头 两边相对平缓的部分叫做 尾 对于绝大部分的需求来说