网络剪枝(1)

2023-10-29

论文名:Learning Efficient Convolutional Networks through Network Slimming
本文主题:Network Slimming

(1)剪枝的三种意义:

  1. re­duce the model size;
  2. decrease the run-time memory foot­print;
  3. lower the number of computing operations, without compromising accuracy.

1)减少模型大小;2)减少运行时内存足印;3)在不影响精度的情况下,减少计算操作次数。

(2)直接看结论:

It directly imposes sparsity-induced regularization on the scaling
factors
in batch normalization layers, and unimportant channels can
thus be automatically identified during training and then pruned

作用对象:BN层(和不重要的通道)
作用方式: imposes sparsity-induced regularization on the scaling factors(比例因子)

(3)啥是Network Slimming和sparsity-induced regularization,scaling factors?????

第一次出现Network Slimming和sparsity-induced regularization,在文章这一段。
在这里插入图片描述
Network Slimming的定义翻译一下大概是这样:

我们的方法在批归一化层(BN)中对比例因子施加L1正则化,因此很容易实现无需引入任何更改为现有CNN架构。通过L1正则化将BN标度因子的值推向零,使我们能够识别不重要的通道(或neu-ron),因为每个标度因子对应于特定的进化通道(或完全连接层中的神经元)

1)来自上图段落(蓝线后面),2)来自结论。
换句话说:

1)Our approach imposes L1 regularlization on the scaling
factors
in batch normalization (BN) layers
2) imposes sparsity-induced regularization on the scaling factors(比例因子)

在这里插入图片描述
然后这段话看完其实就是一张图
在这里插入图片描述
然后就是进入Related Work段落
这一段主要介绍网络结构压缩的方法,基本上没啥必要看哈哈哈哈

Network slimming 这一段
中国人发的论文最懂中国人!!!黑体字就把重点讲的一清二楚了
在这里插入图片描述
我不知道翻译对不对。大体上就是一个惩罚项

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

网络剪枝(1) 的相关文章

随机推荐

  • 什么是人力资源360度评估法?

    1 360度评估法的定义 360度评估法 360 Feedback 又称 360度考核法 或 全方位考核法 属于人力资源中绩效考核方法之一 是指由员工自己 上司 直接部属 同仁同事甚至顾客或家人等从全方位 各个角度来评估人员的方法 而且 为
  • java注解与反射的基本使用(这一篇就够了!)

    一 注解 Annotation 1 什么是注解 相信大家对注解应该并不陌生 在现在信息飞速发展的年代 各种优秀的框架或许都离不开注解的使用 像我们在实现接口一个方法时 也会有 Override注解 注解说白了就是对程序做出解释 与我们在方法
  • 【three.js】世界坐标系和设备坐标系

    three js 坐标系转换 简述 屏幕坐标转世界坐标 世界坐标转屏幕坐标 第三方 CSS2DRenderer 第三方 CSS3DRenderer 简述 物体的坐标转换过程大致为 局部坐标 gt 世界坐标 gt 观察空间坐标 gt 裁剪空间
  • vue项目流程demo示例

    前言 自己写从头做一个vue项目 没什么技术 主要是温顾流程 gt 没写完 只写到创建完项目 目录 1 准备工作 node 淘宝镜像 yarn vite IDE集成开发工具 2 创建项目 初始化项目 文件目录 3 全局设置 主题设置 全局变
  • python3,使用sys.setdefaultencoding('utf-8'),编译时报错

    借鉴博客 http blog csdn net fly910905 article details 74922378 正常情况下 我们在使用python做页面开发时 防止中文出现乱码问题 python2 情况下会使用 如下语句 import
  • ‘mkvirtualenv‘ 不是内部或外部命令,也不是可运行的程序 或批处理文件。

    问题 mkvirtualenv 不是内部或外部命令 也不是可运行的程序 或批处理文件 或者 mkvirtualenv 无法将 mkvirtualenv 项识别为 cmdlet 函数 脚本文件或可运行程序的名称 请检查名称的拼写 如果包括路径
  • 华为HCIP云计算考证心得

    华为认证是社会认证中一种 现在很多公司也比较看重这个的 有的公司还会根据你考取证书的等级高低有工资加成 透露下我之前所在的公司 是华为的合作伙伴 就是华为代理公司把 持有HCIP证书可有每月有500的加成 IE的话1000 当然不同的公司也
  • php实现抽奖

    不啰嗦 直接上代码
  • Unity 轻量级对象池管理器(上)

    参考 https www jianshu com p 144181beab79 完整代码请跳转至 Unity 轻量级对象池管理器 下 一 前言 很多时候 你都要考虑一个问题 就是到底是牺牲时间换空间 还是牺牲空间换时间 特别是在资源紧缺的那
  • 前后端分离项目打包上传服务器

    前后端分离项目打包上传服务器 项目环境 前端项目打包 npm run build 后端项目打包 xshell和xftp 项目环境 本次项目前端使用的是vue 后端使用spring boot 分别使用的编辑器是vs code和ide 前端项目
  • Failed to load resource: the server responded with a status of 500 ()

    文章目录 前提 解决思路 心得 前提 1 最近在写SSM博客项目 基于jsp编写的 跟着视频敲 直接运行已经给好的资料 在登录验证的时候 发现页面加载半天 如下图 2 于是就盲目的去比对是不是自己复制的代码有问题 然后就一行行的比对 这犯了
  • Linux中磁盘分区的具体步骤

    磁盘分区是在Linux操作系统中重要的任务之一 通过分区可以让我们更好地管理磁盘空间 并更好地使用磁盘来存储数据和程序 在这篇博客里 我将向大家介绍如何在Linux中进行磁盘分区的实战步骤 步骤一 打开终端 首先 我们需要打开终端 在终端中
  • Linux系统巡检项及详细巡检方法与解决方案

    一 背景 1 开发脚本实现OS配置参数巡检 2 推动监控系统发布OS巡检插件 3 利用监控数据形成报表 二 巡检项整改方案解析 1 检查僵尸进程 此项检查项是检查主机系统是否存在D状态的进程 D是一种不可中断的sleep 如果发现D状态并且
  • [React Hooks 翻译] 3-8 State Hook

    示例 等价的class组件 使用class实现一个计数器 你可能会这么写 class Example extends React Component constructor props super props this state coun
  • 微信公众号 几种移动端UI框架介绍

    微信公众号 几种移动端UI框架介绍 微信公众号开发 主要是移动端网页的页面开发 在这里推荐3个移动端UI框架 WeUI SUI和Mint UI 1 WeUI 1 1 WeUI WeUI是微信官方设计团队为微信 Web 开发量身设计 可以令用
  • 从RecyclerView、NestedScrollView源码分析嵌套滑动异常

    一 显示不全 自动滚动异常 NestedScrollView嵌套RecyclerView时 有2个问题 1 RecyclerView数据加载完成后 会自动滚动到第一个itemView的位置上 导致RecyclerView上面的布局不显示 2
  • 处理 Java 异常时应避免的 7 个常见错误

    处理异常是最常见但不一定是最简单的任务之一 它仍然是经验丰富的团队中经常讨论的话题之一 并且我们应该了解一些最佳实践和常见错误 以下是在处理应用程序中的异常时应避免的几个错误 错误 1 指定一个 java lang Exception 或
  • uwb定位上位机定位源码流程分析

    主要用到的文件有两个 1 SerialConnection cpp 负责串口初始化相关内容 2 RTLSClient cpp 负责解算标签坐标并发送给上位机 3 trilateration cpp 解算坐标数学原理 1 先执行 函数 voi
  • 斐波那契额数列

    斐波那契额数列 文章目录 斐波那契额数列 前言 一 迭代法 二 公式法估算 三 矩阵快速幂加高精度 完 前言 采用三种方法求斐波那契数列 迭代法 公式法 矩阵快速幂加高精度 偷偷告诉你 可以精确求到一万位斐波那契数 一 迭代法 includ
  • 网络剪枝(1)

    论文名 Learning Efficient Convolutional Networks through Network Slimming 本文主题 Network Slimming 1 剪枝的三种意义 re duce the model