程序员经验分享-hwhale

CNN卷积神经网络

2023-10-31

前言

为什么用卷积神经网络

全连接神经网络问题

  • 参数过多
  • 过拟合
  • 需要更多数据
  • 收敛到较差的局部极值

卷积神经网络

  • 局部连接
  • 参数共享

提示：以下是本篇文章正文内容，下面案例可供参考

一、相关概念

卷积

在这里插入图片描述

彩色图像卷积

在这里插入图片描述
在这里插入图片描述

池化

  • 最大池化
  • 在这里插入图片描述
  • 平均池化
  • 在这里插入图片描述

padding

每次卷积图像都会缩小，层数越多，缩小的越多。
边沿的像素会被忽略

  • padding大小
    n+2p-f+1=n
  • padding 类型
    valid
    same
  • 如果有步长则
    （n-f)/S+1+2p=n

Dropout正则化

  • 目的
    减少过拟合
  • 方法
    在一次训练时的迭代中，对每一层中的神经元（总数为N）以概率P随机剔除，用余下的（1-P）×N个神经元所构成的网络来训练本次迭代中的数据。
    一般来说对于CNN，Dropout仅在池化层后使用
    在这里插入图片描述

局部归一化

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
LRN ( Local Response Normalization) 局部响应归一化
在这里插入图片描述

二、经典网络

AlexNet

  • 作者：
    – Alex Krizhevsky
  • 2012 ILSVRC（ImageNet Large Scale Visual Recognition Challenge）竞赛的冠军网络
    – 分类准确率从传统的74%提升到84%
    – top-5错误率16.4%
    亮点：
  • 首次使用了GPU进行网络加速训练
    – 使用了ReLU 激活函数，而不是传统的sigmoid和tanh
    – 在全连接层前两层使用了Dropout，减少过拟合
    – 局部归一化（Local Response Normalization，简称LRN）

在这里插入图片描述

VGGNet介绍

  • VGGNet由牛津大学计算机视觉组合和Google DeepMind公司研究员一起研发的深度卷积神经网络
  • 成绩：
    ILSVRC 2014年比赛的亚军和定位项目的冠军
    将 Top-5错误率降到7.3%
  • 特点：
    – 小卷积核和多卷积子层
    — 33
    – 小池化核
    — 2    2
    weight初始赋值
    小型的VGG :正态分布
    大型的VGG: 从已经训练好的小型VGG中拷贝过去
    input图像处理
    [256;512]
    在这里插入图片描述
    在这里插入图片描述

GoogLeNet

  • 谷歌团队创建
    成绩：
    2014 ILSVRC2014比赛中取得冠军
    22层神经网络达到top-5错误率6.7%
  • 亮点
    所用模型参数不足AlexNet（2012年冠军）的1/12
    Inception结构
    丢弃全连接层，使用平均池化层（大大的减少了模型参数）
    添加了两个辅助分类器帮助训练
    使用1X1卷积核进行降维以及映射
    在这里插入图片描述
    在这里插入图片描述

在这里插入图片描述

ResNet介绍

  • ResNet（Residual Neural Network）由微软研究院的Kaiming He等四名华人提出
  • 成绩：
    2015 ILSVRC2015比赛中取得冠军
    152层神经网络top5上的错误率为3.57%
    同时参数量比VGGNet低
    在这里插入图片描述
    发现层数越多反而效果不i好
    在这里插入图片描述

原因：梯度消失
在这里插入图片描述

resnet解决方案

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

结果

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

三、实操一般步骤结构

在这里插入图片描述

举例

在这里插入图片描述

代码链接

https://github.com/anglersking/simple_deep_learning/tree/master/CNN

本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)

神经网络

cnn

深度学习

CNN卷积神经网络 的相关文章

  • Linux 查看各文件夹大小命令du -h --max-depth=1

    Linux 查看各文件夹大小命令du h max depth 1 du abcDhHklmsSx L lt 符号连接 gt X lt 文件 gt block size exclude lt 目录或文件 gt max depth lt 目录层

  • mysql -n_mysql top n 问题

    日常工作中 经常要查询分组的前几名或查询数据的前几条记录 第5条到第十条 等 TOP N分析法就是通过TOP N算法从研究对象中得到所需的N个数据 并从排序列表中选取最大或最小的N个数据 这就是一个TOP N算法 mysql中用limit

随机推荐

  • （6/300）一阶线性非齐次常微分方程的通解

    一阶线性非齐次常微分方程的通解 首先应该认识方程的形式 dy dx P x y Q x 然后就来思考怎么去解这个方程了 我们最终希望是得到一个y f x 的形式 怎么解呢 先通过线性代数的知识进行引入 求AX b的通解 那么我们先求得A 0

  • MATLAB 信号处理仿真入门实验

    MATLAB 信号处理仿真入门实验 实验目的 熟悉 Matlab 工具的基本用法 掌握 Matlab 代码编写方法 理解序列的离散时间傅里叶变换 理解 DFT 结果的频谱能量泄露 理解 DFT 和 DTFT 的对应关系 理解信号加窗的作用

  • ReactNative入门（一）——环境搭建及第一个RN项目—HelloWorld

    ReactNative入门 本篇以及接下来的几篇有关RN的文章 是默认你对前端相关知识如Node React 以及原生移动端Android可以熟练使用的情况下 最起码达到了解会用的程度 为前提的 不然你就需要先去了学习前端 React为主

  • 图片加载框架－Picasso最详细的使用指南

    写在前面 Android 中有几个比较有名的图片加载框架 Universal ImageLoader Picasso Glide和Fresco 它们各有优点 以前一直用的是ImageLoader 做项目中的图片加载 由于作者宣布ImageL

  • 全国职业技能大赛云计算--高职组赛题卷⑤（容器云）

    全国职业技能大赛云计算 高职组赛题卷 容器云 第二场次题目 容器云平台部署与运维 任务2 基于容器的web应用系统部署任务 15分 任务3 基于容器的持续集成部署任务 15分 任务4 Kubernetes容器云平台部署与运维 15分 本任务

  • 目标检测算法部署网页web端2-点击按钮加载本地图像

    上一篇写了页面的html 目标检测算法部署网页web端1 这篇加个如何点击图像加载按钮 显示在页面上 效果如下 代码如下 b b

  • 【Three.js】第十二章 Materials 材质

    12 Materials 材质 介绍 材质用于为几何体的每个可见像素着色 决定每个像素颜色的算法属于着色器中编写的 编写着色器是 WebGL 和 Three js 最具挑战性的部分之一 但不要担心 Three js 有许多带有预制着色器的内

  • 005 python连接hive

    环境安装 hive hive 安装包配置 python配置hive环境pip install sasl pip install thrift pip install thrift sasl pip install PyHive 注 安装sa

  • CVE-2021-31956提权漏洞分析与利用

    声明 以下内容 来自先知社区的任意门作者原创 由于传播 利用此文所提供的信息而造成的任何直接或间接的后果和损失 均由使用者本人负责 长白山攻防实验室以及文章作者不承担任何责任 漏洞介绍 CVE 2021 31956是发生在NTFS sys中

  • 如何使用Git从网站上拉代码文件

    提示 文章写完后 目录可以自动生成 如何生成可参考右边的帮助文档 文章目录 前言 一 Github项目 二 复制文件下载链接 三 将文件下载到我们自己的文件夹中 总结 前言 很多时候我们想从Github网站找到一个想要的项目文件 想要下载下

  • antdv + moment DatePicker日期组件默认显示当天、当周、当月

    一 当天 两种形式 1 非表单

  • 黑马程序员Javaweb学习笔记01

    该博客主要记录在学习黑马程序员Javaweb过程的一些笔记 方便复习以及加强记忆 系列文章 JavaWeb学习笔记01 BS架构 Maven Tomcat Servlet JavaWeb学习笔记02 request和response Jav

  • HY2120的保护板和充电方案整套电路图

    HY2102保护板电路和9V 20V输入的锂电池充电芯片PW4203电路 HY2102保护板电路和5VV输入的锂电池充电芯片PL7501C电路

  • 已解决Win11报错 OSError: [WinError 1455] 页面文件太小，无法完成操作。

    作者主页 爱笑的男孩 的博客 CSDN博客 深度学习 活动 python领域博主爱笑的男孩 擅长深度学习 活动 python 等方面的知识 爱笑的男孩 关注算法 python 计算机视觉 图像处理 深度学习 pytorch 神经网络 ope

  • GD32ADC+DMA定时电压采集（备份）

    初始化了一个串口 初始化了一个adc 一个dma 一个定时器 一个led 这一套搞懂算是基本入门了呀 include gd32f4xx h include systick h include

  • 2）Cadence design entry hdl Tutorial原理图入门

    从最基本的步骤 新建项目开始 1 1项目的组成 参考库是包含原理图符号 sym 的库 显示在原理图上的元件 代表实际的器件 包含封装型号 a Local libraries design libraries 本地库 设计库 项目自动生成的

  • 编程经验分享（寻找map中的max与min）——力扣·百战炼磨（一）

    2021 4 14 力扣第47场双周赛 虚拟竞赛 第三题 所有子字符串美丽值之和 力扣 1781 以下经验来自于对该题目的解决 一个字符串的 美丽值 定义为 出现频率最高字符与出现频率最低字符的出现次数之差 比方说 abaacc 的美丽值为

  • 编辑器mavon-editor离线使用

    cnd部分 可与运维人员商量一起配置 vue2的使用 1 1在public文件夹下面 放入编辑器的全部文件 1 2引入 1 2 1script下面引入 import Vue from vue import mavonEditor from

  • C# 基础知识 (五).变量类型和字符串处理

    这篇文章是阅读 C 入门经典 Beginning C 书籍里面的内容 作者Karli Watson 主要包括自己缺乏的一些C 基础知识和在线笔记使用 文章主要包括C 简单变量类型和复杂变量类型 命名规则 隐式转换和显示转换 变量字符串处理等

  • CNN卷积神经网络

    CNN卷积神经网络 前言 一 相关概念 卷积 彩色图像卷积 池化 padding Dropout正则化 局部归一化 二 经典网络 AlexNet VGGNet介绍 GoogLeNet ResNet介绍 resnet解决方案 结果 三 实操一

热门标签