tensorflow(神经网络)学习笔记(七)自动机器学习(AutoML)介绍(学习笔记)

2023-11-03

在这里插入图片描述
在这里插入图片描述

神经网络结构搜索算法之一

在这里插入图片描述
网络结构
在这里插入图片描述
在这里插入图片描述
降低神经网络结构参数
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
如下图,彩色框框为生成单个神经的参数,使用循环神经网络去生成卷积神经网络
在这里插入图片描述
左边RNN可以生成LSTM的序列表达,然后把序列解析成网络表达结构,得到网络结构的表达,然后计算得到accuracy,然后反馈给RNN,然后再重新生成LSTM的序列表达。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
ex:单层网络结构参数
卷积的高、宽、步长的高和宽,最后一个是channel的个数(概率),每一个的loss分别是反馈R与概率相乘
在这里插入图片描述
在这里插入图片描述
对于上述的这个模型,是一个无监督的学习模型,所以需要每个生成的模型都需要训练,耗时,故采用分布式训练,tensorflow Serving
下图神经网络搜索中的一个框架,有多个参数存储server点(不同参数可以通过哈希算法储存),工作结点再分下一层,下一层再并行计算
在这里插入图片描述
下图为上图的分布式训练流程
在这里插入图片描述
在这里插入图片描述

tensorflow Serving核心思想:参数定义在服务器上面,模型训练放在工作节点上,中间传播相应的梯度,左边为伪代码。
在这里插入图片描述
同步和异步传播
在这里插入图片描述
第一种算法的缺点:
在这里插入图片描述

神经网络结构搜索算法之二

在这里插入图片描述
单层的复杂结构:下左图的InceptionNet的子结构,下右图的ResNet的子结构,分子使他们的公共点
在这里插入图片描述
第二种算法实现复制的单层结构
如下图,依然是使用循环神经网络来生成卷积(使用单层的循环神经),右边中的循环神经循环B次之后就有可能到达复制的单层结构,右边简化后就是左边的图。再下一次循环的时候,就可以从A,B和new中选择两个。
在这里插入图片描述
上述的伪代码:
在这里插入图片描述
上述的操作集合如下:
在这里插入图片描述
合并操作只有两种。
在这里插入图片描述
在合并之前需要下面的先验知识
在这里插入图片描述
Normal Cell结构
在这里插入图片描述
Reduction Cell
在这里插入图片描述
现有的网络结构
在这里插入图片描述
第二种算法的缺点:
在这里插入图片描述

神经网络结构搜索算法之三

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
横向对比
在这里插入图片描述
总结
在这里插入图片描述

课程总结

课程目录
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
提升:
在这里插入图片描述

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

tensorflow(神经网络)学习笔记(七)自动机器学习(AutoML)介绍(学习笔记) 的相关文章

随机推荐

  • Classic AUTOSAR专题

    往期小怿向各位小伙伴介绍了Classic AUTOSAR专题之I O模块 相信看过的小伙伴对Classic AUTOSAR的I O模块已经有基本的认知了 本期为大家介绍 AUTOSAR模块之诊断模块 内容超丰富 将分两期推出哦 目录 1 概
  • Android开源框架之Afinal

    Afinal是一个android的ioc orm框架 内置了四大模块功能 FinalAcitivity FinalBitmap FinalDb FinalHttp 通过finalActivity 我们可以通过注解的方式进行绑定ui和事件 通
  • 4个mos管驱动的全桥电路原理_逆变器工作原理

    逆变器工作原理 输入接口部分 输入部分有3个信号 12V直流输入VIN 工作使能电压ENB及Panel电流控制信号DIM VIN由Adapter提供 ENB电压由主板上的MCU提供 其值为0或3V 当ENB 0时 Inverter不工作 而
  • Node 中的 Buffer 的理解及应用场景

    一 是什么 在Node应用中 需要处理网络协议 操作数据库 处理图片 接收上传文件等 在网络流和文件的操作中 要处理大量二进制数据 而Buffer就是在内存中开辟一片区域 初次初始化为8KB 用来存放二进制数据 在上述操作中都会存在数据流动
  • Linux 操作系统的基本目录

    1 Linux 的基本目录 根目录 usr 系统存放程序的目录 home 普通用户默认存放的目录 bin 系统基础命令目录 boot 包含Linux内核及系统引导所需要的文件 dev 设备文件存储目录 etc 存放系统程序或工具配置文件目录
  • spring集成shiro详解

    最近项目中要用到shiro作为权限管理 以前都是用自定义的或者spring security 所以就开始看了一些网上的文章 但是感觉都写得很零散 而且大多数都只是给了几行代码 我们得项目相对比较复杂 需要进行一些额外得改造和扩展 所以自己也
  • 配置springboot踩到的坑

    1 卸载了eclipse 结果连带卸载了java JDK 因为没有意识到所以第一次编译报错 2 run configure不会写 最后网络上查到在run 里输入 spring boot run 普通的maven 工程 run里写 clean
  • ThinkPHP 2.x/3.0 漏洞复现

    ThinkPHP框架 ThinkPHP是一款从Struts结构移植过来进行改进和完善后的web应用的开源轻量级PHP框架 ThinkPHP可在 Windows和 Linux等操作系统运行 支持 MySql Sqlite和 PostgreSQ
  • 云服务器测速脚本_Linux VPS服务器带宽测速脚本:Speedtest Linux进行网络测速方法...

    新购买VPS服务器后 当然少不了对对VPS的性能做测试了 好让自己知道新购买到的VPS性能是怎么样的 下面就来为大家介绍一个Linux系统VPS带宽测速脚本Speedtest 和Linux VPS进行网络测试的方法 一 环境准备 我们使用的
  • Fibonacci 数列

    题目描述 输入一个正整数n 求 Fibonacci 数列的第n个数 Fibonacci 数列的特点 第1 2个数为1 1 从第3个数开始 概述是前面两个数之和 即 要求输入的正整数n不超过50 输入 一个不超过50的正整数 输出 Fibon
  • IntersectionObserver与无限滚动加载

    学习链接 IntersectionObserver MDN Api IntersectionObserver API详解 Intersection observer 的概念和用法 过去 要检测一个元素是否可见或者两个元素是否相交并不容易 比
  • 长连接、短连接与WebSocket 的区别

    1 长连接与短连接 1 短连接 HTTP1 0中默认使用短连接 也就是说 客户端和服务器每进行一次HTTP操作 就建立一次连接 任务结束就中断连接 HTTP的生命周期通过Request来界定 也就是说一个Request 一个Response
  • 网络请求库requests及数据解析xpath

    requests库 requests库也是一个网络请求库 基于urllib和urllib3封装的便捷使用的网络请求库 安装环境 pip install requests i https mirrors aliyun com pypi sim
  • Odoo字段设置索引-多列联合索引

    需求 在创建模块生成数据库表结构时 一般也要设计字段是否需要添加索引 或者多个字段联合索引 单字段添加索引 设置索引只需要在字段初始化时添加index参数 index bool default False index默认是False 如果需
  • 【ESP-IDF】使用SNTP进行时间同步

    description sntp初始化 return note 参考官方博客 static void esp initialize sntp void ESP LOGI TAG Initializing SNTP sntp setopera
  • 怎样招聘程序员

    在招聘程序员方面 没有所谓的神奇 银弹 但我可以分享一些建议和诀窍 它们经过我的实践证明是有效的 这些方法我多年来一直在用 我把它们总结如下 首先 要求通过几个简单的 Hello World 在线测试 我知道这听起来很疯狂 但有些自称是程序
  • 必会Python技能!教你如何从官网爬取高清皮肤壁纸

    目录标题 前言 开发环境 模块使用 代码基本四个步骤 代码展示 尾语 前言 大家早好 午好 晚好吖 欢迎光临本文章 开发环境 python 3 8 运行代码 pycharm 2022 3 辅助敲代码 模块使用 requests gt 数据请
  • JavaScript知识点DOM 模型详细讲解

    DOM 模型 DOM 全称是 Document Object Model 文档对象模型 大白话 就是把文档中的标签 属性 文本 转换成为对象来管理 Document 对象 Document对象的理解 第一点 Document 它管理了所有的
  • 《产品经理修炼之道》读后感

    费杰的这本 产品经理修炼之道 说实话确实是有点坑爹 话说这是我看过的第二本产品方面的书籍 但是和 人人都是产品经理 的差距真的不是一点 那一本可以说是内容详实 对于入门来说不管是理论还是实例都写得很不错 文字也是相当的多 而费杰的这本其实内
  • tensorflow(神经网络)学习笔记(七)自动机器学习(AutoML)介绍(学习笔记)

    神经网络结构搜索算法之一 网络结构 降低神经网络结构参数 如下图 彩色框框为生成单个神经的参数 使用循环神经网络去生成卷积神经网络 左边RNN可以生成LSTM的序列表达 然后把序列解析成网络表达结构 得到网络结构的表达 然后计算得到accu