《深度学习》:CANN训练营_昇腾AI入门课学习笔记(第二章 TensorFlow模型迁移训练)
创始人
2024-01-16 11:11:38
0

文章目录

  • 第二章 TensorFlow模型迁移&训练
    • 本章学习目标
    • AI模型开发基础知识入门
      • Python水平要求
      • 了解深度学习和神经网络
      • 了解TensorFlow AI框架
      • 了解基于CANN的模型开发流程(重点)
    • TensorFlow AI模型迁移详解
      • 为什么要做模型迁移
      • TensorFlow AI模型自动迁移详解(重点)
      • TensorFlow AI模型手工迁移详解(重点)
      • 补充资料(重点)
    • TensorFlow AI模型训练详解
      • 基于昇腾910的TF网络脚本训练(ModelArts平台) (重点)
    • 新手班章节小测(二)

第二章 TensorFlow模型迁移&训练

CANN训练营_昇腾AI入门课

本章学习目标

  1. 了解异构计算架构CANN在神经网络训练中发挥的主要作用。2. 掌握如何基于CANN将TensorFlow模型迁移到昇腾AI处理器上。3. 掌握如何在昇腾AI处理器上进行模型训练,感受昇腾AI的极致性能。4. 掌握如何查看训练日志和训练结果,具备基本的问题定界、定位能力。

AI模型开发基础知识入门

Python水平要求

本课程中的示例代码、练习涉及Python语言的如下基础知识

a. 使用位置和关键字参数定义和调用函数b. 字典、 列表、 集合(创建、访问和迭代)c. for循环, for具有多个迭代器变量的循环(例如,for a, b in [(1,2), (3,4)])d. if/else条件块和条件表达式e. 字符串格式 (例如,'%.2f' % 3.14)f. 变量、赋值、基本数据类型 (int, float, bool, str等)

了解深度学习和神经网络

需要看 DeepLearning AI B站官方账号发布的AI For Everyone(AI4E)视频学习,主要是科普内容,不会涉及到深层的理论知识
在这里插入图片描述
在这里插入图片描述

了解TensorFlow AI框架

TensorFlow官网

了解基于CANN的模型开发流程(重点)

最新的文档,6.0.0.alpha001
在这里插入图片描述

TensorFlow AI模型迁移详解

本节学习目标

1. 了解为什么要做模型迁移2. 了解模型迁移的两种迁移方式3. 掌握如何进行模型迁移

为什么要做模型迁移

昇腾910 AI处理器是华为在2019年发布的人工智能(AI)专用的神经网络处理器,其算力高达256T,最新款算力高达310T,是业界主流处理器算力的2倍,基于昇腾910 AI处理器的昇腾系列硬件,比如Atlas 800训练服务器

除了昇思MindSpore外,TensorFlow等其他深度学习框架下的模型并不能直接在昇腾910 AI处理器上训练,需要借助异构计算架构CANN的Plugin适配层转换,使转换后的模型能够高效运行在昇腾910 AI处理器上。目前,CANN已经能够支持多种主流AI框架,包括昇思MindSpore、TensorFlow、PyTorch、飞浆、ONNX等,并且开发者只需要非常少的改动,即可快速搞定算法移植,大大减少切换平台的代价。

TensorFlow AI模型自动迁移详解(重点)

通过迁移工具对原始脚本进行AST语法树扫描,可自动分析原生的TensorFlow API在昇腾AI处理器上的支持度,并将原始的TensorFlow训练脚本自动迁移成昇腾AI处理器支持的脚本,对于无法自动迁移的API,可以参考工具输出的迁移报告,对训练脚本进行相应的适配修改。

文档链接,适用于原生的Tensorflow 1.15训练脚本自动迁移场景,其他版本也可以在文档中找到。

TensorFlow AI模型手工迁移详解(重点)

算法工程师需要人工分析TensorFlow训练脚本中的API支持度情况,并且参照文档逐一手工修改不支持的API,以便在昇腾AI处理器上训练,该种方式较为复杂,我们建议大家优先使用自动迁移方式。
在这里插入图片描述

视频里面讲了两种迁移
在这里插入图片描述
更多内容看补充资料

补充资料(重点)

实验:TensorFlow 1.x训练脚本迁移
本实验以一个Sess.run的手写数字分类网络为例,介绍如何迁移TensorFlow 1.15训练脚本,以支持NPU训练。

昇腾AICANN系列课程——TensorFlow训练脚本迁移与调优

TensorFlow AI模型训练详解

本节学习目标

1. 了解ModelArts训练之前各项准备工作2. 了解OBS、ModelArts以及Pycharm插件关系3. 掌握如何使用ModelArts平台进行网络训练4. 掌握如何查看训练日志和训练结果,具备基本的问题定界、定位能力。

基于昇腾910的TF网络脚本训练(ModelArts平台) (重点)

时长一个多小时的一个视频,讲的是从注册账号、制作并上传数据集、模型迁移和进行训练的整个流程

文档链接

新手班章节小测(二)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
第4题应该有问题,不是手工迁移工具,应该是自动迁移工具
在这里插入图片描述在这里插入图片描述

相关内容

热门资讯

人生的励志箴言 关于人生的励志箴言  1.朋友是雨中伞,遮风挡雨; 朋友是雪中炭,暖心驱寒;朋友是被中棉,温暖身心;...
不悔梦归处美文 不悔梦归处美文  今天去图书馆,一下午的时间看了点刘庸的《我不是教你祚》,晚上时也实在是无聊,又不想...
十部必看韩剧历史剧   大家看韩剧喜欢看韩国的历史剧吗?下文是励志网整理的十部必看韩剧历史剧,希望能帮助到你。  十部必...
青春奋斗带字励志图片   伟人之所以伟大,是因为他与别人共处逆境时,别人失去了信心,他却下决心实现自己的目标。下面是由yj...
古人关于描写云的励志诗句集锦 天空中又出现许多千变万化的云彩,时而像羽毛,轻轻地漂泊在空中;时而像羊群,缓缓地移动;时而像大海,翻...
校园励志电影 应届毕业生励志网分享15部校园励志电影:  1、律政俏佳人1、2(Legally Blonde)……...
生产管理励志口号 生产管理励志口号大全  1. 异常改善改善再改善,浪費减少减少再减少  2. 小问题,要重视,老毛病...
tvb励志电视剧2017   2017tvb新片巡礼剧有哪些?2017年tvb依然有好多好看的电视剧准备开播?下面我们一起来看...
励志江苏大龄考生陈洪涛 励志江苏大龄考生陈洪涛  参加16个专业自考  他还拥有多张资格证书  陈洪涛高中毕业后就去了扬州电...
青春励志女生合唱歌曲   导语:有哪些适合女孩子合唱的青春励志歌曲呢?以下是小编收集整理的青春励志女生合唱歌曲,希望大家喜...
青春励志人生小说   青春啊,难道你始终囚禁在狭小圈子里?你得撕破老年的蛊惑人心的网。今天励志网就为大家推荐一些青春励...
高考励志对联集锦   引导语:不知不觉,高考又要来到了,为了鼓励考生,下面unjs小编为大家带来关于高考励志的对联集锦...
四年级语文《徐悲鸿励志学画》... 四年级语文《徐悲鸿励志学画》教学反思  作为一名到岗不久的老师,我们的任务之一就是教学,对教学中的新...
励志歌曲集 励志歌曲之一腾格尔:大男人罗嘉良:创造晴天温兆伦:从未试过拥有Michael Learns To R...
初三班级励志誓词   导语:中考不相信“如果”,多一份勤奋,少一份后悔。在面对即将到来的高考,以下是小编整理的关于初三...
特深沉的人生感悟语句励志 特深沉的人生感悟语句【励志】  人生最重要的不是我们置身何处,而是我们将前往何处,特深沉的人生感悟语...
励志电影《土豪的情人节》推荐   土豪情人节又名土豪520。  《土豪520》是中国电影股份有限公司、江苏幸福蓝海院线有限公司、浙...
励志八字真言 励志八字真言  1、自加压力,敢于争先。  2、孜孜不倦,蒸蒸日上。  3、愚者千虑,必有一得。  ...
成功女人的励志故事 成功女人的励志故事  导语:谁说女子不如男?现在的女子可是个个都能够撑起半边天,事事靠自己。下面是小...
高三励志文章:高三,时间是赞... 高三励志文章:高三,时间是赞下来的    离2011年高考还剩下大约50天的时间了。    我们在复...