《深度学习》:CANN训练营_昇腾AI入门课学习笔记(第二章 TensorFlow模型迁移训练)
创始人
2024-01-16 11:11:38
0

文章目录

  • 第二章 TensorFlow模型迁移&训练
    • 本章学习目标
    • AI模型开发基础知识入门
      • Python水平要求
      • 了解深度学习和神经网络
      • 了解TensorFlow AI框架
      • 了解基于CANN的模型开发流程(重点)
    • TensorFlow AI模型迁移详解
      • 为什么要做模型迁移
      • TensorFlow AI模型自动迁移详解(重点)
      • TensorFlow AI模型手工迁移详解(重点)
      • 补充资料(重点)
    • TensorFlow AI模型训练详解
      • 基于昇腾910的TF网络脚本训练(ModelArts平台) (重点)
    • 新手班章节小测(二)

第二章 TensorFlow模型迁移&训练

CANN训练营_昇腾AI入门课

本章学习目标

  1. 了解异构计算架构CANN在神经网络训练中发挥的主要作用。2. 掌握如何基于CANN将TensorFlow模型迁移到昇腾AI处理器上。3. 掌握如何在昇腾AI处理器上进行模型训练,感受昇腾AI的极致性能。4. 掌握如何查看训练日志和训练结果,具备基本的问题定界、定位能力。

AI模型开发基础知识入门

Python水平要求

本课程中的示例代码、练习涉及Python语言的如下基础知识

a. 使用位置和关键字参数定义和调用函数b. 字典、 列表、 集合(创建、访问和迭代)c. for循环, for具有多个迭代器变量的循环(例如,for a, b in [(1,2), (3,4)])d. if/else条件块和条件表达式e. 字符串格式 (例如,'%.2f' % 3.14)f. 变量、赋值、基本数据类型 (int, float, bool, str等)

了解深度学习和神经网络

需要看 DeepLearning AI B站官方账号发布的AI For Everyone(AI4E)视频学习,主要是科普内容,不会涉及到深层的理论知识
在这里插入图片描述
在这里插入图片描述

了解TensorFlow AI框架

TensorFlow官网

了解基于CANN的模型开发流程(重点)

最新的文档,6.0.0.alpha001
在这里插入图片描述

TensorFlow AI模型迁移详解

本节学习目标

1. 了解为什么要做模型迁移2. 了解模型迁移的两种迁移方式3. 掌握如何进行模型迁移

为什么要做模型迁移

昇腾910 AI处理器是华为在2019年发布的人工智能(AI)专用的神经网络处理器,其算力高达256T,最新款算力高达310T,是业界主流处理器算力的2倍,基于昇腾910 AI处理器的昇腾系列硬件,比如Atlas 800训练服务器

除了昇思MindSpore外,TensorFlow等其他深度学习框架下的模型并不能直接在昇腾910 AI处理器上训练,需要借助异构计算架构CANN的Plugin适配层转换,使转换后的模型能够高效运行在昇腾910 AI处理器上。目前,CANN已经能够支持多种主流AI框架,包括昇思MindSpore、TensorFlow、PyTorch、飞浆、ONNX等,并且开发者只需要非常少的改动,即可快速搞定算法移植,大大减少切换平台的代价。

TensorFlow AI模型自动迁移详解(重点)

通过迁移工具对原始脚本进行AST语法树扫描,可自动分析原生的TensorFlow API在昇腾AI处理器上的支持度,并将原始的TensorFlow训练脚本自动迁移成昇腾AI处理器支持的脚本,对于无法自动迁移的API,可以参考工具输出的迁移报告,对训练脚本进行相应的适配修改。

文档链接,适用于原生的Tensorflow 1.15训练脚本自动迁移场景,其他版本也可以在文档中找到。

TensorFlow AI模型手工迁移详解(重点)

算法工程师需要人工分析TensorFlow训练脚本中的API支持度情况,并且参照文档逐一手工修改不支持的API,以便在昇腾AI处理器上训练,该种方式较为复杂,我们建议大家优先使用自动迁移方式。
在这里插入图片描述

视频里面讲了两种迁移
在这里插入图片描述
更多内容看补充资料

补充资料(重点)

实验:TensorFlow 1.x训练脚本迁移
本实验以一个Sess.run的手写数字分类网络为例,介绍如何迁移TensorFlow 1.15训练脚本,以支持NPU训练。

昇腾AICANN系列课程——TensorFlow训练脚本迁移与调优

TensorFlow AI模型训练详解

本节学习目标

1. 了解ModelArts训练之前各项准备工作2. 了解OBS、ModelArts以及Pycharm插件关系3. 掌握如何使用ModelArts平台进行网络训练4. 掌握如何查看训练日志和训练结果,具备基本的问题定界、定位能力。

基于昇腾910的TF网络脚本训练(ModelArts平台) (重点)

时长一个多小时的一个视频,讲的是从注册账号、制作并上传数据集、模型迁移和进行训练的整个流程

文档链接

新手班章节小测(二)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
第4题应该有问题,不是手工迁移工具,应该是自动迁移工具
在这里插入图片描述在这里插入图片描述

相关内容

热门资讯

常用商务英语口语   商务英语是以适应职场生活的语言要求为目的,内容涉及到商务活动的方方面面。下面是小编收集的常用商务...
六年级上册英语第一单元练习题   一、根据要求写单词。  1.dry(反义词)__________________  2.writ...
复活节英文怎么说 复活节英文怎么说?复活节的英语翻译是什么?复活节:Easter;"Easter,anniversar...
2008年北京奥运会主题曲 2008年北京奥运会(第29届夏季奥林匹克运动会),2008年8月8日到2008年8月24日在中华人...
英语道歉信 英语道歉信15篇  在日常生活中,道歉信的使用频率越来越高,通过道歉信,我们可以更好地解释事情发生的...
六年级英语专题训练(连词成句... 六年级英语专题训练(连词成句30题)  1. have,playhouse,many,I,toy,i...
上班迟到情况说明英语   每个人都或多或少的迟到过那么几次,因为各种原因,可能生病,可能因为交通堵车,可能是因为天气冷,有...
小学英语教学论文 小学英语教学论文范文  引导语:英语教育一直都是每个家长所器重的,那么有关小学英语教学论文要怎么写呢...
英语口语学习必看的方法技巧 英语口语学习必看的方法技巧如何才能说流利的英语? 说外语时,我们主要应做到四件事:理解、回答、提问、...
四级英语作文选:Birth ... 四级英语作文范文选:Birth controlSince the Chinese Governmen...
金融专业英语面试自我介绍 金融专业英语面试自我介绍3篇  金融专业的学生面试时,面试官要求用英语做自我介绍该怎么说。下面是小编...
我的李老师走了四年级英语日记... 我的李老师走了四年级英语日记带翻译  我上了五个学期的小学却换了六任老师,李老师是带我们班最长的语文...
小学三年级英语日记带翻译捡玉... 小学三年级英语日记带翻译捡玉米  今天,我和妈妈去外婆家,外婆家有刚剥的`玉米棒上带有玉米籽,好大的...
七年级英语优秀教学设计 七年级英语优秀教学设计  作为一位兢兢业业的人民教师,常常要写一份优秀的教学设计,教学设计是把教学原...
我的英语老师作文 我的英语老师作文(通用21篇)  在日常生活或是工作学习中,大家都有写作文的经历,对作文很是熟悉吧,...
英语老师教学经验总结 英语老师教学经验总结(通用19篇)  总结是指社会团体、企业单位和个人对某一阶段的学习、工作或其完成...
初一英语暑假作业答案 初一英语暑假作业答案  英语练习一(基础训练)第一题1.D2.H3.E4.F5.I6.A7.J8.C...
大学生的英语演讲稿 大学生的英语演讲稿范文(精选10篇)  使用正确的写作思路书写演讲稿会更加事半功倍。在现实社会中,越...
VOA美国之音英语学习网址 VOA美国之音英语学习推荐网址 美国之音网站已经成为语言学习最重要的资源站点,在互联网上还有若干网站...
商务英语期末试卷 Part I Term Translation (20%)Section A: Translate ...