本书是《智能计算系统》教材的配套实验教程，全书基于智能计算系统各章节的重点或难点，结合智能计算系统的软硬件技术栈设计了基于通用CPU平台和深度学习处理器平台的分阶段实验和综合实验。实验设计与理论章节一对一匹配，结合知识树的构建，帮助高校教师和学生轻松上手实验，切实强化动手能力，让学生真正掌握智能计算系统的部署与优化。

由浅入深，手把手教你智能计算系统全栈开发
　 理论教材配套实验，智能计算系统知识树帮你打通任督二脉
　 实验游戏化，《太空开发者》带你边玩边学、轻松上手

作为人工智能的核心物质载体，智能计算系统无论对于人工智能的前沿研究还是产业发展都至关重要。业界迫切需要数以万计的智能计算系统人才。为此，我们于 2019年在中国科学院大学开设了国内第一门智能计算系统课程，并于 2020年出版了《智能计算系统》教材，该教材也是国际上第一本系统介绍当代智能计算系统软硬件技术栈原理的教材。
目前，“智能计算系统”课程和《智能计算系统》教材已经推广至国内 70余所高校。这些 学校的实际教学经验表明，学生仅通过理论学习，无法对智能计算系统知识融会贯通。“纸上得来终觉浅，绝知此事要躬行。”例如，仅仅把原理背得滚瓜烂熟，学生还是很难真正理解编程框架如何将智能任务分解成算子映射到硬件上。想要搞清楚这个过程，必须实际动手去修改编程框架。因此，学生要花 50～60 小时的课余时间动手做实验，才能进入智能计算系统全栈工程师的行列。
从这个角度看，整个智能计算系统的教学需要花三分之二的时间用于实验。但是，目 前国内外都没有比较全面、系统的智能计算系统实验教程能清楚地告诉老师和学生，到底 应该做哪些实验，每个实验具体有哪些环节，需要花费多少时间，在什么平台上做，怎么评分。这使得实验既不好教，也不好学。老师没有好的依据来指导实验教学，学生碰到实验中的“疑难杂症”也没有地方查阅。很多学校的老师和学生都向我们反映了这些困难，迫切希望我们为《智能计算系统》再编写一本配套的实验教程。
因此，我们花了一年多时间又编写了这本《智能计算系统实验教程》。这本书结合智能计算系统的软硬件技术栈设计了基于通用 CPU 平台和深度学习处理器平台的分阶段实验和综合实验。其中，分阶段实验以风格迁移作为驱动范例，包括算法实验（第 2～3 章）、编程框架实验（第 4 章）、智能编程语言实验（第 5 章）、深度学习处理器运算器设计实验（第6 章）。通过完成分阶段实验，学生可以开发出一个可完成图像风格迁移任务的智能计算系统。综合实验（第 7 章）包括目标检测、文本检测、自然语言处理等不同应用领域的实验，可以帮助学生巩固对软硬件技术栈相关知识的系统理解，让学生了解不同应用领域对智能计算系统的需求。对上述每个实验，我们都明确介绍了实验目的及相关背景知识、实验环境、实验步骤、评估标准和进阶思考。特别是，本书为每个抽象出了多个知识点（如第2 章的知识点包括全连接神经网络的正向传播、随机梯度下降法、反向传播、设计优化方法等），并以这些知识点构建了一棵智能计算系统知识树。学生每完成一个实验，便可“点树的一部分。通过遍历知识树的过程，学生可以更好地掌握各个知识点之间的有机联系，获得对整个技术栈的系统性理解。
实验设计得再完备，如果学生没有高涨的学习积极性，也很难取得好的学习效果。为此，我们为这本书设计了一款配套的游戏，利用游戏中的“稠密奖励”“即时奖励”和“体系性奖励”等机制来提升学生的学习热情。学生可以通过完成智能计算系统的各个实验，不断获取游戏中的奖励。将游戏通关后，便自然而然地完成了整个智能计算系统实验课程的学习。所以说，这本书不仅是一本实验教程，也是我们对教学的一种新尝试。这种创新的教学机制如果能够有效地提升学生的学习热情，不仅有利于培养具有系统思维的人工智能人才，还可能对很多其他工科专业课程的教学起到借鉴作用。
这本实验教程凝结了智能计算系统课程团队很多同志的心血。陈云霁设计了游戏化实验和教学的总体思路。李玲和陈云霁确定了本书的内容组织和各章节的大纲。陈云霁负责完成了本书的前言和后记，李玲和陈云霁负责完成了第 1章，张蕊和谭梓豪负责完成了第2、3 章，李威和张昊翀负责完成了第 4章，郭崎、张昊翀、程新超和张屹负责完成了第 5、7 章，李震负责完成了第 6章。李玲负责全书的统稿与审校。承书尧、吴杨洋、梁雪刚、梁旭强、姚铁生等同志参与了实验的开发。张振兴、付强等同志负责本书多幅图的美化。郭崎、杨君、董守杨、张振兴、樊哲、文渊博、郝一帆、李崇文、彭少辉、刘畅、王昱昊、张朝、钟岩青、孔维浩、王咸焯、曾雨浩、吴逍雨等同志参与了本书的校对。谭梓豪、苑民钊、赵长海、李超、王明键等同志负责自动评测系统的开发与搭建。杜文博、李翘楚、王義鹏、杜金乐、张志杰、刘靖、王超等同志负责游戏系统的开发。于淼和胡晓洁负责自动评测系统与游戏的策划及统筹、实验教程出版及实验教学的协调。在此向这些同志表示衷心的感谢。同时，我们也特别感谢 2019年课程开设至今所有参与过实验的老师们和同学们，尤其是中国科学院大学计算机学院 2018～2020级和北京大学软件与微电子学院 2019级、2020级选修“智能计算系统”课程的 600 多名学生，他们对实验做了测试并提出了很多宝贵意见。由于我们学识水平有限，书中一定还有错漏之处，恳请读者批评指正。如有任何意见和建议，欢迎发邮件至 aics@ict.ac.cn。
本书的写作受到了国家重点研发计划、国家自然科学基金、“新一代人工智能”重大项目、中国科学院先导专项、中国科学院前沿科学重点项目、中国科学院标准化研究项目、北京市自然科学基金、北京智源人工智能研究院和腾讯科学探索奖的支持。寒武纪公司为本书的部分章节提供了资料及技术支持。此外，机械工业出版社华章分社的温莉芳、游静等同志给予了我们大量的帮助。在此一并表示诚挚的谢意。

中国科学院计算技术研究所
陈云霁
2021 年 7 月 1 日于北京中关村

人工智能/智能系统

智能计算系统对于人工智能的前沿研究和产业发展都至关重要，业界迫切需要数以万计的智能计算系统人才。我们于2019年在中国科学院大学开设了国内第一门“智能计算系统”课程，并于2020年出版了《智能计算系统》教材。该教材也是国际上第一本系统介绍当代智能计算系统软硬件技术栈原理的教材。目前，“智能计算系统”课程和《智能计算系统》教材已经推广至国内70余所高校。
纸上得来终觉浅，绝知此事要躬行。本书作为《智能计算系统》的配套实验教程，旨在让读者能够对智能计算系统知识融会贯通，进入智能计算系统全栈工程师的行列。
本书结合智能计算系统的软硬件技术栈设计了基于通用CPU平台和深度学习处理器平台的分阶段实验和综合实验，并采用了一套自动智能评分系统对实验结果进行即时批改。每个实验抽象出多个知识点，这些知识点构建了一棵智能计算系统知识树。通过遍历知识树的过程，学生可以更好地掌握各个知识点之间的有机联系，获得对整个技术栈的体系性理解。
为了提高学生的学习积极性，我们为本书设计了一款配套的游戏——《太空开发者》，利用游戏中的“稠密奖励”“即时奖励”和“体系性奖励”等机制来提升学生的学习热情。学生可以通过完成智能计算系统的各个实验，不断获取游戏中的奖励。将游戏通关后，便自然而然地完成了整个智能计算系统实验课程的学习。
本书不仅是一本实验教程，也是我们对教学的一种新尝试。这种创新的教学机制如果能够有效地提升学生的学习热情，不仅有利于培养具有系统思维的人工智能人才，还可能对很多其他工科专业课程的教学起到借鉴作用。

丛书序言
前言
第1章 绪论 1
1.1 智能计算系统简介 2
1.2 实验设计 4
1.3 实验平台 8
1.3.1 硬件平台 8
1.3.2 软件环境 9
1.4 游戏实验系统 10
第2章 神经网络设计实验 12
2.1 基于三层神经网络实现手写数字分类 12
2.1.1 实验目的 12
2.1.2 背景介绍 13
2.1.3 实验环境 17
2.1.4 实验内容 18
2.1.5 实验步骤 19
2.1.6 实验评估 29
2.1.7 实验思考 29
2.2 基于DLP平台实现手写数字分类 29
2.2.1 实验目的 29
2.2.2 背景介绍 30
2.2.3 实验环境 34
2.2.4 实验内容 34
2.2.5 实验步骤 35
2.2.6 实验评估 40
2.2.7 实验思考 40
第3章 深度学习应用实验 41
3.1 基于VGG19实现图像分类 41
3.1.1 实验目的 41
3.1.2 背景介绍 42
3.1.3 实验环境 45
3.1.4 实验内容 46
3.1.5 实验步骤 46
3.1.6 实验评估 53
3.1.7 实验思考 54
3.2 基于DLP平台实现图像分类 54
3.2.1 实验目的 54
3.2.2 实验环境 55
3.2.3 实验内容 55
3.2.4 实验步骤 55
3.2.5 实验评估 60
3.2.6 实验思考 60
3.3 非实时图像风格迁移 61
3.3.1 实验目的 61
3.3.2 背景介绍 61
3.3.3 实验环境 64
3.3.4 实验内容 64
3.3.5 实验步骤 65
3.3.6 实验评估 74
3.3.7 实验思考 76
3.3.8 延伸拓展 77
第4章 编程框架实验 79
4.1 基于TensorFlow实现图像分类 79
4.1.1 实验目的 79
4.1.2 背景介绍 80
4.1.3 实验环境 84
4.1.4 实验内容 85
4.1.5 实验步骤 85
4.1.6 实验评估 90
4.1.7 实验思考 91
4.2 基于TensorFlow实现实时风格迁移推断 91
4.2.1 实验目的 91
4.2.2 背景介绍 91
4.2.3 实验环境 96
4.2.4 实验内容 96
4.2.5 实验步骤 96
4.2.6 实验评估 102
4.2.7 实验思考 102
4.3 基于TensorFlow实现实时风格迁移训练 102
4.3.1 实验目的 102
4.3.2 背景介绍 102
4.3.3 实验环境 104
4.3.4 实验内容 105
4.3.5 实验步骤 105
4.3.6 实验评估 116
4.3.7 实验思考 116
4.4 自定义TensorFlow CPU算子 116
4.4.1 实验目的 116
4.4.2 背景介绍 117
4.4.3 实验环境 118
4.4.4 实验内容 118
4.4.5 实验步骤 119
4.4.6 实验评估 131
4.4.7 实验思考 131
第5章 智能编程语言实验 132
5.1 智能编程语言算子开发与集成实验（BCL开发实验） 132
5.1.1 实验目的 132
5.1.2 背景介绍 132
5.1.3 实验环境 138
5.1.4 实验内容 138
5.1.5 实验步骤 139
5.1.6 实验评估 156
5.1.7 实验思考 157
5.2 智能编程语言性能优化实验 157
5.2.1 实验目的 157
5.2.2 背景介绍 157
5.2.3 实验环境 159
5.2.4 实验内容 159
5.2.5 实验步骤 160
5.2.6 实验评估 173
5.2.7 实验思考 173
5.3 智能编程语言算子开发实验（BPL开发实验） 173
5.3.1 实验目的 173
5.3.2 背景介绍 174
5.3.3 实验环境 178
5.3.4 实验内容 179
5.3.5 实验步骤 180
5.3.6 实验评估 182
5.3.7 实验思考 182
*第6章 深度学习处理器运算器设计实验 183
6.1 实验目的 183
6.2 背景介绍 184
6.2.1 卷积层算法特征 184
6.2.2 面向卷积运算的DLP架构 185
6.2.3 DLP上矩阵及卷积处理过程 186
6.3 实验环境 189
6.3.1 工具安装 190
6.3.2 代码文件组织 190
6.4 实验内容 191
6.5 实验步骤 192
6.5.1 串行内积运算器 192
6.5.2 并行内积运算器 194
6.5.3 矩阵运算子单元 198
6.5.4 编译调试 201
6.6 实验评估 204
6.7 实验思考 204
第7章 综合实验 205
7.1 基于YOLOv3实现目标检测 205
7.1.1 实验目的 205
7.1.2 背景介绍 206
7.1.3 实验环境 209
7.1.4 实验内容 210
7.1.5 实验步骤 211
7.1.6 实验评估 238
7.1.7 实验思考 238
7.2 基于EAST实现文本检测 239
7.2.1 实验目的 239
7.2.2 背景介绍 239
7.2.3 实验环境 242
7.2.4 实验内容 242
7.2.5 实验步骤 243
7.2.6 实验评估 260
7.2.7 实验思考 261
7.3 基于BERT实现自然语言处理 261
7.3.1 实验目的 261
7.3.2 背景介绍 261
7.3.3 实验环境 267
7.3.4 实验内容 267
7.3.5 实验步骤 269
7.3.6 实验评估 302
7.3.7 实验思考 303
附录A DLP软件环境介绍 304
参考文献 315
后记 318