本书内容主要包括机器学习的基本知识、基本学习方法、集成学习方法、深度学习方法和深度强化学习方法等内容，将机器学习的经典内容与深度学习等前沿内容有机地结合在一起，形成一套相对完整的知识体系，并在每个章节穿插相应的应用实例，使得广大读者不但能够较好地掌握机器学习基本理论，而且能够比较系统地掌握其应用技术，为今后的工作和进一步学习打下扎实的理论与应用基础。

无

当前的人工智能系统主要使用机器学习技术解析外部环境数据，从数据中获取知识和模型参数，从而获得可用于决策或预测的数学模型。机器学习为人工智能系统提供了基础性的核心算法支撑，要想学好人工智能，首先必须牢固掌握机器学习的基础理论与应用技术。机器学习通过计算手段，从经验数据等先验信息中获得一个具有较好泛化性能的数学模型，并使用该模型完成预测、分类和聚类等任务，使得机器能够像人类一样具有从外部环境中自动获取知识的能力。因此，机器学习的研究对象主要是从经验数据等先验信息中产生或构造模型的训练学习算法，或者说机器学习是一门关于训练学习算法设计理论与应用技术的学问。
我们知道，算法设计是一种思维的艺术，需要一定的抽象思维能力和数学知识。机器学习算法更是如此，其中不仅涉及微积分、数理逻辑、数理统计、矩阵计算、图论等数学知识，还涉及众多最优化理论与方法，给广大初学者掌握机器学习知识带来一定的困难。为此，本书作为一部机器学习简明教程，比较系统地介绍了机器学习的入门性基础理论与应用技术，以满足广大初学者掌握机器学习基本知识的需要。
本书主要包括机器学习的基础知识、基本学习方法、集成学习方法、深度学习方法和深度强化学习等内容，将机器学习的经典内容与深度学习等前沿内容有机地结合在一起，形成一套相对完整的知识体系，并在每个章节穿插相应的应用实例，使得广大读者不但能够较好地掌握机器学习基本理论，而且能够比较系统地掌握其应用技术，为今后的工作和进一步学习打下较好的理论与应用基础。全书共五章：
第1章是基础知识，介绍机器学习最基本的概念和知识框架。首先介绍机器学习的基本概念，包括人工智能与机器学习的关系、机器学习的基本术语及误差分析；然后以机器学习的发展历程为主线简要介绍连接学习、符号学习和统计学习的基本思想，它们分别代表机器学习的三种不同的基本类型；接下来讨论机器学习的三个基本问题，即特征提取、规则构建和性能评估；最后简要介绍机器学习模型的优化与正则化策略。
第2章主要介绍监督学习、无监督学习、强化学习这三种机器学习的基本理论与方法，它们分别代表目前机器学习的三种基本实现方式。本章内容是进一步探讨机器学习理论和方法必备的基础知识。首先介绍监督学习的基本知识，主要包括线性模型、决策树模型、贝叶斯模型和支持向量机模型等内容；然后介绍无监督学习的基本知识，主要包括聚类分析法、主分量分析法等内容；最后介绍强化学习的基本知识，主要包括强化学习的基本思想、马尔可夫模型、值迭代学习和时序差分学习等内容。
第3章主要介绍集成学习方法，包括Bagging集成学习和Boosting集成学习方法的基本策略、随机森林模型及训练算法、AdaBoost学习算法和GBDT学习算法。集成学习不是一种特定的机器学习类型，而是机器学习中的一种非常重要的基本方法论。无论是监督学习、无监督学习、强化学习等基本学习方法，还是目前特别流行的深度学习方法，都经常使用集成学习策略，故在本章专门介绍集成学习的相关理论和方法。
近年来，以神经网络为基本模型的连接学习在深度学习的名号下得到蓬勃发展，在游戏博弈、视频图像处理和自然语言理解等多个领域取得了巨大成功，并在全社会掀起了机器学习和深度学习的研究热潮。第4章着重介绍神经网络的基本知识以及深度卷积网络、深度循环网络和生成式对抗网络等最常用、最基本的深度网络模型，分析讨论这些网络模型的设计思想、训练策略和应用技术。
深度强化学习将强化学习和深度学习有机地结合在一起，为解决复杂系统的感知决策问题提供了新的思路。目前，深度强化学习已经能够解决一部分在以前看来不可能完成的任务，在游戏博弈、优化控制等领域取得了卓越的应用成果。第5章主要介绍深度强化学习的基本理论和方法，首先介绍深度强化学习的基本概念和基本理论，然后比较系统地介绍基于价值的深度强化学习方法和基于策略的深度强化学习方法，最后介绍深度强化学习的应用技术，包括智能巡航小车和自动对弈游戏的开发技术。
作为入门性教程，本书未纳入半监督学习、多示例学习、流形学习、迁移学习、度量学习、元学习、分布式学习等相对专门的机器学习前沿内容，感兴趣的读者可以查阅相关专著、学术论文或技术报告。事实上，如果牢固掌握了本书所介绍的机器学习基本知识，那么进一步学习和研究这些前沿知识不是一件很难的事情。
本教程内容适合64学时、56学时和48学时的本科“机器学习”及相关课程教学，可根据学时的具体情况适当选择全部或部分内容进行讲授。例如，可在学时比较紧张的情况下略讲第5章的部分或全部内容，也可将第2～5章最后的应用部分作为学生课后阅读内容。
本教程面向的读者对象为智能科学与技术、数据科学与大数据技术、计算机科学与技术、软件工程、信息安全、物联网、电子信息工程、自动化、信息与计算科学等专业的本科生，以及相关专业的技术研发人员。
感谢研究生叶萌、朱正发、汤明空、李文静、俞鹏飞、姚旭晨、陈龙、江迪、郑岩、韩梦雅、邓韬、王静、龚毓秀、李明熹、董博文、麻可可、李懂、刘兵、孙旭、张前进、李婧宇、王维、尹凯健、修辉、雷辉、张法正、张珉、付炳光等提供的帮助，感谢合肥工业大学计算机与信息学院、合肥工业大学人工智能学院、机械工业出版社华章分社的大力支持。
由于时间仓促，书中难免存在不妥之处，敬请读者不吝指正！

编　者
2020年1月

计算机/人工智能/机器学习

本书简要介绍机器学习的入门性基础理论与应用技术，包括监督学习、无监督学习、强化学习、集成学习等机器学习基本理论与方法，在分析讨论神经网络与深度学习基本理论的基础上，系统地介绍深度卷积网络、深度循环网络、生成式对抗网络等典型深度学习模型的基本理论与训练范式，讨论深度强化学习的基本理论与方法。本书在每个章节穿插相应的应用实例，使得读者在比较系统地掌握机器学习理论知识的同时，还能进一步获得机器学习方面的应用技术。本书站在本科生和低年级研究生的思维角度编写，着重突出机器学习的思想内涵和本质，方便广大读者更好地掌握全书主要内容。本书适合作为智能科学与技术、数据科学与大数据技术、计算机科学与技术以及相关专业的本科生或研究生的机器学习入门教材，也可供工程技术人员和自学读者学习参考。
作者简介
汪荣贵　合肥工业大学计算机与信息学院（人工智能学院）教授、博士生导师，中国人工智能学会离散智能计算专委会委员，安徽省人工智能学会理事，主要研究方向为嵌入式多媒体技术、图像理解与机器学习、视频大数据与云计算，承担完成多项国家自然基金项目、安徽省科技攻关及企业委托项目，已在专业核心期刊发表60余篇学术论文，其中多篇被SCI收录，研究成果“多源多模态视频智能处理关键技术及应用”获得2017年度安徽省科技进步二等奖，“多源多模态视频智能处理在平安城市中的应用”获得2017年度合肥市科技进步一等奖，“虚拟卡口”获得2017年度中国电子集团科技进步一等奖。

汪荣贵 编著：汪荣贵 合肥工业大学计算机与信息学院（人工智能学院）教授、博士生导师，中国人工智能学会离散智能计算专委会委员，安徽省人工智能学会理事，主要研究方向为嵌入式多媒体技术、图像理解与机器学习、视频大数据与云计算，承担完成多项国家自然基金项目、安徽省科技攻关及企业委托项目，已在专业核心期刊发表60余篇学术论文，其中多篇被SCI收录，研究成果“多源多模态视频智能处理关键技术及应用”获得2017年度安徽省科技进步二等奖，“多源多模态视频智能处理在平安城市中的应用”获得2017年度合肥市科技进步一等奖，“虚拟卡口”获得2017年度中国电子集团科技进步一等奖。

前言
第1章　机器学习概述 1
1.1　机器学习基本概念 1
1.1.1　人工智能与机器学习 1
1.1.2　机器学习基本术语 5
1.1.3　机器学习误差分析 8
1.2　机器学习发展历程 11
1.2.1　感知机与连接学习 11
1.2.2　符号学习与统计学习 13
1.2.3　连接学习的兴起 17
1.3　机器学习基本问题 19
1.3.1　特征提取 19
1.3.2　规则构建 23
1.3.3　模型评估 27
1.4　模型优化与正则化 31
1.4.1　梯度下降法 31
1.4.2　随机梯度法 34
1.4.3　模型正则化 36
1.5　习题 41
第2章　基本学习方法 43
2.1　监督学习 43
2.1.1　线性模型 43
2.1.2　决策树模型 50
2.1.3　贝叶斯模型 62
2.1.4　支持向量机 68
2.2　无监督学习 72
2.2.1　聚类分析法 72
2.2.2　主分量分析法 76
2.3　强化学习 81
2.3.1　强化学习概述 81
2.3.2　马尔可夫模型 84
2.3.3　值迭代学习 89
2.3.4　时序差分学习 94
2.4　基本学习方法的应用 103
2.4.1　垃圾邮件检测与分类 103
2.4.2　人脸自动识别 106
2.4.3　自动爬山小车 112
2.5　习题 117
第3章　集成学习方法 119
3.1　集成学习概述 119
3.1.1　集成学习基本概念 119
3.1.2　集成学习基本范式 120
3.1.3　集成学习泛化策略 122
3.2　Bagging集成学习 124
3.2.1　Bagging集成策略 124
3.2.2　随机森林模型结构 127
3.2.3　随机森林训练算法 129
3.3　Boosting集成学习 142
3.3.1　Boosting集成策略 143
3.3.2　AdaBoost学习算法 145
3.3.3　GBDT学习算法 146
3.4　集成学习方法的应用 151
3.4.1　房价预测分析 151
3.4.2　人脸自动检测 156
3.5　习题 162
第4章　深度学习方法 163
4.1　神经网络概述 163
4.1.1　神经元与感知机 163
4.1.2　前馈网络训练范式 168
4.1.3　浅层学习与深度学习 176
4.2　深度卷积网络 181
4.2.1　卷积网络概述 181
4.2.2　基本网络模型 190
4.2.3　改进网络模型 199
4.3　深度循环网络 206
4.3.1　动态系统展开 207
4.3.2　网络结构与计算 208
4.3.3　模型训练策略 217
4.4　生成式对抗网络 221
4.4.1　生成器与判别器 222
4.4.2　网络结构与计算 224
4.4.3　模型训练策略 229
4.5　深度学习方法的应用 234
4.5.1　光学字符识别 235
4.5.2　图像目标检测 239
4.5.3　自动文本摘要 245
4.6　习题 249
第5章　深度强化学习 251
5.1　深度强化学习概述 251
5.1.1　基本学习思想 251
5.1.2　基本计算方式 254
5.1.3　蒙特卡洛树搜索 255
5.2　基于价值的深度强化学习 261
5.2.1　深度Q网络 261
5.2.2　深度双Q网络 266
5.2.3　DQN改进模型 270
5.3　基于策略的深度强化学习 273
5.3.1　策略梯度算法 273
5.3.2　Actor-Critic算法 278
5.3.3　DDPG学习算法 284
5.4　深度强化学习的应用 288
5.4.1　智能巡航小车 288
5.4.2　自动对弈游戏 292
5.5　习题 303
参考文献 305