本书将高效机器学习的理论阐述、设计原则以及实际应用有机结合，理论联系实践，适合算法工程师、高校工科专业的学生、IT专业人员以及机器学习爱好者参考使用，为他们设计和创建新的和更高效的机器学习系统提供知识和实践指导。
面对海量的复杂数据，如何快速挖掘出用户需要的信息？如何将从图像或文本中提取的非结构化数据转换为结构化数据？又如何根据结构化数据建立模型？要想回答这些问题，高效的机器学习解决方案必不可少。
本书由Intel首席平台架构师参与撰写，探讨了机器学习领域的重要主题，包括知识发现、分类、遗传算法、神经网络、内核方法、生物启发技术和深度学习。全书内容精炼，概念简洁，算法细致，应用案例均面向实战。阅读本书后，读者将明晰机器学习技术能够解决的问题，学会针对实际需求选择和优化算法，进而设计并实现新的高效机器学习系统。
作者简介
玛丽特·阿瓦德（Mariette Awad）
贝鲁特美国大学电气与计算机工程系副教授。她曾是麻省理工学院以及Intel移动和通信集团的客座教授，还曾在IBM公司的系统和技术团队担任无线产品工程师。
拉胡尔·肯纳（Rahul Khanna）
Intel公司首席平台架构师，专注于节能算法的开发，因在平台技术改进领域的突出贡献而3次获得Intel成就奖，拥有33项发明专利。
译者简介
李川
博士，副教授，四川大学数据库与知识工程研究所所长，中国计算机学会数据库专委会委员，中国通信学会云计算专委会委员，SIGMOD China委员，SIGCSE China委员，YOCSEF成都AC委员兼学术秘书。担任《IEEE知识与数据工程会刊》等国内外10余部期刊的审稿专家，经典教材《数据挖掘：实用机器学习工具与技术》的译者。
计算机/人工智能/机器学习
面对海量的复杂数据，如何快速挖掘出用户需要的信息？如何将从图像或文本中提取的非结构化数据转换为结构化数据？又如何根据结构化数据建立模型？要想回答这些问题，高效的机器学习解决方案必不可少。
本书由Intel首席平台架构师参与撰写，探讨了机器学习领域的重要主题，包括知识发现、分类、遗传算法、神经网络、内核方法、生物启发技术和深度学习。全书内容精炼，概念简洁，算法细致，应用案例均面向实战。阅读本书后，读者将明晰机器学习技术能够解决的问题，学会针对实际需求选择和优化算法，进而设计并实现新的高效机器学习系统。
庄子有言，“吾生也有涯，而知也无涯”，极言知识海洋浩渺无边。而在Internet获得巨大成功的今天，这种说法更易引起人们的共鸣。通过Internet，人们可在不同时间与地域中轻而易举地获取海量信息。然而，信息的价值不仅在于占有，更在于使用。能否大量地获取信息是一回事，能否有效、方便地使用信息是另一回事。如何从海量的信息中发掘对用户有意义的知识？如何把图像与文本中提取到的非结构化或半结构化数据变换为结构化数据？如何根据结构化数据建立模型？这些问题都可由高效的机器学习来解决。
自1989年国际《人工智能》杂志出版Carbonell编辑的《机器学习》专辑之后，20余年过去了，机器学习的研究取得了重要的进展。随着大数据时代的到来，大数据逐渐成为学术界和产业界的热点，已在很多技术和行业中广泛应用：从大规模数据库到商业智能和数据挖掘应用;从搜索引擎到推荐系统；再到最新的语音识别、翻译等。为了从真实、凌乱、无模式和复杂的大数据中挖掘出人类感兴趣的知识，我们迫切需要更深刻的机器学习理论来指导实践。
本书共11章，深入探讨了机器学习的主要课题，包括知识发现、分类、遗传算法、神经网络、内核方法和仿生技术。读者可从中了解机器学习技术可以解决的相关问题和相应解决方案的实现，以及新系统的设计方法。本书讲解由浅入深，细致深刻，旨在指导系统设计人员设计和创建全新且高效的机器学习系统，也可作为计算机相关专业学生和计算机爱好者的参考读物。
本书作者之一Rahul Khanna任职于Intel公司，是闻名遐迩的平台架构师。在过去的20年里，他一直致力于服务器系统软件技术，包括平台自动化、功率/热力优化技术、可靠性和预测方法。
本书的翻译工作是在极其紧张的条件下，经过所有团队成员的艰辛拼搏而最终杀青的，其中凝聚着所有参与者的真诚与责任。本书的翻译工作由李川副教授统一协调，参与的译者还有冯冰清、刘光明、刘攀登、潘科学、张若愚、李晓娟、李茜锦、蒋志恒、缪杨帆、胡代艳等。大家在节假日、寒夜里加班工作，对译文字斟句酌，最终有了本书中译本的诞生。林旺群、郭际香、李征老师协助进行了本书的最终统稿。机械工业出版社华章分社的曲熠老师、朱秀英老师在本书的翻译过程中给予了大力的支持和关心理解，没有这些幕后的奉献，也不可能有本书的面世。
尽管译者心正意诚，然则受限于自身水平，本书难免存在问题，还期望各位读者给予批评、指正，各位的反馈将使本书更趋完善。最后，真诚期望本书对大家有益，这是对我们翻译工作的最大认可！
译者
2017年3月
于四川大学家中
译者序
作者简介
技术评审简介
致谢
第1章 机器学习1
1.1 关键术语2
1.2 机器学习的步骤4
1.3 机器学习算法6
1.4 流行的机器学习算法9
1.4.1 C4.59
1.4.2 k均值9
1.4.3 支持向量机10
1.4.4 Apriori算法10
1.4.5 估计最大化11
1.4.6 PageRank算法11
1.4.7 AdaBoost12
1.4.8 k近邻算法13
1.4.9 朴素贝叶斯14
1.4.10 分类回归树14
1.5 数据挖掘研究中的挑战性问题14
1.5.1 针对高维数据和高速数据流的扩展15
1.5.2 挖掘序列数据和时间序列数据15
1.5.3 从复杂数据中挖掘复杂知识15
1.5.4 分布式数据挖掘与挖掘多代理数据15
1.5.5 数据挖掘过程的相关问题16
1.5.6 安全性、隐私性和数据完整性16
1.5.7 处理非静态、不平衡和代价敏感的数据16
1.6 总结16
参考文献16
第2章 机器学习与知识发现18
2.1 知识发现20
2.1.1 分类20
2.1.2 聚类20
2.1.3 降维21
2.1.4 协同过滤21
2.2 机器学习：分类算法21
2.2.1 逻辑回归21
2.2.2 随机森林22
2.2.3 隐马尔可夫模型23
2.2.4 多层感知机24
2.3 机器学习：聚类算法26
2.3.1 k均值聚类26
2.3.2 模糊k均值(模糊c均值)26
2.3.3 流k均值算法27
2.4 机器学习：降维28
2.4.1 奇异值分解28
2.4.2 主成分分析29
2.4.3 Lanczos算法31
2.5 机器学习：协同过滤32
2.5.1 基于用户的协同过滤32
2.5.2 基于项目的协同过滤32
2.5.3 权值-λ-正规化的交替最小二乘法33
2.6 机器学习：相似矩阵34
2.6.1 Pearson相关系数34
2.6.2 Spearman等级相关系数34
2.6.3 欧氏距离35
2.6.4 Jaccard相似系数35
2.7 总结35
参考文献36
第3章 支持向量机分类37
3.1 从几何角度看待SVM37
3.2 SVM的主要性能38
3.3 硬间隔SVM41
3.4 软间隔SVM43
3.5 核SVM44
3.6 多分类SVM47
3.7 SVM用于非平衡数据集49
3.8 提升SVM计算需求51
3.9 案例研究：SVM用于手写识别53
3.9.1 预处理54
3.9.2 特征提取54
3.9.3 分层的、三级SVM55
3.9.4 实验结果56
3.9.5 复杂度分析57
参考文献59
第4章 支持向量回归63
4.1 SVR概述63
4.2 SVR：概念、数学模型和图形表示64
4.3 核SVR和不同的损失函数:数学模型和图形表示68
4.4 贝叶斯线性回归69
4.5 案例研究：非对称SVR电源预测72
参考文献75
第5章 隐马尔可夫模型76
5.1 离散的马尔可夫过程76
5.1.1 定义178
5.1.2 定义278
5.1.3 定义378
5.2 HMM简介78
5.2.1 HMM的要点80
5.2.2 HMM的三种基本问题80
5.2.3 HMM基本问题的解决81
5.3 连续观测HMM86
5.3.1 多元高斯混合模型88
5.3.2 示例：工作负载相位识别88
5.3.3 监视和观测89
5.3.4 工作负载和相位89
5.3.5 相位探测的混合模型91
参考文献98
第6章 仿生计算：群体智能100
6.1 应用101
6.1.1 演化硬件101
6.1.2 仿生网络103
6.1.3 数据中心优化105
6.2 仿生计算算法106
6.3 群体智能106
6.3.1 蚁群优化算法107
6.3.2 粒子群优化算法109
6.3.3 人工蜂群算法111
6.4 细菌觅食优化算法113
6.5 人工免疫系统114
6.6 数据中心的分布式管理116
6.6.1 工作负载特征116
6.6.2 热度优化117
6.6.3 负载均衡117
6.6.4 算法模型118
参考文献120
第7章 深度神经网络122
7.1 ANN简介122
7.1.1 早期的ANN结构123
7.1.2 经典的ANN124
7.1.3 ANN训练和反向传播算法127
7.2 DBN概述128
7.3 受限玻尔兹曼机130
7.4 DNN训练算法131
7.5 DNN相关研究133
7.5.1 DNN应用134
7.5.2 利用并行实现加快DNN训练135
7.5.3 类似于DBN的深度网络135
参考文献136
第8章 皮质算法141
8.1 皮质算法入门141
8.1.1 皮质算法的结构141
8.1.2 皮质算法的训练143
8.2 权重更新145
8.3 案例研究：改进的皮质算法在阿拉伯语口语数字化中的应用149
8.3.1 基于熵的权重更新规则149
8.3.2 实验验证150
参考文献153
第9章 深度学习156
9.1 层级时序存储概述156
9.2 层级时序存储的演化157
9.2.1 稀疏分布表征160
9.2.2 算法实现160
9.2.3 空间池160
9.2.4 时间池162
9.3 相关工作163
9.4 脉冲神经网络概述164
9.4.1 Hodgkin-Huxley模型165
9.4.2 integrate-and-fire模型165
9.4.3 leaky integrate-and-fire模型165
9.4.4 Izhikevich模型166
9.4.5 Thorpe’s模型166
9.4.6 SNN的信息编码167
9.4.7 SNN的学习168
9.4.8 SNN的变体与扩展169
9.5 总结170
参考文献170
第10章 多目标优化173
10.1 形式定义174
10.1.1 帕累托优化175
10.1.2 支配关系175
10.1.3 性能度量175
10.2 机器学习：进化算法176
10.2.1 遗传算法177
10.2.2 遗传编程178
10.3 多目标优化：一种进化的方法179
10.3.1 加权和方法180
10.3.2 向量评估遗传算法180
10.3.3 多目标遗传算法180
10.3.4 小生境帕累托遗传算法182
10.3.5 非支配排序遗传算法182
10.3.6 强帕累托进化算法183
10.3.7 强帕累托进化算法Ⅱ185
10.3.8 帕累托档案进化策略186
10.3.9 基于帕累托包络的选择算法187
10.3.10 基于帕累托包络的选择算法Ⅱ188
10.3.11 带精英策略的非支配排序遗传算法188
10.4 示例：多目标优化190
10.5 目标函数192
参考文献193
第11章 机器学习实战示例195
11.1 可行的系统建模196
11.2 实例1：计算节点上的工作负载指纹198
11.2.1 相位测定199
11.2.2 指纹202
11.2.3 预测206
11.3 实例2：动态能量分配206
11.3.1 学习过程：特征选取207
11.3.2 学习过程：最优规划208
11.3.3 学习过程：监控209
11.4 模型训练：过程与评价212
11.5 实例3：入侵检测的系统方法214
11.5.1 建模策略215
11.5.2 入侵检测系统架构217
11.6 关于配置文件和系统的思考220
11.7 传感器数据测量221
11.8 总结222
参考文献223
索引224
