该著作以如何使机器具有自适应于环境、类似人脑智能这一挑战性问题为中心,主要介绍了围绕这一问题的数据驱动与生物启发这两个主要研究方向的重要进展。主要内容可分为四个方面:(1)研究背景,介绍了自适应系统的类脑智能与传统计算的区别;(2)数据驱动方法,重点研究如何将海量数据转化为支撑决策过程的知识和信息这一问题,并介绍了渐进学习、非均衡学习及集成学习等方法;(3)生物启发的方法,主要讲述对生物信息处理基本原理的理解及开发具有学习、记忆、优化及预测等智能的计算框架;(4)机器智能的硬件实现。
机器智能研究是关于自适应系统的原理、基础和设计的研究,这种自适应系统能够学习、预测和优化,并通过与不确定的环境交互做出决策,从而完成系统目标。本书有助于对自适应智能系统的基本理解,促进读者向模拟某些类脑智能水平的长期目标前进,同时也使如今许多复杂系统的智能水平更接近现实。
本书分为以下4个主要部分
第一部分介绍了用于机器智能研究的自适应系统,给出了研究的意义以及传统计算机与类脑智能的主要区别。
第二部分重点讨论了机器智能研究的数据驱动方法,着重介绍了增量学习、不平衡学习和集成学习。
第三部分着重介绍机器智能研究的生物启发式方法,详细讨论了自适应动态规划、联想学习和序列学习。
第四部分简要介绍机器智能关键硬件的设计,如功耗、设计密度、内存和速度,目的是实现大规模、复杂的综合智能硬件系统。
不同的应用问题(如模式识别、数据分类、自适应控制、图像恢复)显示了该系统的学习、预测和优化能力。本书提供的原理、体系结构、算法和案例研究,不但为机器智能研究提供了新的观点,而且为广泛的实际应用提供了新的技术和解决方案。书中讨论的所有问题都属于相关领域内具有重大挑战性的热门研究主题,这使得本书成为研究生激励自己向博士研究项目或大师级研究水平迈进的宝贵资源。本书也适用于计算智能/机器学习领域的学术研究人员和专业人员、对自适系统应感兴趣的工业研究人员和研发工程师,以及科学或工程专业的本科生参考。
作者简介
何海波(Haibo He) 美国罗德岛大学的讲席教授(Robert Haas Endowed Professor)、 智能计算与自适应系统实验室主任,主要从事智能计算、控制与优化、机器学习、大数据、网络安全、大规模复杂系统等方向的研究。
何教授曾在权威学术期刊和会议上发表论文200多篇,这些论文在专业领域产生了深远的影响。截止2016年4月,何博士的论文总引用次数达4100+,h-index 是27。2006年以来,他作为项目负责人承担科研项目经费超过600万美元,资助方包括美国国家自然科学基金委、美国国家航空航天局、美国海洋能源管理局,以及工业界。
何教授还担任多个国际会议的总主席、技术委员会主席等,也曾担任IEEE智能计算协会新兴技术委员会主席、IEEE智能计算协会神经网络技术委员会副主席、 IEEE智能计算智能电网副主席等。目前担任期刊《IEEE 神经网络学习系统汇刊》的主编。
目前理解类脑智能和研制有潜力再现自然智能的自适应系统仍是科学和工程领域尚未解决的最大挑战之一。随着人脑研究和现代技术不断取得新进展,科学家和工程师希望找到研制高度鲁棒、自适应、易扩展且可容错的通用类脑智能系统的正确途径。然而,要实现这一目标,还有很长的路要走。其中,最大的挑战是,如何理解智能的基本原理,开发有潜力捕获智能集成的复杂系统,最终使智力更接近真正智能。
本书的目的是促进理解和发展机器智能的自适应系统,并给出能够自适应地学习信息且随着时间积累知识、调节行为来实现目标的计算模型与体系架构。机器智能研究利用了许多学科的理论和概念,包括神经科学、人工智能、认知科学、计算理论、统计学、计算机科学、工程设计等。由于机器智能所固有的跨学科性质,所以这本书给出的大部分研究结果受不同领域的最新研究进展的启发。我希望本书的研究结果能够为理解机器智能的本质问题提供有用且重要的见解,并提供应用范围广泛的新技术和解决方案。
最近的研究结果证明,相比于传统的人工智能,类脑智能更加与众不同。比如,虽然如今的计算机可以解决非常复杂的数学问题,预测大规模的天气变化,甚至赢得世界象棋大赛,但是它们使用了与生物大脑有机体完全不同的信息处理方式。为此,这本书重点讨论机器智能的计算基础和方法论,目标是使自适应智能系统具备“计算思维”。所以,本书给出的研究结果可以自然地分为两类:数据驱动方法和生物启发式方法。
数据驱动方法的目标是理解如何设计自适应系统,使它能从大量的原始数据中自主学习信息和知识表达,以支持不确定和非结构化的环境中的决策过程;生物启发式方法的目标是理解在分布式分层神经网络内部信息处理的原则、关联、优化,以及预测。所有这些将来都会被用于实现通用类脑机器智能的基本功能和特性。在本书的最后一章,我对机器智能研究的硬件设计给出,如专用超大规模集成(VLSI)系统,以及可重构的现场可编程门阵列(FPGA)技术,这提供了如何用大规模、并行和可伸缩的硬件平台构建复杂且综合的智能系统的有用的建议。最后一章还简要地讨论了新兴技术(如忆阻器),因为这些技术可能为我们提供重要的新功能以模拟复杂的人类大脑神经结构。此外,为了突出机器智能研究的广泛应用,每章末尾都配有一个案例研究,以说明本书所提供的方法能有效应用于不同领域。这些例子为应用本书提到的方法提供了有用的建议。
本书分为4个主要部分,组织结构如下:
1第一部分(第1章)简要介绍机器智能自适应系统,给出了研究意义以及传统计算机与类脑智能的主要区别,简要说明了本书的组织结构,并介绍本书的使用方法。
2第二部分(第2~4章)介绍数据驱动的机器智能研究方法。重点是开发自适应学习方法,将大量的原始数据转换成知识和信息表达,从而支持不具确定性的决策过程。主要介绍增量学习、不平衡学习和集成学习。
3第三部分(第5~7章)重点讨论生物启发式机器智能研究。其目标是理解神经信息处理的基本原则,并开发学习、记忆、优化和预测架构的计算来模仿特定水平的智能。主要介绍自适应动态规划(ADP)、联想学习和序列学习。
4第四部分(第8章)简要讨论机器智能的硬件设计。其目标是提供设计硬件系统时要重点考虑的一些因素,例如:功耗、设计密度、内存需求和速度需求,目的是实现大规模、复杂的综合智能系统硬件。
本书面向机器智能领域学术界和工业界的研究人员,书中的学习原理、体系结构、算法和实例研究,不仅有望为机器智能研究领域带来新见解,而且提供了面向广泛应用的机器智能技术和解决方案。此外,书中讨论的所有问题都属于相关领域内具有重大挑战性的热门研究主题,这使得本书成为研究生激励自己向博士研究项目或大师级研究水平迈进的宝贵资源。最后,由于机器智能研究在不同的学科中不断地引起越来越多的关注,因此我也希望这本书能够提供有趣的观点和建议,以激发大学生和年轻研究者对这个激动人心且有价值的领域中的科学和技术问题产生浓厚的兴趣,他们的参与对这个健康且有前途的研究领域的长期发展至关重要。
电子与电气工程
机器智能研究是关于自适应系统的原理、基础和设计的研究,这种自适应系统能够学习、预测和优化,并通过与不确定的环境交互做出决策,从而完成系统目标。本书有助于对自适应智能系统的基本理解,促进读者面向模拟某些类脑智能水平的长期目标前进,同时也使如今许多复杂系统的智能水平更接近现实。
本书分为以下4个主要部分:
● 第一部分介绍了用于机器智能研究的自适应系统,给出了研究的意义以及传统计算机与类脑智能的主要区别。
● 第二部分重点讨论了机器智能研究的数据驱动方法,着重介绍了增量学习、不平衡学习和集成学习。
● 第三部分着重于机器智能研究的生物启发式方法,详细讨论了自适应动态规划、联想学习和序列学习。
● 第四部分简要介绍机器智能关键硬件设计的建议,如功耗、设计密度、内存和速度要求,目的是实现如此复杂且综合的智能硬件系统。
不同的应用问题(如模式识别、数据分类、自适应控制、图像恢复)显示了该系统的学习、预测和优化能力。本书提供的原理、体系结构、算法和案例研究,不但为机器智能研究提供了新的观点,而且为广泛的实际应用提供了新的技术和解决方案。书中讨论的所有问题都是该领域中活跃的研究主题,这成为研究生激励自己向大师级或者博士目标前进的宝贵资源。本书也适用于计算智能/机器学习领域的学术研究人员和专业人员、对自适系统应感兴趣的工业研究人员和研发工程师,以及科学或工程专业的本科生。
薛建儒 王晓峰 译:暂无简介
由笔者组织本书的翻译纯属偶然。2014年的某日下午,机械工业出版社华章分社王颖女士专程来实验室讨论智能系统学科发展,后又致电委托评审这本计划引进的学术专著,再后又委托组织翻译。盛情难却,加之的确有义务推介人工智能研究领域的最新研究成果,于是在繁重的科研任务间隙,与西安理工大学王晓峰教授合作,历时半年完成了翻译工作。
付梓在即,回顾过去,发现这段时间正值人工智能50多年历史上发展最为迅速、令人激动的研究成果不断涌现的两年,互联网催生的海量数据与大幅度提升的计算及存储能力使得以传统神经网络为基础的深度学习,以网络搜索技术为引擎的群体智能,高度集成感知、交互与运动控制的无人系统等研究取得了令人瞩目的重要进展,彻底颠覆了过去人们对人工智能的观感和认识。
此外,人工智能在相继出现的智慧地球、感知中国、云计算、大数据、智能机器人等热点应用的驱动下,“以人为中心”“人在环路的智能计算”“把机器智能作为人类智能的有效扩展”“类脑计算”等观点成为人工智能领域的普遍共识,人工智能的研究范围因而不断拓宽,已涵盖了模式识别、智能信息处理、自然语言理解、知识工程与认知科学等多个重要分支,并在不断更新与扩展。人工智能现已成为专门研究与人的感知、思维、决策、问题求解和学习等相关的智能活动的自动化方法、智能信息处理技术、智能机器系统的新兴前沿学科。
毋庸置疑,当前和将来的人工智能已经从人如何适应机器发展到机器与人交互、理解人并更好地服务于人的阶段,尤其是人工智能与生物神经科学、人类心理学和脑科学等新兴学科的深度交叉,使得机器智能与人类智能的界限日益模糊。然而,正如郑南宁院士在“人工智能发展的下一步是什么”的学术报告中指出:实现人类水平的人工智能需要应对诸多巨大挑战,例如,如何让机器在没有人类教师的帮助下学习?如何让机器像人类一样感知和理解世界?如何让机器具有自我意识、情感以及反思自身处境与行为的能力?
本书围绕机器智能如何像生物智能一样自适应于环境这一科学问题,从数据驱动与生物启发两个层面出发,提出了在理解生物脑组织中神经信息处理的基本原理和机制的基础上,实现学习、记忆、预测、优化的通用机器智能方法,是人工智能基础研究领域的一本优秀学术专著。作者何海波教授是人工智能领域内的一位杰出的青年学者,目前是美国罗德岛大学的讲席教授(Robert Haas Endowed Professor)、 智能计算与自适应系统实验室主任,主要从事智能计算、控制与优化、机器学习、大数据、网络安全、大规模复杂系统等方向的研究。本书是作者及其团队近十年的研究积累,所述成果已产生深远影响,相信对我国从事人工智能研究的科技工作者大有裨益。
薛建儒
于西安交通大学
出版者的话
译者序
前言
致谢
第1章绪论
11机器智能研究
12两个层面:数据驱动方法和生物启发式方法
13如何阅读本书
131机器智能的数据驱动方法
132机器智能的生物启发式方法
14总结和延伸阅读
参考文献
第2章增量学习
21引言
22问题的提出
23自适应增量学习框架
24映射函数设计
241基于欧氏距离的映射函数
242基于回归学习模型的映射函数
243基于在线评估系统的映射函数
25实例研究
251视频流的增量学习
252垃圾邮件分类的增量学习
26总结
参考文献
第3章不平衡学习
31引言
32不平衡学习的本质
33不平衡数据学习方法
331不平衡数据学习的抽样法
332不平衡数据学习的代价敏感方法
333基于核的不平衡数据学习方法
334不平衡数据学习的主动学习方法
335不平衡数据学习的其他方法
34不平衡数据学习的评价指标
341单一评价指标
342受试者工作特性(ROC)曲线
343查准率查全率(PR)曲线
344代价曲线
345多类不平衡数据学习评价指标
35机遇和挑战
36实例研究
361非线性规范化
362数据集分布
363仿真结果和讨论
37总结
参考文献
第4章集成学习
41引言
42假设多样性
421Q统计量
422相关系数
423不一致度量
424双错度量
425熵度量
426KohaviWolpert方差
427测试者间的一致性
428困难程度
429广义多样性
43多分类器的研究进展
431自举聚集
432自适应增强
433子空间方法
434层叠泛化
435专家混合体
44多分类器集成
45实例研究
451数据集和实验配置
452仿真结果
453间隔分析
46总结
参考文献
第5章机器智能的自适应动态规划
51引言
52基本目标:优化和预测
53机器智能的ADP
531ADP设计中的分层结构
532ADP设计中的学习和自适应
533学习策略:序贯学习和协同学习
54实例研究
55总结
参考文献
第6章联想学习
61引言
62联想学习机制
621单个处理单元的构造
622函数值的自主确定
623联想学习的信号强度
624联想学习原则
63分层神经网络中的联想学习
631网络结构
632网络操作
64实例研究
641异联想应用
642自联想应用
65总结
参考文献
第7章序列学习
71引言
72序列学习的基础知识
73分层神经结构的序列学习
740层:改进的Hebbian学习架构
751~N层:序列存储、预测和检索
751序列存储
752序列预测
753序列检索
76内存需求
77多序列的学习和预测
78案例研究
79总结
参考文献
第8章机器智能的硬件设计
最终建议
参考文献