本书基于作者20余年的AR理论和应用的研究,从技术和HCI的角度介绍AR。 本书内容涵盖AR的理论知识和相关案例，主要内容包括显示和跟踪技术、标定与注册技术、视觉一致性、交互、建模、开发、AR软件架构，既有AR发展历史的详细介绍，又有对AR技术脉络的梳理与展示，适合作为高校增强现实相关课程的教材，以及增强现实研究者、技术人员的参考书。
带你了解增强现实的基础理论、核心技术、系统架构以及激动人心的应用和未来
在过去的20年里，信息技术的应用从固定的办公室和桌面计算转移到网络、社交媒体和移动计算。近年来，即使将笔记本电脑归入桌面式电脑的类别，智能手机和平板电脑的销量也远超传统桌面式电脑。
虽然目前主流用户界面还没有完全从20世纪90年代的桌面计算（或者说是1981 Xerox Star）中脱离出来，但是当今年轻一代获取计算机知识的方式已经改变：各种应用和云计算在许多情况下取代了电脑桌面。计算已经从一项在办公室或书房中开展的工作转变为随时随地进行的活动。
初识增强现实
随着用户逐渐远离电脑桌面，将真实世界融入我们的计算体验变得越来越重要。考虑到真实世界既不是平面的，也不是由书写文档组成的，因此必须有一个新的用户界面隐喻。增强现实（Augmented Reality，AR）有潜力成为用于情境计算的主流用户界面隐喻。增强现实具有能将真实世界和与之相关的虚拟信息直接关联的独特性质。整个世界变成了用户界面，这引出了那句熟悉的宣言：
回到真实世界！
虚拟现实（Virtual Reality，VR）的愿景是将我们自身沉浸于人造世界，这推动了游戏设备的发展，带来了令人惊艳的画面效果，随之而来的是各类头戴式显示器和手势跟踪器的出现。但即便如此，像虚拟现实这样通过定义来独占大众注意力的用户界面隐喻，也不一定是日常计算的最佳选择。
相反，我们越来越依赖可以随意使用并能提供容易理解的少量信息的计算界面。我们需要普适计算。这可以通过“宁静”的计算过程实现，这一过程会在后台进行，不需要用户干涉，甚至根本不会引起用户的注意。在需要普适交互时，增强现实脱颖而出，成为合适的用户界面技术。
为何写作本书
多个相互交叉的研究领域聚焦于增强现实的发展，相关的知识体系也在快速完善。自20世纪90年代以来，我们一直以研究者的身份致力于该知识体系的相关工作。本书的主要动力来自我们所任教的格拉茨理工大学和加州大学圣巴巴拉分校关于增强现实的课堂教学。在备课过程中，我们明显感到目前没有一本教材能够覆盖这个快速发展领域的广度和深度。从2001年的SIGGRAPH会议开始，各种学术会议及研讨会的部分演讲稿都为备课提供了参考，我们也参与组织了其中的一些会议。许多基础理论从那时起逐渐构建起来，我们着眼于系统地汇集相关知识，同时注重新兴概念与实践信息。因此，这本书诞生了。
本书主要内容
如书名所示，本书在原理和实践之间力求平衡。我们的目标是让这本书既能服务于科学研究人员，又能服务于对增强现实应用感兴趣的从业者，特别是工程师。因此，本书既可用作教材，又可用作参考读物。为了充分利用本书，读者需要对计算机科学有基本认识，如果能够了解计算机图形学以及计算机视觉领域的相关知识，或者对其感兴趣，会对理解本书有所帮助。考虑到篇幅的限制，我们无法进一步提供必要背景技术的特定细节，而是给出了参考文献。与此同时，本书谨慎地介绍并清楚地解释了超出基础知识的特定增强现实概念，从而使本书自成体系。本书采用下面的篇章顺序来介绍增强现实的技术和基本方法。
第1章为本书奠定基调，介绍增强现实的定义，简略讲述该领域的历史，之后带领读者领略这项强大的真实世界用户界面技术的多种应用实例。小结部分介绍了一系列相关技术和研究领域的全景。
第2章的主题是显示技术，这是增强现实的关键基础技术之一。根据视觉感知的基础理论，讨论了各种适用于增强现实的显示技术，尤其是头戴式显示、手持式显示和投影式显示。我们还讨论了非视觉显示技术，如听觉和触觉设备等。
第3章的主题是跟踪技术，这是增强现实的潜在核心技术之一。首先讨论了理解跟踪（广义的定义是测量系统）的工作原理所需要掌握的特定知识，然后讨论了传统的固定跟踪系统，并将其与移动传感器进行比较。接下来，着重介绍了主流的光学跟踪技术，并在最后简述了传感器融合的原理。
第4章继续上一章中对光学跟踪问题的讨论，详细介绍了用于实时位姿估计的计算机视觉算法，例如根据观测图像确定摄像机的位置与朝向。为了便于讲解并使读者更广泛地了解背景知识，这一章由一系列案例研究组成。每一个案例研究仅介绍自身必需的相关知识，所以读者不需要事先深入了解计算机视觉方面的知识。此外，本书对涉及高等数学的问题做了标记，这些问题在实践中通常依赖OpenCV等软件库来解决，因此可以被视为“黑箱”，不想深入研究的读者可略过这部分内容。
第5章讨论用于增强现实的器件标定和注册方法。在增强现实应用中，第3章所述的用于光学跟踪的数字摄像机标定技术是实现可重复精确操作的必要前提。注册是几何上校准增强现实体验中的真实世界和虚拟世界的过程，从而有利于形成一致混合环境的错觉。
第6章聚焦于使真实和虚拟物体无缝融合的一系列计算机图形技术，包括虚拟和真实物体之间正确的遮挡或阴影关系。我们也解释了消隐现实，即消隐场景中的真实物体，并讨论了物理摄像机的仿真。
第7章关注可视化技术，目的是使信息更容易理解。在增强现实环境中，这意味着几何注册到真实场景物体上的计算机生成信息，必须按照便于用户理解的方式摆放和设计。我们同时探讨了二维增强（如文本标签）和三维增强（如物体内部的合成视图，也称作“重影”）。
第8章讨论与增强现实应用相关的交互技术与交互方式，主题涉及从简单的情境信息浏览到全面的三维交互。我们特别讨论了基于工具、窗口部件和手势的交互，以及增强现实与多种形式的可触摸用户界面之间的联系。我们也探讨了用于增强现实的多模态和基于智能体的界面。
第9章讨论交互式建模问题，也就是通过增强现实创建新的几何内容。内嵌于三维环境中的用户界面，为再创造该环境的数字版本提供了一种有效方法，这种能力对于所有涉及视觉计算的应用都是非常宝贵的。
第10章讨论增强现实的开发方法。增强现实呈现的内容和信息库需要按照当前网络内容的开发方式来设计和创造。可以运用传统工具开发增强现实的内容，或者在增强现实本身中进行。开发需关注应用中超越几何和视觉特性的几个方面，特别是建造应用的语义和行为。开发应该由内容驱动，不需要或者只需要少量的传统编程工作。我们讨论了多种满足这个需求的方法，并且探究了将增强现实开发和新兴的开放网络标准相结合的一些新成果。
第11章讨论漫游，这是增强现实作为用户界面尤为相关的一个领域。陌生环境中的定向问题是移动信息系统应用中的一项重要挑战。我们概述了运用增强现实技术实施的漫游技术，并将它们与数字地图加以比较。
第12章研究协作问题。作为一种媒介，增强现实在个体之间的交流中有强大的应用潜力。这既包含同地协作（通过共享增强现实系统提供的附加提示拓展同地协作），也包含远程协作（在增强现实技术的大力支持下提供了远程呈现的新形式）。
第13章分析增强现实系统的底层架构。增强现实必须将实时系统、多媒体系统以及分布式系统的复杂需求结合起来。通过一种灵活的方式将这些需求结合起来并准确传达给程序员，是一项困难的工作。我们讨论了多种架构模式，包括分布式对象系统、数据流系统和场景图，并展示了一系列案例学习。
第14章回顾增强现实的发展轨迹，从一个在原型应用中体现实用性的研究领域，到潜在的大众消费级应用。我们同时分析了需要克服的障碍和亟待解决的问题，基于本书提供的材料展望了未来发展趋势，并总结了未来的研究内容。
如何使用本书及相关资料
如何使用本书取决于你与增强现实领域之间的关系，以及你的兴趣程度和关注点。我们讨论三种可能的角色。
如果你是一名开发者：专业开发者可以从本书中得到启发，并用于指导增强现实应用的设计、搭建和评测。有此类背景的读者将在讨论显示、跟踪和交互的章节找到关于硬件设备的有用信息。在应用内容的开发方面，视觉一致性、情境可视化和开发章节将会有所帮助，而跟踪、计算机视觉和标定与注册章节将涉及相应的注册技术。在交互及后续章节中介绍了用户界面设计。最后，软件架构章节提供了关于具体实施工作的重要信息。
如果你是一名教师：本书可作为不同类型和层次的大学教材。关于增强现实的研究生课程可将本书作为主教材。关于计算机图形学或视觉计算的课程可使用视觉一致性和可视化章节作为增强现实图形学方面的导论。关于计算机视觉的课程可使用跟踪和标定与注册章节讲授重要的实时计算机视觉技术。人机交互课程可使用交互、建模、开发、漫游及协作章节全面地介绍增强现实的概念。
如果你是一名研究者：对于兴趣点为实验性增强现实应用的开发和评测的研究者来说，本书可作为一本详尽的参考指南。最后一章为本领域的研究者和学生列举了需要解决的一系列重要问题。
本书网站
本书网站如下：
http://www.augmentedrealitybook.org
增强现实领域正在迅速发展。为了使本书成为动态的工作文档，网站上提供了教学资料等附加信息，并且包含与最新增强现实研究和应用相关的信息和链接。这是一项开放工作，欢迎读者为资料收集做出贡献，你的贡献将帮助我们更新网站以及本书的未来版本。
计算机\图形图像
【参见59910】
随着真实世界中计算机生成的信息越来越多，增强现实（AR）可以通过不可思议的方式增强人类的感知能力。这个快速发展的领域要求学习者掌握多学科知识，包括计算机视觉、计算机图形学、人机交互等。本书将这些知识有机融合，严谨且准确地展现了当前颇具影响力的增强现实技术和应用。全书从基础理论、核心技术、系统架构和领域应用的角度深入浅出地介绍增强现实的相关知识，实现了理论与实践的有机融合，适合开发者、高校师生和研究者阅读。
本书内容
显示：涵盖头戴式显示器、手持式显示器和投影式显示器等。
跟踪/感知：包括物理原理、传感器融合以及实时计算机视觉等。
标定/注册：实现可重复、精确且一致的操作。
真实和虚拟物体的无缝融合。
可视化：使信息的呈现更直观、更容易理解。
交互：从简单的情境信息浏览到全面的三维交互。
通过增强现实创建新的几何内容。
AR的表示和数据库的开发。
具有实时、多媒体和分布式元素的AR系统架构。
[奥]迪特尔·施马尔斯蒂格（Dieter Schmalstieg） [美]托比亚斯·霍勒尔（Tobias Höllerer） 著：迪特尔·施马尔斯蒂格（Dieter Schmalstieg） 奥地利格拉茨理工大学教授，计算机图形学和视觉中心主任。他是IEEE高级会员、奥地利科学院会员以及欧洲科学院会员，目前已发表论文300余篇，并担任《IEEE可视化和计算机图形学会刊》等核心期刊或论文集的编辑。2002年获得奥地利科学基金会START Career奖，2012年获得IEEE虚拟现实技术成就奖。
托比亚斯·霍勒尔（Tobias Höllerer） 加州大学圣芭芭拉分校计算机科学系教授，Four Eyes实验室主任。曾获得美国NSF授予的CAREER奖，并于2013年获得ACM杰出科学家称号。他曾担任IEEE VR 2015、ICAT 2013等重要国际会议的程序委员会主席，并多次荣获最佳论文奖。
出版者的话
前言
致谢
第1章 增强现实介绍 1
1.1 定义和范围 1
1.2 增强现实简史 2
1.3 示例 8
1.3.1 工业和建筑业 8
1.3.2 维修和培训 10
1.3.3 医疗 11
1.3.4 个人信息显示 12
1.3.5 导航 13
1.3.6 电视 14
1.3.7 广告和商务 15
1.3.8 游戏 17
1.4 相关领域 17
1.4.1 混合现实连续体 18
1.4.2 虚拟现实 18
1.4.3 普适计算 18
1.5 小结 20
第2章 显示 21
2.1 多模态呈现 21
2.1.1 听觉呈现 21
2.1.2 触力觉呈现 22
2.1.3 嗅觉和味觉呈现 23
2.2 视觉感知 24
2.3 需求与特点 25
2.3.1 增强方法 25
2.3.2 单视和体视 27
2.3.3 调焦 28
2.3.4 遮挡 30
2.3.5 分辨率和刷新率 31
2.3.6 视场 32
2.3.7 视点偏移 33
2.3.8 亮度和对比度 35
2.3.9 扭曲和畸变 36
2.3.10 延迟 36
2.3.11 人因工程学 36
2.3.12 社会接受度 36
2.4 空间显示模型 37
2.5 视觉显示 38
2.5.1 近眼显示器 39
2.5.2 手持式显示器 46
2.5.3 固定式显示器 47
2.5.4 投影式显示器 52
2.6 小结 56
第3章 跟踪 57
3.1 跟踪、标定和注册 57
3.2 坐标系 58
3.2.1 模型变换 59
3.2.2 视图变换 59
3.2.3 投影变换 59
3.2.4 参考帧 59
3.3 跟踪技术的特点 60
3.3.1 物理现象 60
3.3.2 测量原理 60
3.3.3 测量的几何属性 61
3.3.4 传感器布置 61
3.3.5 信号源 61
3.3.6 自由度 62
3.3.7 测量坐标 62
3.3.8 空间传感器布置 62
3.3.9 工作区范围 63
3.3.10 测量误差 63
3.3.11 时间特性 64
3.4 固定跟踪系统 64
3.4.1 机械跟踪 64
3.4.2 电磁跟踪 65
3.4.3 超声波跟踪 66
3.5 移动传感器 66
3.5.1 全球定位系统 67
3.5.2 无线网络 68
3.5.3 磁力仪 68
3.5.4 陀螺仪 69
3.5.5 线性加速度计 69
3.5.6 里程表 70
3.6 光学跟踪 70
3.6.1 基于模型跟踪与无模型跟踪 71
3.6.2 照明 71
3.6.3 标志点与自然特征 73
3.6.4 目标识别 77
3.7 传感器融合 79
3.7.1 互补传感器融合 79
3.7.2 竞争传感器融合 79
3.7.3 协作传感器融合 80
3.8 小结 81
第4章 增强现实中的计算机视觉 82
4.1 标志点跟踪 83
4.1.1 摄像机表示 84
4.1.2 标志点检测 85
4.1.3 单应位姿估计 87
4.1.4 位姿优化 90
4.2 多摄像机红外跟踪 90
4.2.1 斑块检测 91
4.2.2 建立点对应关系 91
4.2.3 双摄像机的三角测量 92
4.2.4 两台以上摄像机的三角测量 93
4.2.5 包含球体标志物的目标匹配 93
4.2.6 绝对朝向 94
4.3 自然特征检测跟踪 94
4.3.1 兴趣点检测 95
4.3.2 创建描述符 98
4.3.3 匹配描述符 99
4.3.4 n点透视位姿 99
4.3.5 鲁棒的位姿估计 100
4.4 增量跟踪 101
4.4.1 主动搜索 102
4.4.2 Kanade-Lucas-Tomasi跟踪 102
4.4.3 零归一化交叉相关 103
4.4.4 分层搜索 104
4.4.5 联合检测与跟踪 105
4.5 同时定位与地图构建 106
4.5.1 本质矩阵的五点算法 107
4.5.2 集束调整 108
4.5.3 并行跟踪与地图构建 108
4.5.4 重定位与闭环 109
4.5.5 稠密地图构建 110
4.6 户外跟踪 112
4.6.1 可扩展的视觉匹配 113
4.6.2 传感器先验信息 114
4.6.3 几何先验信息 115
4.6.4 同时跟踪、地图构建及定位 116
4.7 小结 120
第5章 标定与注册 121
5.1 摄像机标定 121
5.1.1 摄像机内参 121
5.1.2 校正镜头畸变 122
5.2 显示器标定 123
5.2.1 单点主动对准法 125
5.2.2 使用指向装置的头戴式显示器标定 126
5.2.3 手–眼标定 127
5.3 注册 129
5.3.1 几何测量失真 129
5.3.2 误差传播 129
5.3.3 延迟 130
5.3.4 滤波和预测 130
5.4 小结 131
第6章 视觉一致性 132
6.1 注册 132
6.2 遮挡 134
6.2.1 遮挡细化 135
6.2.2 概率遮挡 136
6.2.3 无模型遮挡 136
6.3 光度注册 138
6.3.1 基于图像的光照 139
6.3.2 光探针 140
6.3.3 离线光照采集 142
6.3.4 基于静止图像的光度注册 142
6.3.5 基于镜面反射的光度注册 142
6.3.6 基于漫反射的光度注册 143
6.3.7 基于阴影的光度注册 144
6.3.8 室外光度注册 145
6.3.9 重建精确光源 145
6.4 通用光照 145
6.4.1 差分渲染 146
6.4.2 实时全局光照 147
6.4.3 阴影 148
6.4.4 漫射全局光照 150
6.4.5 镜面全局光照 152
6.5 消隐现实 153
6.5.1 感兴趣区域的确定 153
6.5.2 隐藏区域的观察与建模 154
6.5.3 感兴趣区域的移除 154
6.5.4 基于投影的消隐现实 155
6.6 摄像机仿真 155
6.6.1 镜头畸变 156
6.6.2 模糊 157
6.6.3 噪声 157
6.6.4 渐晕 158
6.6.5 色差 158
6.6.6 拜耳模式伪影 158
6.6.7 色调映射伪影 158
6.7 风格化增强现实 159
6.8 小结 159
第7章 情境可视化 161
7.1 挑战 162
7.1.1 数据过载 162
7.1.2 用户交互 163
7.1.3 注册误差 163
7.1.4 视觉干扰 163
7.1.5 时间一致性 164
7.2 可视化注册 165
7.2.1 本地注册情境可视化 165
7.2.2 全局注册情境可视化 165
7.2.3 注册不确定性 166
7.3 注释和标记 166
7.3.1 标记基础 166
7.3.2 优化技术 167
7.3.3 时间一致性 168
7.3.4 图像导引放置 170
7.3.5 易读性 170
7.4 X射线可视化 171
7.4.1 物体空间幻影 171
7.4.2 图像空间幻影 172
7.4.3 G缓冲器实现 173
7.5 空间操作 174
7.5.1 爆炸图 174
7.5.2 空间扭曲 176
7.6 信息过滤 177
7.6.1 基于知识的过滤 177
7.6.2 空间过滤 177
7.6.3 基于知识的过滤与空间过滤的结合 179
7.7 小结 180
第8章 交互 181
8.1 输出模态 181
8.1.1 增强放置 181
8.1.2 灵巧显示 182
8.1.3 魔镜 184
8.2 输入模态 186
8.2.1 刚体的跟踪和操控 186
8.2.2 人体跟踪 187
8.2.3 手势 188
8.2.4 触控 189
8.2.5 基于物理的界面 190
8.3 有形界面 191
8.3.1 有形表面 191
8.3.2 通用有形物体 191
8.3.3 特定有形物体 192
8.3.4 透明有形物体 194
8.4 真实表面上的虚拟用户界面 195
8.5 增强纸 196
8.6 多视界面 197
8.6.1 多显示焦点+上下文 197
8.6.2 共享空间 197
8.6.3 多位置 198
8.6.4 跨视图交互 200
8.7 触力觉交互 201
8.8 多模态交互 202
8.9 会话代理 203
8.10 小结 205
第9章 建模与注释 206
9.1 指定几何 206
9.1.1 点 206
9.1.2 平面 208
9.1.3 体 208
9.2 指定外观 209
9.3 半自动重建 210
9.4 自由曲面建模 213
9.5 注释 214
9.6 小结 216
第10章 开发 217
10.1 增强现实开发的需求 218
10.1.1 真实世界界面 218
10.1.2 硬件抽象 218
10.1.3 开发流程 219
10.2 开发要素 219
10.2.1 角色 220
10.2.2 故事 220
10.2.3 舞台 220
10.2.4 交互 220
10.2.5 设置 220
10.3 独立开发方法 221
10.3.1 桌面开发 221
10.3.2 表演开发 223
10.4 插件方法 223
10.5 网络技术 224
10.6 小结 225
第11章 漫游 227
11.1 人类漫游基础 227
11.2 探索与发现 228
11.3 路线可视化 228
11.4 视点导航 230
11.4.1 目标对象导引 230
11.4.2 目标视点导引 232
11.5 多视角 233
11.5.1 同步多视角 233
11.5.2 过渡接口 235
11.6 小结 236
第12章 协作 237
12.1 协作系统特性 237
12.2 同地协作 238
12.2.1 个人显示器与视图 240
12.2.2 目光感知 241
12.2.3 共享空间内的敏捷协作 242
12.3 远程协作 243
12.3.1 视频共享 244
12.3.2 包含虚拟物体的视频共享 244
12.3.3 包含几何重建的视频共享 246
12.3.4 指向和手势 247
12.3.5 包含敏捷用户的远程协作 247
12.4 小结 248
第13章 软件架构 250
13.1 增强现实应用程序的要求 250
13.1.1 环境控制和场景动态 250
13.1.2 显示空间 251
13.1.3 虚实一致 251
13.1.4 语义知识 251
13.1.5 物理空间 251
13.2 软件工程要求 252
13.2.1 平台抽象 252
13.2.2 用户界面抽象 252
13.2.3 重用性和扩展性 253
13.2.4 分布式计算 253
13.2.5 解耦仿真 253
13.3 分布式对象系统 253
13.3.1 对象管理 254
13.3.2 案例学习：“绵羊” 255
13.4 数据流 256
13.4.1 数据流图 257
13.4.2 多模态交互 257
13.4.3 线程和调度 258
13.4.4 案例学习：可穿戴的增强现实装置 259
13.5 场景图 261
13.5.1 场景图的基本原理 261
13.5.2 依赖图 262
13.5.3 场景图集成 262
13.5.4 分布式共享场景图 264
13.6 开发者支持 265
13.6.1 参数配置 265
13.6.2 脚本声明 265
13.6.3 案例学习：增强现实导游 267
13.6.4 程序脚本 267
13.6.5 混合语言编程 268
13.6.6 运行时重配置 268
13.6.7 选择一种增强现实平台 269
13.7 小结 269
第14章 未来 271
14.1 商业案例驱动力 271
14.1.1 专业用户 271
14.1.2 普通消费者 272
14.2 增强现实开发者的愿望清单 272
14.2.1 摄像机底层API 273
14.2.2 多摄像机 273
14.2.3 大视场摄像机 273
14.2.4 传感器 273
14.2.5 统一内存 274
14.2.6 移动GPU上的并行编程 274
14.2.7 更好的显示设备 274
14.3 户外增强现实 275
14.3.1 非合作用户 275
14.3.2 有限的设备能力 275
14.3.3 定位成功率 276
14.4 与智能对象交互 276
14.5 虚拟现实与增强现实的融合 277
14.6 增强人 277
14.7 作为戏剧媒介的增强现实 278
14.8 作为社交计算平台的增强现实 279
14.9 小结 280
参考文献 281
