本书是国外数据结构与算法分析方面的标准教材,介绍了数据结构(大量数据的组织方法)以及算法分析(算法运行时间的估算)。本书的编写目标是同时讲授好的程序设计和算法分析技巧,使读者可以开发出具有最高效率的程序。
本书可作为高级数据结构课程或研究生一年级算法分析课程的教材,使用本书需具有一些中级程序设计知识,还需要离散数学的一些背景知识。
wu
目的
本书讨论数据结构和算法分析。数据结构主要研究组织大量数据的方法，而算法分析则是对算法运行时间的评估。随着计算机的速度越来越快，对于能够处理大量输入数据的程序的需求变得日益急切。可是，由于在输入量很大的时候程序的低效率现象变得非常明显，因此这又要求对效率问题给予更仔细的关注。通过在实际编程前对算法进行分析，学生可以决定一个特定的解法是否可行。例如，学生在本书中将读到一些特定的问题并看到精心的实现方法是如何把处理大量数据的时间限制从16年减至不到1秒的。因此，若无运行时间的阐释，就不会有算法和数据结构的提出。在某些情况下，对于影响算法实现的运行时间的一些微小细节都需要认真探究。
一旦确定解法，还必须编写程序。随着计算机的日益强大，它们必须解决的问题也变得更加巨大和复杂，这就要求开发更加复杂的程序。本书的目的是教授学生良好的程序设计技巧和提高学生的算法分析能力，使得他们能够开发出具有最高效率的程序。
本书适合作为高级数据结构（CS7）课程或研究生第一年算法分析课程的教材。学生应该具有中等程度的程序设计知识，包括像指针和递归这样一些内容，还应该具有离散数学的某些知识。
方法
我相信，对于学生来说，重要的是学习如何自己动手编写程序，而不是从书上拷贝程序。但另一方面，讨论现实程序设计问题而不套用样本程序实际上是不可能的。由于这个原因，本书通常提供实现方法的大约一半到四分之三的内容并鼓励学生补足其余的部分。第12章是这一版新加的，讨论主要侧重于实现细节的一些附加的数据结构。
本书中的算法均以ANSI C表示，尽管有些欠缺，但它仍然是最流行的系统程序设计语言。使用C代替Pascal，使得动态分配数组成为可能（见第5章中的“再散列”）。它还在几处地方将代码简化，这通常是与（&&）操作走捷径的缘故。
对C的大多数批评集中在用它写出的程序代码可读性差的事实上。仅仅少击几次键，却牺牲了程序的清晰性，而程序的速度又没有增加。因此，诸如同时赋值以及通过
if(x=y)
测试是否为0等技巧一般不在本书中使用。本书将证明只要细心练习是可以避免那些难以读懂的代码的。
内容提要
第1章包含离散数学和递归的一些复习材料。我相信对递归做到泰然处之的唯一办法是反复不断地看一些好的用法。因此，除第5章外，递归遍及本书每一章的例子之中。
第2章处理算法分析。该章阐述渐近分析和它的主要弱点。这里提供了许多例子，包括对对数运行时间的深入解释。通过直观地把一些简单递归程序转变成迭代程序而对它们进行分析。介绍了更为复杂的分治程序，不过有些分析（求解递归关系）要推迟到第7章再详细讨论。
第3章包括表、栈和队列。重点聚焦于使用ADT对这些数据结构编程，这些数据结构的快速实现，以及介绍它们的某些用途。文中几乎没有什么程序(只有些例程)，而程序设计作业的许多思想基本上体现在练习之中。
第4章讨论树，重点在于查找树，包括外部查找树（B树）。UNIX文件系统和表达式树是作为例子来介绍的。AVL树和伸展树只进行了介绍而没有分析。程序写出75%，其余部分留给学生完成。查找树的实现细节见第12章。树的另外一些内容，如文件压缩和博弈树，延迟到第10章讨论。外部媒体上的数据结构在这几章的最后讨论。
第5章是相对较短的一章，主要讨论散列表。这里进行了某些分析，该章末尾讨论了可扩散列。
第6章讨论优先队列。二叉堆也在该章讲授，还有些附加的材料论述优先队列某些理论上有趣的实现方法。斐波那契堆在第11章讨论，配对堆在第12章讨论。
第7章讨论排序。它特别关注编程细节和分析，讨论并比较所有通用的排序算法。对以下四种算法进行了详细的分析：插入排序、希尔排序、堆排序以及快速排序。堆排序平均情形运行时间的分析对于这一版来说是新的内容。该章末尾讨论了外部排序。
第8章讨论不相交集算法并证明其运行时间。该章短而专，如果不讨论Kruskal算法则可跳过。
第9章讲授图论算法。图论算法很重要，不仅因为在实践中经常用到它们，而且还因为它们的运行时间强烈地依赖于数据结构的恰当使用。实际上，所有标准算法都是和相应的数据结构、伪代码以及运行时间的分析一起介绍的。为把这些问题放进一本适当的教材中，我们对复杂性理论（包括NP-完全性和不可判定性）进行了简短的讨论。
第10章通过考察一般的问题求解技巧讨论算法设计。该章添加了大量的实例。这里及后面各章使用的伪代码使得学生能更好地理解例子，从而避免被实现的细节干扰。
第11章处理摊还分析。对来自第4章到第6章的三种数据结构以及该章介绍的斐波那契堆进行了分析。
第12章是这一版新加的，讨论查找树算法、k维（k-d）树和配对堆。不同于其他各章，该章给出了查找树和配对堆完整详细的实现。教师可以把一些内容纳入其他各章的讨论之中。例如，第12章中的自顶向下红黑树可以在第4章的AVL树下讨论。
第1章到第9章为大多数的一学期数据结构课程提供了足够的材料。如果时间允许，那么第10章也可以包括进来。研究生的算法分析课程可以使用第7章到第11章的内容。第11章所分析的高级数据结构可以容易地在前面各章中查到。第9章中对NP-完全性的讨论对于这门课来说太过简要，Garey和Johnson的论NP-完全性的书可以补充本书的不足。
练习
每章末尾提供的练习与书中讲授的内容顺序相匹配。最后的一些练习针对整个一章而不是特定的某一节。难做的练习以一个星号标记，更难的练习标有两个星号。
教师可从Addison-Wesley出版公司得到包含几乎所有练习答案的解题指南。
参考文献
参考文献位于每章的最后。一般说来，这些参考文献或者是历史性的，代表着书中材料的原始来源，或者阐述对书中给出的结果的扩展和改进。有些文献论述了一些练习的解法。
致谢
在几部著作的准备过程中，本人得到许多朋友的帮助。有些人在本书的其他版本中提到过，谢谢诸位。
对于这一版，我要感谢Addison-Wesley的编辑Carter Shanklin和Susan Hartman。Teri Hyde完善了本书的出版工作，而Matthew Harris和他在出版服务中心的同事出色地完成了本书最后的定稿任务。
M.A.W.
Miami, Florida
1996年7月
计算机\数据结构
本书是国外数据结构与算法分析方面的经典教材，原书曾被评为20世纪顶尖的30部计算机著作之一。作者Mark Allen Weiss在数据结构和算法分析方面卓有建树，他的数据结构和算法分析的著作尤其畅销，并受到广泛好评，已被世界500余所大学用作教材。
在本书中，作者更加精练并强化了他对算法和数据结构方面创新的处理方法。通过C程序的实现，着重阐述了抽象数据类型的概念，并对算法的效率、性能和运行时间进行了分析。
本书特点：
专用一章来讨论算法设计的技巧，包括贪婪算法、分治算法、动态规划、随机化算法以及回溯算法。
介绍了当前流行的论题和新的数据结构，如斐波那契堆、斜堆、二项队列、跳跃表和伸展树。
安排一章专门讨论摊还分析，考察书中介绍的一些高级数据结构。
新开辟一章讨论高级数据结构以及它们的实现，包括红黑树、自顶向下伸展树、treap树、k维树、配对堆以及其他相关内容。
合并了堆排序平均情形分析的一些新成果。
作者简介
马克·艾伦·维斯（Mark Allen Weiss）佛罗里达国际大学计算与信息科学学院教授、副院长，本科教育主任和研究生教育主任。他于1987年获得普林斯顿大学计算机科学博士学位，师从Robert Sedgewick。 他曾经担任全美AP（Advanced Placement）考试计算机学科委员会的主席（2000-2004）。他的主要研究兴趣是数据结构、算法和教育学。他编写的关于数据结构与算法方面的知名教材还有《Data Structures and Algorithm Analysis : in Java》《Data Structures and Algorithm Analysis : in C++》《Data Structures and Problem Solving : Using Java》《Data Structures and Problem Solving : Using C++》。
［美］马克·艾伦·维斯（Mark Allen Weiss） 著：【加照片】
马克·艾伦·维斯（Mark Allen Weiss）佛罗里达国际大学计算与信息科学学院教授、副院长，本科教育主任和研究生教育主任。他于1987年获得普林斯顿大学计算机科学博士学位，师从Robert Sedgewick。 他曾经担任全美AP（Advanced Placement）考试计算机学科委员会的主席（2000-2004）。他的主要研究兴趣是数据结构、算法和教育学。他编写的关于数据结构与算法方面的知名教材还有《Data Structures and Algorithm Analysis : in Java》《Data Structures and Algorithm Analysis : in C++》《Data Structures and Problem Solving : Using Java》《Data Structures and Problem Solving : Using C++》。
第1章 引论 1
1.1 本书讨论的内容 1
1.2 数学知识复习 3
1.2.1 指数 3
1.2.2 对数 3
1.2.3 级数 4
1.2.4 模运算 5
1.2.5 证明方法 6
1.3 递归简论 8
总结 12
练习 12
参考文献 13
第2章 算法分析 15
2.1 数学基础 15
2.2 模型 18
2.3 要分析的问题 18
2.4 运行时间计算 20
2.4.1 一个简单的例子 21
2.4.2 一般法则 21
2.4.3 最大子序列和 24
2.4.4 运行时间中的对数 28
2.4.5 检验你的分析 33
2.4.6 分析结果的准确性 33
总结 34
练习 35
参考文献 39
第3章 表、栈和队列 41
3.1 抽象数据类型 41
3.2 表ADT 42
3.2.1 表的简单数组实现 43
3.2.2 链表 43
3.2.3 程序设计细节 44
3.2.4 常见的错误 49
3.2.5 双链表 51
3.2.6 循环链表 52
3.2.7 例子 52
3.2.8 链表的游标实现 57
3.3 栈ADT 62
3.3.1 栈模型 62
3.3.2 栈的实现 63
3.3.3 应用 71
3.4 队列ADT 79
3.4.1 队列模型 79
3.4.2 队列的数组实现 79
3.4.3 队列的应用 84
总结 85
练习 85
第4章 树 89
4.1 预备知识 89
4.1.1 树的实现 90
4.1.2 树的遍历及应用 91
4.2 二叉树 95
4.2.1 实现 96
4.2.2 表达式树 97
4.3 查找树ADT—二叉查找树 100
4.3.1 MakeEmpty 101
4.3.2 Find 101
4.3.3 FindMin和FindMax 103
4.3.4 Insert 104
4.3.5 Delete 105
4.3.6 平均情形分析 107
4.4 AVL树 110
4.4.1 单旋转 112
4.4.2 双旋转 115
4.5 伸展树 123
4.5.1 一个简单的想法 124
4.5.2 展开 126
4.6 树的遍历 132
4.7 B树 133
总结 138
练习 139
参考文献 146
第5章 散列 149
5.1 一般想法 149
5.2 散列函数 150
5.3 分离链接法 152
5.4 开放定址法 157
5.4.1 线性探测法 157
5.4.2 平方探测法 160
5.4.3 双散列 164
5.5 再散列 165
5.6 可扩散列 168
总结 171
练习 172
参考文献 175
第6章 优先队列（堆） 177
6.1 模型 177
6.2 一些简单的实现 178
6.3 二叉堆 179
6.3.1 结构性质 179
6.3.2 堆序性质 180
6.3.3 基本的堆操作 182
6.3.4 其他的堆操作 186
6.4 优先队列的应用 189
6.4.1 选择问题 189
6.4.2 事件模拟 191
6.5 d-堆 192
6.6 左式堆 193
6.6.1 左式堆的性质 193
6.6.2 左式堆的操作 194
6.7 斜堆 200
6.8 二项队列 202
6.8.1 二项队列结构 202
6.8.2 二项队列操作 204
6.8.3 二项队列的实现 205
总结 212
练习 212
参考文献 216
第7章 排序 219
7.1 预备知识 219
7.2 插入排序 220
7.2.1 算法 220
7.2.2 插入排序的分析 221
7.3 一些简单排序算法的下界 221
7.4 希尔排序 222
7.5 堆排序 226
7.6 归并排序 230
7.7 快速排序 235
7.7.1 选取枢纽元 236
7.7.2 分割策略 237
7.7.3 小数组 240
7.7.4 实际的快速排序例程 240
7.7.5 快速排序的分析 241
7.7.6 选择的线性期望时间算法 245
7.8 大型结构的排序 247
7.9 排序的一般下界 247
7.10 桶式排序 250
7.11 外部排序 250
7.11.1 为什么需要新的算法 251
7.11.2 外部排序模型 251
7.11.3 简单算法 251
7.11.4 多路合并 253
7.11.5 多相合并 254
7.11.6 替换选择 255
总结 256
练习 257
参考文献 261
第8章 不相交集ADT 263
8.1 等价关系 263
8.2 动态等价性问题 264
8.3 基本数据结构 265
8.4 灵巧求并算法 269
8.5 路径压缩 271
8.6 按秩求并和路径压缩的最坏情形 273
8.7 一个应用 279
总结 279
练习 280
参考文献 281
第9章 图论算法 283
9.1 若干定义 283
9.2 拓扑排序 286
9.3 最短路径算法 290
9.3.1 无权最短路径 291
9.3.2 Dijkstra算法 295
9.3.3 具有负边值的图 304
9.3.4 无圈图 305
9.3.5 所有点对最短路径 308
9.4 网络流问题 308
9.5 最小生成树 313
9.5.1 Prim算法 314
9.5.2 Kruskal算法 316
9.6 深度优先搜索的应用 319
9.6.1 无向图 320
9.6.2 双连通性 322
9.6.3 欧拉回路 326
9.6.4 有向图 329
9.6.5 查找强分支 331
9.7 NP-完全性介绍 332
9.7.1 难与易 333
9.7.2 NP类 334
9.7.3 NP-完全问题 335
总结 337
练习 337
参考文献 343
第10章 算法设计技巧 347
10.1 贪婪算法 347
10.1.1 一个简单的调度问题 348
10.1.2 Huffman编码 351
10.1.3 近似装箱问题 357
10.2 分治算法 365
10.2.1 分治算法的运行时间 366
10.2.2 最近点问题 368
10.2.3 选择问题 373
10.2.4 一些运算问题的理论改进 376
10.3 动态规划 380
10.3.1 用一个表代替递归 380
10.3.2 矩阵乘法的顺序安排 383
10.3.3 最优二叉查找树 387
10.3.4 所有点对最短路径 390
10.4 随机化算法 392
10.4.1 随机数发生器 394
10.4.2 跳跃表 397
10.4.3 素性测试 399
10.5 回溯算法 401
10.5.1 收费公路重建问题 403
10.5.2 博弈 407
总结 413
练习 415
参考文献 422
第11章 摊还分析 427
11.1 一个无关的智力问题 428
11.2 二项队列 428
11.3 斜堆 433
11.4 斐波那契堆 435
11.4.1 切除左式堆中的节点 436
11.4.2 二项队列的懒惰合并 439
11.4.3 斐波那契堆操作 442
11.4.4 时间界的证明 443
11.5 伸展树 445
总结 449
练习 450
参考文献 451
第12章 高级数据结构及其实现 453
12.1 自顶向下伸展树 453
12.2 红黑树 457
12.2.1 自底向上插入 462
12.2.2 自顶向下红黑树 463
12.2.3 自顶向下删除 465
12.3 确定性跳跃表 469
12.4 AA树 476
12.5 treap树 482
12.6 k-d树 485
12.7 配对堆 488
总结 494
练习 495
参考文献 497
索引 501
Contents
1 Introduction 1
1.1 What's the Book About?1
1.2 Mathematics Review 3
1.2.1 Exponents 3
1.2.2 Logarithms 3
1.2.3 Series 4
1.2.4 Modular Arithmetic 5
1.2.5 The P Word 6
1.3 A Brief Introduction to Recursion 8
Summary 12
Exercises 12
References 13
2 Algorithm Analysis 15
2.1 Mathematical Backgroud 15
2.2 Model 18
2.3 What to Analyze 18
2.4 Running Time Calculations 20
2.4.1 A Simple Example 21
2.4.2 General Rules 21
2.4.3 Solutions for the Maximun Subsequence Sum Problem 24
2.4.4 Logarithms in the Running Time 28
2.4.5 Checking Your Analysis 33
2.4.6 A Grain of Salt 33
Summary 34
Exercised 35
References 39
3 Lists Stacks, and Queues 41
3.1 Abstract Data Types(ADTs) 41
3.2 The List ADT 42
3.2.1 Simple Array Implementation of Lists 43
3.2.2 Linked Lists 43
3.2.3 Programming Details 44
3.2.4 Common Erros 49
3.2.5 Doubly Linked Lists 51
3.2.6 Example 52
3.2.8 Cursor Implementation of Linked Lists 57
3.3 The Stack ADT 62
3.3.1 Stack Model 62
3.3.2 Implementation of Stacks 63
3.3.3 Applications 71
3.4 The Queue ADT 79
3.4.1 Queue Model 79
3.4.2 Array Implementation of Queues 79
3.4.3 Applications of Queues 84
Summary 85
Exercises 85
4 Trees 89
4.1 Preliminaries 89
4.1.1 Implementation of Trees 90
4.1.2 Tree Traversals with an Application 91
4.2 Binary Trees 95
4.2.1 Implementation 96
4.2.2 Expression Trees 97
4.3 The Search Tree ADT-Binary Search Trees 100
4.3.1 MakeEmpty 101
4.3.2 Find 101
4.3.3 FindMin and FindMax 103
4.3.4 Insert 104
4.3.5 Delete 105
4.3.6 Average-Case Analysis 107
4.4 AVL Trees 110
4.4.1 Single Rotation 112
4.4.2 Double Rotation 115
4.5 Splay Trees 123
4.5.1 A Simple Idea(That Does Not Work) 124
4.5.2 Splaying 126
4.6 Tree Traversals(Revisited)132
4.7 B-Trees 133
Summary 138
Exercises 139
References 146
5 Hashing 149
5.1 General Idea 149
5.2 Hash Function 159
5.3 Separate Chaining 152
5.4 Open Addressing 157
5.4.1 Linear Probing 157
5.4.2 Quadratic Probing 160
5.4.3 Double Hashing 164
5.5 Rehashing 165
5.6 Extendible Hashing 168
Summary 171
Exercises 172
References 175
6 Priority Queues(Heaps) 177
6.1 Model 177
6.2 Simple Implementations 178
6.3 Binary Heap 179
6.3.1 Structure Property 179
6.3.2 Heap Order Property 180
6.3.3 Basic Heap Operations 182
6.3.4 Other Heap Operations 186
6.4 Applications of Priority Queues 189
6.4.1 The Selection Problem 189
6.4.2 Event Simulation 191
6.5 d-Heaps 192
6.6 Leftist Heaps 193
6.6.1 Leftist Heap Property 183
6.6.2 Leftist Heap Operations 194
6.7 Skew Heaps 193
6.8 Binomial Queues 202
6.8.1 Binomial Queues Struccture 202
6.8.2 Binomial Queues Operations 204
6.8.3 Implementation of Binomial Queuse 205
Summary 212
Exercises 212
References 216
7 Sorting
7.1. Preliminaries 219
7.2.1. The Algorithm 220
7.2.2. Analysis of Insertion Sort 221
7.3 A Lower Bound for Simple Sorting Algorithms 221
7.4 SheUsort 222
7.5 Heapsort 226
7.6 Mergesort 230
7.7 Quicksort 235
7.7.1. Picking the Pivot 236
7.7.2. Partitioning Strategy 237
7.7.3. Small Arrays 240
7.7.4. Actual Quicksort Routines 240
7.7.5. Analysis of Quicksort 241
7.7.6. A Linear-Expected-Time Algorithm for Selection 245
7.8 Sorting Large Structures 247
7.9 A General Lower Bound for Sorting 247
7.10 Bucket Sort 250
7.11 External Sorting 250
7.11.1. Why We Need New Algorithms 251
7.11.2. Model for External Sorting 251
7.11.3 The Simple Algorithm 251
7.11.4 Multiway Merge 253
7.11.5 Polyphase Merge 254
7.11.6 Replacement Selection 255
Summary 256
Exercises 257
References 261
8 The Disjoint Set ADT 263
8.1 Equivalence Relations 263
8.2 The Dynamic Equivalence Problem 264
8.3 Basic Data Structure 265
8.4 Smart Union Algorithms 269
8.5 Path Compression 271
8.6 Worst Case for Union-by-Rank and Path Compression 273
8.7. An Application 279
Summary 279
Exercises 280
References 281
9 Graph Algorithms 283
9.1 Definitions 283
9.2. Topological Sort 286
9.3 Shortest-Path Algorithms 290
9.3.1. Unweighted Shortest Paths 291
9.3.2. Dijkstra's Algorithm 295
9.3.3. Graphs with Negative Edge Costs
9.3.4. Acyclic Graphs 305
9.3.5. All-Pairs Shortest Path 308
9.4 Network How Problems 308
9.5 Minimum Spanning Tree
9.5.1. Prim's Algorithm
9.5.2. Krusk~'s Algorithm
9.6. Applications of Depth-First Search
9.6.1. Undirected Graphs 320
9.6.2. Biconnectivity 322
9.6.3. Euler Circuits 326
9.6.4. Directed Graphs 329
9.6.5. Finding Strong Components 331
9.7 Introduction to NP-Completeness 332
9.7.1. Easy vs. Hard 333
9.7.2. The Class NP 334
9.7.3. NP-Complete Problems 335
Summary 337
Exercises 337
References 337
10 Algorithm Design Techniques 347
10.1 Greedy Algorithms 347
10.1.1. A Simple Scheduling Problem 348
10.1.2. Htfffman Codes 351
10.1.3. Approximate Bin Packing 357
10.2 Divide and Conquer 365
10.2.1. Running Time of Divide and Conquer Algorithms 366
10.2.2. Closest-Points Problem 368
10.2.3. The Selection Problem 373
10.2.4. Theoretical Improvements for Arithmetic Problems 376
10.3 Dynamic Programming 380
10.3.1. Using a Table Instead of Recursion 380
10.3.2. Ordering Matrix Multiplications 383
10.3.3. Optimal Binary Search Tree 387
10.3.4. All-Pairs Shortest Path 390
10.4 Randomized Algorithms 392
10.4.1. Random Number Generators 394
10.4.2. Skip Lists 397
10.4.3. Primality Testing 399
10.5 Backtracking Algorithms 401
10.5.1. The Turnpike Reconstruction Problem
10.5.2. Games 407
Summary 413
Exercises 415
References 422
11 Amortized Analysi 427
11.1.An Unrelated Puzzle 428
11.2. Binomial Queues 428
11.3 Skew Heaps
11.4 Fibonacci Heaps 435
11.4.1. Cutting Nodes in Leftist Heaps 436
11.4.2. Lazy Merging for Binomial Queues 439
11.4.3. The Fibonacci Heap Operations 442
11.4.4. Proof of the Time Bound 443
11.5 Sply Trees 45
Summary 449
Exercises 450
References 451
12 Advanced Data Structures and Implementation 453
12.1 Top-Down Splay Trees 453
12.2 Red Black Trees 457
12.2.1 Bottom-Up Insertion 462
12.2.2. Top-Down Red Black Trees 463
12.2.3. Top-Down Deletion 465
12,3 Deterministic Skip Lists 469
12.4 AA-Trees 476
12.5. Treaps 482
12.6 k-d Trees 485
12.7.Pairing Heaps 488
Summary 494
Exercises 495
References 497
Index 501
