本书包括概率论、数理统计两部分，涉及条件分布、期望、大样本理论、估计、假设检验、非参数方法、线性统计模型、统计模拟等，内容取材比较时尚新颖。新版不但重写了很多章节，还介绍了在计算机科学中日益重要的Chernoff界，以及矩方法、Newton法、EM算法、枢轴量、似然比检验的大样本分布等方面的知识，将目前研究前沿的一些问题深入浅出地融人教材。书中内容丰富完整，适当地选择某些章节，可以作为一学年的概率论与数理统计课程的教材，亦可作为一学期的概率论与随机过程的教材。适合数学、统计学、经济学等专业高年级本科生和研究生用，也可供统计工作人员用作参考书。

第4版的主要变化
　　我重组了正文中的很多主要结果，给它们加上“定理”这个标签，这样做是为了方便学生查找和参考这些结果。
　　为了让正文中的重要定义和假设更加凸显，我把它们挑选出来，并加上相应的标签。
　　当要介绍一个新的论题时，在探究数学理论之前，我都是用一个具有启发性的例子来引入该论题。然后我再回到这个例子，以阐明新引入的内容。
　　把与大数定律和中心极限定理相关的内容从原来的第5章中抽取出来，作为全新的一章，也就是第6章。将之与大样本结果放到一起讨论似乎更自然。
　　把马尔可夫链这一节从第3版的第2章移到第4版的第3章。每次我给自己的学生介绍这部分内容时，我都会因为不能提及随机变量、分布和条件分布而陷入困境。我实际上已经把这部分内容推迟，在介绍完分布之后，再回头介绍马尔可夫链。我觉得是时候把它置于一个更自然的位置了。我又增加了一些关于马尔可夫链的平稳分布方面的内容。
　　为了提高思想呈现的流畅性，我把一些定理的冗长证明放到相关小节的末尾。
　　重写了7.1节，即 “统计推断”这一节，使得介绍更清晰明了。
　　我重写了9.1节，这是为了更全面地介绍假设检验，包括似然比检验。对于那些对假设检验的更多数学理论不感兴趣的教师来说，从9.1节直接跳到9.5节现在更容易了。
　　下面给出了读者应该注意的其他变化。
　　以前表示两个集合A与B的交的记号为AB，现在替换为更流行的A∩B了。旧的记号虽然在数学上是合乎逻辑的，但是对于这一层次的教材来说，似乎有些晦涩了。
　　增加了对Stirling公式和Jensen不等式的叙述。
　　全概率法则和样本空间的划分从第3版的2.3节移到第4版的2.1节。
　　累积分布函数（c.d.f.）曾专指分布函数（d.f.），所以我在本版中把累计分布函数定义为分布函数这个首选名称。
　　在第3章和第6章增加了直方图的内容。
　　重新安排了3.8节和3.9节中的一些论题，让随机变量的简单函数最先出现，一般的公式最后再出现，这样，对于那些打算略去数学上具有挑战性部分的教师来说就容易了。
　　列举了大量可用的条目强调超几何分布与二项分布之间的密切关系。
　　简单介绍了Chernoff界。Chernoff界在计算机科学中日益重要，而它们的推导只需用本教材中的内容就足够了。
　　改变了置信区间的定义，它指的是随机区间，而不是观测区间。这不但使阐述更容易，也对应于更现代的应用。
　　在7.6节简要介绍了矩方法。
　　在第7章还简要介绍了Newton法和EM算法的入门知识。
　　为了便于构造一般的置信区间，我还介绍了枢轴量（pivotal quantity）的概念。
　　书中还介绍似然比检验统计量的大样本分布，这也是新增加的内容。当没有假设方差相等时这可作为检验原假设“两个正态分布的均值相等”的备选方法。
　　把Bonferroni不等式移到正文部分（第1章），随后（第11章）把它作为构造联合检验和联合置信区间的一种方法。
怎样使用本书
　　这本书有点厚，不太可能在本科生一学年的课程中介绍全部内容，本教材这样设置是为了让教师能够自由选择哪些论题是必须要掌握的最重要的，哪些论题可留作更进一步深入学习。比如，很多教师希望不再强调传统计数的内容，这部分内容在1.7～1.9节。还有一部分教师只想全面介绍二项分布和（或）多项分布相关的知识，那么他们可以只介绍排列、组合和可能的多项系数的定义和定理。只需确保学生知道这些值是如何算的就行了，其他相关的分布都没有意义。对于理解重要的分布来说，在这些章节中的各种例子是很有用的，但不是必须的。另一个例子是3.9节关于两个或多个随机变量的函数。普通多元变换的雅各比行列式的应用或许比某些本科生课程的教师所希望的数学知识更多。整个这一节可以略去，而不会在课程的后面造成任何问题，但是本节前面那些更简单的案例（比如卷积）还是很值得介绍的。　　9.2～9.4节涉及单参数族的最优检验，这部分内容的数学理论很深，但是想深入理解假设检验理论的研究生会对此很感兴趣。第9章的其余部分涵盖了本科生课程所需要教授的全部知识。
　　除了本教材外，培生教育出版集团还提供教师解答手册（Instructor抯 Solutions Manual），可从教师资源中心下载（www.pearsonhighered .com/irc），其中包括教材中很多章节的具体选择建议。从本书的早期版本开始我就一直用它作为一学年概率和统计课程的教材，给本科高年级学生上课。在第一学期，我介绍本教材的前5章（包括马尔可夫链的内容）和第6章的部分内容，这些内容在前几版中也有。第二学期，我讲述第6章的其余部分，第7～9章，11.1～11.5节和第12章。我也给工程师和计算机科学家教授一学期的概率论与随机过程的课程，我选择第1～6章和第12章的内容，包括马尔可夫链，但是不包括雅可比行列式，这些内容原来在旧版中也有。后面这一课程与数学系的课程强调数学推导的程度不一样。
　　很多小节前都标记了星号（★）。这表明后面的章节内容并不以加了星号的这一节为基础。这一标示并不是建议教师跳过这些小节，只是表明略去这些小节并不会严重影响后面章节的学习。这些小节是2.4节、3.10节、4.8节、7.7节、7.8节、7.9节、8.6节、8.8节、9.2节、9.3节、9.4节、9.8节、9.9节、10.6节、10.7节、10.8节、11.4节、11.7节、11.8节和12.5节。除了这些小节之间交叉参考外，教材中的其他内容偶尔也需要参考这些小节。然而，对这些小节的依赖性是很小的。多数情况是第12章向前参考某个加星号小节，原因是这些加星号小节阐述了比较难学的内容，并且对于用分析方法不能解决的难题，模拟方法非常有用。除了那些帮助把相关资料放到背景下的偶尔参考外，还有下面3种依赖。
　　样本分布函数（10.6节）在12.6节讨论自助法（bootstrap）时又重新介绍了。样本分布函数在呈现模拟结果时是很有用的工具。最早可在例12.3.7简单介绍它，只需涵盖10.6节的第一部分的内容。
　　稳健估计（10.7节）的内容在12.2节的一些模拟练习中也重现了（习题4～5和习题7～8）。
　　例12.3.4参考了双向方差分析的内容（11.7节和11.8节）。
　　教材中有些小节的最后一部分内容是比较有挑战性的，用符号做标记。这里有详细的推导或更高级的论题，一些教师可能并不想重点讲授。还有就是，我们在一些小节介绍了深化对什么是统计技术的理解的基础问题，用符号作标记。最后，为了更加清晰和容易理解，在正文中插入了一些注记（用“NOTE:”标记），注记内容有简要总结，或者与其他思想的联系。
辅助资料
　　本教材有下面两种配套的辅助资料。
　　教师解答手册（Instructor抯 Solutions Manual）包含教材中所有习题的完整解答。可以从www.pearsonhighered.com/irc的教师资源中心免费下载。
　　学生解答手册（Student Solutions Manual）包含教材中所有奇数号习题的完整解答。但这不是免费的，需要读者自己花钱购买。（ISBN-13: 978-0-321-71598-2; ISBN-10: 0-321-71598-5）
致谢
　　在这次修订过程中，很多人给予了帮助和鼓励，在此深表谢意。其中，我要特别感谢Marilyn DeGroot 和Morrie的子女们给我这个机会来修订Morrie的杰作。
　　我也要感谢许多读者、审阅人、同事、职员和Addison-Wesley公司的人们，他们的帮助和建议促使这个版本顺利完成。审阅人有：伊利诺理工学院的Andre Adler，洛约拉大学的E. N. Barron，华盛顿大学圣路易斯分校的Brian Blank，奥克拉荷马大学的Indranil Chakraborty，波士顿学院的Daniel Chambers，东密歇根大学的Rita Chattopadhyay，圣塔克拉拉大学的Stephen A. Chiappari，韦恩州立大学的Sheng-Kai Chang，拉斐特学院的Justin Corvino，多伦多大学的Michael Evans，宾州印第安那大学的Doug Frank，肯尼索州立大学的 Anda Gadidov，兰道夫-梅肯学院的Lyn Geisler，俄亥俄州立大学的Prem Goel，所罗马州立大学的Susan Herring，德雷塞尔大学的Pawel Hitczenko，莱莫恩学院的Lifang Hsu，利哈伊大学的Wei-Min Huang，北爱荷华大学的Syed Kirmani，杜克大学的Michael Lavine，圣地亚哥州立大学的Rich Levine，图雷大学的John Liukkonen，格兰德弗学院的Sergio Loch，西北大学的Rosa Matzkin，塞拉卡斯大学的Terry McConnell，加州大学戴维斯分校的Hans-Georg Mueller，贝塞尔学院的Robert Myers，俄亥俄州立大学的Mario Peruggia，女王大学的Stefan Ralescu，纽约州立大学纽伯兹分校的Krishnamurthi Ravishankar，三一大学的Diane Saphire，萨基诺谷州立大学的Steven Sepanski，宾州大学的HenSiong Tan，阿拉斯加大学的Kanapathi Thiru，约翰-霍普金斯大学的Kenneth Troske，德克萨斯大学达拉斯分校的John Van Ness，罗格斯大学的Yehuda Vardi，韦恩州立大学的Yelena Vaynberg，俄亥俄州立大学的Joseph Verducci，肯特州立大学的Mahbobeh Vezveai，杜克大学的Brani Vidakovic，西田州立学院的Karin Vorwerk，东密歇根大学的Bette Warren，克莱门森大学的Calvin L. Williams，密西西比大学的Lori Wolff。
　　肯尼索州立大学的Anda Gadidov仔细审查了书中内容的准确性。我非常感谢我在卡内基梅隆大学的同事们，特别是Anthony Brockwell，Joel Greenhouse，John Lehoczky，Heidi Sestrich和Valerie Ventura。
　　Addison-Wesley公司和其他单位中帮助出版这本书的人有：Paul Anagnostopoulos，Patty Bergin，Dana Jones Bettez，Chris Cummings，Kathleen DeChavez，Alex Gay，Leah Goldberg，Karen Hartpence和Christina Lepre。
　　如果我漏掉了某些人，很抱歉，我不是故意的。类似的错误也不可避免地会出现在任何类似的项目中（我的意思是说我参加过的项目）。基于这个原因，只要这本书一出版，我就在我的网页上公布这本书的信息，包括勘误表，我的网页是http://www.stat.cmu.edu/~mark/。欢迎读者把发现的错误告诉我。
Mark J. Schervish
2010年10月

数学\统计学

这本经典的概率论与数理统计教材，多年来畅销不衰，被很多名校采用，包括卡内基梅隆大学、哈佛大学、麻省理工学院、华盛顿大学、芝加哥大学、康乃尔大学、杜克大学、加州大学洛杉矶分校等。
　　本书包括概率论、数理统计两部分，内容丰富完整，适当地选择某些章节，可以作为一学年的概率论与数理统计课程的教材，亦可作为一学期的概率论与随机过程的教材。适合数学、统计学、经济学等专业高年级本科生和研究生用，也可供统计工作人员用作参考书。
本书主要特点
 叙述清晰易懂，内容深入浅出。作者用大量颇具启发性的例子引入论题、阐释理论和证明。例题涉及面广，除了那些解释基本概念的一些著名例题外，还有很多新颖的例题，描述了概率论在遗传学、排队论、计算金融学和计算机科学中的应用。
 内容取材比较时尚新颖。新版不但重写了很多章节，还介绍了在计算机科学中日益重要的Chernoff界，以及矩方法、Newton法、EM算法、枢轴量、似然比检验的大样本分布等方面的知识，将目前研究前沿的一些问题深入浅出地融人教材。
 为授课教师免费提供教师解答手册（Instructor’s Solutions Manual）。书后还提供了奇数号习题的答案。

（美）Morris H. DeGroot, Mark J. Schervish 著：Morris H. DeGroot(1931–1989) 世界著名的统计学家。生前曾任国际统计学会、美国科学促进会、统计学会、数理统计学会、计量经济学会会士。卡内基梅隆大学教授，1957年加入该校，1966年创办该校统计系。DeGroot在学术上异常活跃和多产，曾发表一百多篇论文，还著有 Optimal Statistical Decisions和 Statistics and the Law。为纪念他的著作对统计教学的贡献，国际贝叶斯分析学会特别设立了DeGroot奖表彰优秀统计学著作。 Mark J. Schervish 世界著名的统计学家，美国统计学会、数理统计学会会士。于1979年获得伊利诺大学的博士学位，之后就在卡内基梅隆大学统计系工作，教授数学、概率、统计和计算金融等课程，现为该系系主任。Schervish在学术上非常活跃，成果颇丰，还因在统计推断和贝叶斯统计方面的基石性工作而闻名，除本书外，他还著有Theory of Statistics和 Rethinking the Foundations of Statistics。

1　Introduction to Probability 1
1.1 The History of Probability 1
1.2 Interpretations of Probability 2
1.3 Experiments and Events 5
1.4 Set Theory 6
1.5 The Definition of Probability 16
1.6 Finite Sample Spaces 22
1.7 Counting Methods 25
1.8 Combinatorial Methods 32
1.9 Multinomial Coefficients 42
1.10　　The Probability of a Union of Events 46
1.11　　Statistical Swindles 51
1.12　　Supplementary Exercises 53
2　Conditional Probability 55
2.1 The Definition of Conditional Probability 55
2.2 Independent Events 66
2.3 Bayes’ Theorem 76
2.4 The Gambler’s Ruin Problem 86
2.5 Supplementary Exercises 90
3　Random Variables and Distributions 93
3.1 Random Variables and Discrete Distributions 93
3.2 Continuous Distributions 100
3.3 The Cumulative Distribution Function 107
3.4 Bivariate Distributions 118
3.5 Marginal Distributions 130
3.6 Conditional Distributions 141
3.7 Multivariate Distributions 152
3.8 Functions of a Random Variable 167
3.9 Functions of Two or More Random Variables 175
3.10　 Markov Chains 188
3.11　 Supplementary Exercises 202
4　Expectation 207
4.1 The Expectation of a Random Variable 207
4.2 Properties of Expectations 217
4.3 Variance 225
4.4 Moments 234
4.5 The Mean and the Median 241
4.6 Covariance and Correlation 248
4.7 Conditional Expectation 256
4.8 Utility 265
4.9 Supplementary Exercises 272
5　Special Distributions 275
5.1 Introduction 275
5.2 The Bernoulli and Binomial Distributions 275
5.3 The Hypergeometric Distributions 281
5.4 The Poisson Distributions 287
5.5 The Negative Binomial Distributions 297
5.6 The Normal Distributions 302
5.7 The Gamma Distributions 316
5.8 The Beta Distributions 327
5.9 The Multinomial Distributions 333
5.10　 The Bivariate Normal Distributions 337
5.11　 Supplementary Exercises 345
6　Large Random Samples 347
6.1 Introduction 347
6.2 The Law of Large Numbers 348
6.3 The Central Limit Theorem 360
6.4 The Correction for Continuity 371
6.5 Supplementary Exercises 375
7　Estimation 376
7.1 Statistical Inference 376
7.2 Prior and Posterior Distributions 385
7.3 Conjugate Prior Distributions 394
7.4 Bayes Estimators 408
7.5 Maximum Likelihood Estimators 417
7.6 Properties of Maximum Likelihood Estimators 426
7.7 Sufficient Statistics 443
7.8 Jointly Sufficient Statistics 449
7.9 Improving an Estimator 455
7.10　　Supplementary Exercises 461
8　Sampling Distributions of Estimators 464
8.1 The Sampling Distribution of a Statistic 464
8.2 The Chi-Square Distributions 469
8.3 Joint Distribution of the Sample Mean and Sample Variance 473
8.4 The t Distributions 480
8.5 Confidence Intervals 485
8.6 Bayesian Analysis of Samples from a Normal Distribution 495
8.7 Unbiased Estimators 506
8.8 Fisher Information 514
8.9 Supplementary Exercises 528
9　Testing Hypotheses 530
9.1 Problems of Testing Hypotheses 530
9.2 Testing Simple Hypotheses 550
9.3 Uniformly Most Powerful Tests 559
9.4 Two-Sided Alternatives 567
9.5 The t Test 576
9.6 Comparing the Means of Two Normal Distributions 587
9.7 The F Distributions 597
9.8 Bayes Test Procedures 605
9.9 Foundational Issues 617
9.10　 Supplementary Exercises 621
10　Categorical Data and Nonparametric Methods 624
10.1　 Tests of Goodness-of-Fit 624
10.2　 Goodness-of-Fit for Composite Hypotheses 633
10.3　 Contingency Tables 641
10.4　 Tests of Homogeneity 647
10.5　 Simpson’s Paradox 653
10.6　 Kolmogorov-Smirnov Tests 657
10.7　 Robust Estimation 666
10.8　 Sign and Rank Tests 678
10.9　 Supplementary Exercises 686
11　Linear Statistical Models 689
11.1　　The Method of Least Squares 689
11.2　 Regression 698
11.3　 Statistical Inference in Simple Linear Regression 707
11.4　 Bayesian Inference in Simple Linear Regression 729
11.5　 The General Linear Model and Multiple Regression 736
11.6　 Analysis of Variance 754
11.7　 The Two-Way Layout 763
11.8　 The Two-Way Layout with Replications 772
11.9　 Supplementary Exercises 783
12　Simulation 787
12.1　 What Is Simulation 787
12.2　 Why Is Simulation Useful 791
12.3　 Simulating Specific Distributions 804
12.4　 Importance Sampling 816
12.5　 Markov Chain Monte Carlo 823
12.6　 The Bootstrap 839
12.7　 Supplementary Exercises 850
Tables 853
Answers to Odd-Numbered Exercises 865
References 879
Index 885