这本经典教材保持着一贯的风格,清晰地阐述基本理论,并且为了更好地让读者理解数理统计,还提供了一些重要的背景材料。内容覆盖估计和测试方面的古典统计推断方法,并深入介绍了充分性和测试理论,包括一致最佳检验和似然率。书中含有大量实例和练习,便于读者理解和巩固所学知识。
数学
“该书写作风格极其清晰易懂,就更高等内容的应用而言,我没有任何质疑。书中内容表述专业而现代,假如我有机会再次讲授数理统计学,我会毫不犹豫考虑使用它,同时推荐给我的同事们。”
—— Walter Freiberger ,布朗大学
本书是数理统计方面的一本经典教材,自1959年出版以来,广受读者好评,并被众多院校选为教材,如布朗大学、乔治华盛顿大学等。
第7版延续了前几版的一贯风格,清晰而全面地阐述了数理统计的基本理论,并且为了让读者更好地理解数理统计,还提供了丰富的例子和一些重要的背景材料。与前几版相比,本版引入了最近新的数理统计发展成果,采用现在流行的R软件进行统计计算和推断。
本书特色
全面覆盖估计和检验中的经典统计推断过程。
深入讨论充分性和检验理论,包括一致最大功效检验和似然比检验。
提供丰富的实例和练习,便于读者理解和巩固相关知识。
附录B中给出更多的R函数实例,帮助读者了解使用R进行统计计算与模拟。
(美)Robert V. Hogg 艾奥瓦大学 Joseph W. McKean 西密歇根大学 Allen T. Craig 艾奥瓦大学 著:Robert V. Hogg 是艾奥瓦大学统计与精算科学系教授,自1948年开始任教于艾奥瓦大学,在此从事教学和管理工作50多年,并帮助筹建了统计与精算科学系。曾担任美国统计协会(ASA)主席,并曾获得多项教学奖,包括美国数学协会杰出教育奖、Governor's Science Medal for Teaching。 Joseph W. McKean 西密西根大学统计系教授,ASA会士。他在线性、非线性、混合模型的稳健非参数处理方面已发表多篇论文,主要讲授统计学、概率论、统计方法、非参数理论等课程。 Allen T. Craig 艾奥瓦大学教授。
Preface iii
1 Probability and Distributions 1
1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Set Theory . . . . . . . . . . . . . . . . . . . . 3
1.3 The Probability Set Function . . . . . . . . . . . . . . . . 10
1.4 Conditional Probability and Independence . . . . . . . . . 21
1.5 Random Variables . . . . . . . . . . . . . . . . . 32
1.6 Discrete Random Variables . . . . . . . . . . . . . 40
1.6.1 Transformations . . . . . . . . . . . . . 42
1.7 Continuous Random Variables . . . . . .. . . . . . 44
1.7. Transformations . . . . . . . . . . . . . 46
1.8 Expectation of a Random Variable . . . . . . . . . . . 52
1.9 Some Special Expectations . . . . . . . . . . . . . 57
1.10 Important Inequalities . . . . . . . . . . . . . . . . . 68
2 Multivariate Distributions. . . . . . . . 73
2.1 Distributions of Two Random Variables . . . . . . . . . . . . . 73
2.1.1 Expectation . . . . . . . . . . . . . . . . 79
2.2 Transformations: Bivariate Random Variables . . . . . . . . . . . . 84
2.3 Conditional Distributions and Expectations . . . . . . .. . . . 94
2.4 The Correlation Coeficient . . . . . . . . . . . . 102
2.5 Independent Random Variables . . . . . . . . 110
2.6 Extension to Several Random Variables . . . . . . . . . . . 117
2.6.1 * Multivariate Variance-Covariance Matrix . . . . . . . . . . . 123
2.7 Transformations for Several Random Variables . . . . . . . . . . . . 126
2.8 Linear Combinations of Random Variables . . . . . . . . . . . . . . 134
3 Some Special Distributions 139
3.1 The Binomial and Related Distributions . . . . . . . . . . . . . 139
3.2 The Poisson Distribution . . . . . . . . . . . . . 150
3.3 The Γ, χ2 , and β Distributions . . . . . . . . . . 156
3.4 The Normal Distribution . . . . . . . . . . . . . . . 168
3.4.1 Contaminated Normals . . . . . . . . . . . . . . . . . . 174
3.5 The Multivariate Normal Distribution . . . . . . . . . 178
3.5.1 * Applications . . . . . . . . . . . . . . . 185
3.6 t- and F -Distributions . . . . . . . . . . . . . . . 189
3.6.1 The t-distribution . . . . . . . . . . . . . . . 189
3.6.2 The F -distribution . . . . . . . . . . 191
3.6.3 Student’s Theorem . . . . . . . . . . . 193
3.7 Mixture Distributions . . . . . . . . . . . . . 197
4 Some Elementary Statistical Inferences 203
4.1 Sampling and Statistics . . . . . . . . . . . . . 203
4.1.1 Histogram Estimates of pmfs and pdfs . . . . . . . . . . . . . 207
4.2 Confidence Intervals . . . . . . . . . . . . . . . . . 214
4.2.1 Confidence Intervals for Difference in Means . . . . . . . . . . 217
4.2.2 Confidence Interval for Difference in Proportions . . . . . . . 219
4.3 Confidence Intervals for Parameters of Discrete Distributions . . . . 223
4.4 Order Statistics . . . . . . . . . . . . . . . . . . . . . 227
4.4.1 Quantiles . . . . . . . . . . . . . . . . . . . . 231
4.4.2 Confidence Intervals for Quantiles . . . . . . . . . . . . . . . 234
4.5 Introduction to Hypothesis Testing . . . . . . . . . 240
4.6 Additional Comments About Statistical Tests . . . . . . . . . . . . . 248
4.7 Chi-Square Tests . . . . . . . . . . . . . . . . 254
4.8 The Method of Monte Carlo . . .. . . . . . . . 261
4.8.1 Accept–Reject Generation Algorithm . . . . . . . . . . . . . . 268
4.9 Bootstrap Procedures . . . . . . . . . . . . . 273
4.9.1 Percentile Bootstrap Confidence Intervals . . . . . . . . . . . 273
4.9.2 Bootstrap Testing Procedures . . . . . . . . . . . . . . . . . . 276
4.10 * Tolerance Limits for Distributions . . . .. . . . . 284
5 Consistency and Limiting Distributions. . . . . . . . 289
5.1 Convergence in Probability . . . . . . . . . . . 289
5.2 Convergence in Distribution . . . . . . . . . . . 294
5.2.1 Bounded in Probability . . . . . . . . . 300
5.2.2 -Method . . . . . . . . . . . . . . . . . 301
5.2.3 Moment Generating Function Technique . . . . . . . . . . . . 303
5.3 Central Limit Theorem . . . . . . . . . . . . . . . . 307
5.4 * Extensions to Multivariate Distributions . . . . . . 314
6 Maximum Likelihood Methods. . . . . . . . 321
6.1 Maximum Likelihood Estimation . . . . . . . . . . . . . . . 321
6.2 Rao–Cram′er Lower Bound and Effciency . . . . . . . . . . . . . . . 327
6.3 Maximum Likelihood Tests . . . . . . . .. . . . . . . . . 341
6.4 Multiparameter Case: Estimation . . . . . . . . . . . . . 350
6.5 Multiparameter Case: Testing . . . . . . . . . . .. . . . . 359
6.6 The EM Algorithm . . . . . . . . . . . . . . . . . . 367
7 Suffciency 375
7.1 Measures of Quality of Estimators . . . . . . . . . . . . . . . . . . . 375
7.2 A Sufficient Statistic for a Parameter . . . . . . . . . . . . . . . . . . 381
7.3 Properties of a Sufficient Statistic . . . . . . . . . . . . . . . . . . . . 388
7.4 Completeness and Uniqueness . . . . . . . . . . . . . . . . . . . . . . 392
7.5 The Exponential Class of Distributions . . . . . . . . . . . . . . . . . 397
7.6 Functions of a Parameter . . . . . . . . . . . . . . . . . . . . . . . . 402
7.7 The Case of Several Parameters . . . . . . . . . . . . . . . . . . . . . 407
7.8 Minimal Sufficiency and Ancillary Statistics . . . . . . . . . . . . . . 415
7.9 Sufficiency, Completeness, and Independence . . . . . . . . . . . . . 421
8 Optimal Tests of Hypotheses. . . . . . . . 429
8.1 Most Powerful Tests . . . . . . . . . . . . . . . . 429
8.2 Uniformly Most Powerful Tests . . . . . . . . . . . . . . . . . . . . . 439
8.3 Likelihood Ratio Tests . . . . . . . . . . . . . . . . . . 447
8.4 The Sequential Probability Ratio Test . . . . . . . . . . . . . . . . . 459
8.5 Minimax and Classification Procedures . . . . . . . . . . . . . . . . . 466
8.5.1 Minimax Procedures . . . . . . . . . . . . . . . . . . . . . . . 466
8.5.2 Classification . . . . . . . . . . . . . . . . . . . . . . . . . . . 469
9 Inferences About Normal Models. . . . . . . . 473
9.1 Quadratic Forms . . . . . . . . . . . . . . . . . . . . 473
9.2 One-Way ANOVA . . . . . . . . . . . . . . . . . . . . . . . . . . . . 478
9.3 Noncentral χ2 and F -Distributions . . . . . . . . . . . . .. . . . . . 484
9.4 Multiple Comparisons . . . . . . . . . . . . . . . . . . . . . . . . . . 486
9.5 The Analysis of Variance . . . . . . . . . . . . . . . . . . . . . . . . 490
9.6 A Regression Problem . . . . . . . . . . . . . . . . . . . . . . . . . . 497
9.7 A Test of Independence . . . . . . . . . . . . . . . . . . . . . . . . . 506
9.8 The Distributions of Certain Quadratic Forms . . . . . . . . . . . . . 509
9.9 The Independence of Certain Quadratic Forms . . . . . . . . . . . . 516
10 Nonparametric and Robust Statistics. . . . . . . . 525
10.1 Location Models . . . . . . . . . . . . . . . 525
10.2 Sample Median and the Sign Test . . . . . . . . . . . . . . . . . 528
10.2.1 Asymptotic Relative Efficiency . . . . . . . . . . . . . . 533
10.2.2 Estimating Equations Based on the Sign Test . . . . . . . . . 538
10.2.3 Confidence Interval for the Median . . . . . . . . . . . . . . . 539
10.3 Signed-Rank Wilcoxon . . . . . . . . . . . . . . . . . . . . . . . . . . 541
10.3.1 Asymptotic Relative Efficiency . . . . . . . . . . . . . . . . . 546
10.3.2 Estimating Equations Based on Signed-Rank Wilcoxon . . . 549
10.3.3 Confidence Interval for the Median . . . . . . . . . . . . . . . 549
10.4 Mann–Whitney–Wilcoxon Procedure . . . . . . . . . . . . . . . . . . 551
10.4.1 Asymptotic Relative Efficiency . . . . . . . . . . . . . . . . . 555
10.4.2 Estimating Equations Based on the Mann–Whitney–Wilcoxon. . . . . . . . 556
10.4.3 Confidence Interval for the Shift Parameter . . . . . . . . . 557
10.5 General Rank Scores . . . . . . . . . . . . . . . . . . 559
10.5.1 Efficacy . . . . . . . . . . . . . . . . . . . . . . 562
10.5.2 Estimating Equations Based on General Scores . . . . . . . . 563
10.5.3 Optimization: Best Estimates . . . . . . . . . . . . . . . . . . 564
10.6 Adaptive Procedures . . . . . . . . . . . . . . .. . 571
10.7 Simple Linear Model . . . . . . . . . . . . .. . . 576
10.8 Measures of Association . . . . . . . . . . . . . . .. . . . . . 581
10.8.1 Kendall’s τ . . . . . . . . . . . . . . . . . . . . . . . . . . 582 10.8.2 Spearman’s Rho . . . . . . . . . . . . . . . . . . . . . . . . . 584
10.9 Robust Concepts . . . . . . . . . . . . . . . . . . . . . . . 588
10.9.1 Location Model . . . . . . . . . . . . . . . . . . . . . . . . . . 589
10.9.2 Linear Model . . . . . . . . . . . . . . . . . . . . . 595
11 Bayesian Statistics 605
11.1 Subjective Probability . . . . . . . . . . . . . . . 605
11.2 Bayesian Procedures . . . . . . . . . . . . . . . . 608
11.2.1 Prior and Posterior Distributions . . . . . . . . . . . . . . . . 609
11.2.2 Bayesian Point Estimation . . . . . . . . . . . . . . . . . . . . 612
11.2.3 Bayesian Interval Estimation . . . . . . . . . . . . . . . . . . 615
11.2.4 Bayesian Testing Procedures . . . . . . . . . . . . . . . . . . 616
11.2.5 Bayesian Sequential Procedures . . . . . . . . . . . . . . . . . 617
11.3 More Bayesian Terminology and Ideas . . . . . . . . . . . . . . . . . 619
11.4 Gibbs Sampler . . . . . . . . . . . . . .. . . . . . . 626
11.5 Modern Bayesian Methods . . . . . . . . . . . . . . . . . . . . . . . . 632
11.5.1 Empirical Bayes . . . . . . . . . . . . . . . . . . . . . . . . . 636
A Mathematical Comments. . . . . . . . 641
A.1 Regularity Conditions . . . . . . . . . . . . . . . . . . . 641
A.2 Sequences . . . . . . . . . . . . . . . . . . . . . . . 642
B R Functions 645
C Tables of Distributions 655
D Lists of Common Distributions 665
E References 669
F Answers to Selected Exercises 673
Index 683