本书介绍了模式识别的基本理论和基本概念，并给出了相关的工程应用案例。

模式识别原理及工程应用
Pattern Recognition
and Engineering Application
周丽芳　李伟生　黄颖　 编著
模式识别是指对表征事物或现象的各种形式的(数值的、文字的和逻辑关系的)信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程。随着模式识别理论和技术自身的发展及计算机数据处理能力的飞速提高，模式识别技术的应用已经开始进入各行各业，正逐渐影响着人们的生活。本书作者在多年模式识别教学、科研实践的基础上编写了本书，旨在给学习模式识别课程的学生和广大从事模式识别实际应用的科研工作者和技术人员提供参考，帮助他们了解模式识别这个迅速发展的领域。
本书特点
首先介绍基础理论，包括模式识别的基本概念和代表性方法；接着通过实例帮助读者了解模式识别的具体应用，为其应用模式识别方法解决相关领域的实际问题提供具体思路和方法。
所有应用实例均为作者所在研究团队和协作团队开发产品和科研工作的总结，内容涉及当前广泛应用的车牌识别、签名识别、人脸识别，有利于读者较系统地掌握模式识别的理论精髓和相关技术。
既可作为高等院校计算机、电子、通信、自动化等专业研究生和高年级本科生的教材，也可作为计算机信息处理、自动控制等相关领域的工程技术人员的参考用书。

近年来，模式识别得到了迅猛发展，不仅取得了丰富的理论成果，而且其应用也已扩展到了文本分类、语音识别、图像识别、视频识别、信息检索与数据挖掘等领域，因而越来越多的人认识到模式识别技术的重要性。但是，目前市场上的模式识别书籍参差不齐，部分图书存在内容滞后、重知识轻应用、过于抽象等缺陷。因此，有必要出版一本内容涵盖面广、具有一定前沿性和实用性的参考书，在机械工业出版社的大力支持下，我们成立了由李伟生、黄颖、周丽芳等组成的编写小组。
　　本书分为两大部分:基础理论部分（第1～9章）系统地讲述了模式识别的基本概念和代表性方法，应用实例部分（第10～12章）主要包括车牌识别、签名识别、人脸识别的实例，所有应用实例均为作者所在研究团队和协作团队开发产品和科研工作的总结，为科研人员应用模式识别方法解决相关领域的实际问题提供了具体思路和方法。本书将理论与实际应用相结合，有利于读者加深对理论方法的理解，可使读者较系统地掌握模式识别的理论精髓和相关技术。全书共12章，其中李伟生教授负责了前言的撰写，第1、3、5章由李伟生与周丽芳共同编写;第2、4、6章由黄颖编写;第7、8、9章由周丽芳与黄颖共同编写;第10、11、12章由周丽芳编写，全书的统稿与出版组织工作由周丽芳老师负责完成。此外，衷心感谢以下研究生：张燕、付鹏、韦巧燕、陈龙、王立逗、彭莱，他们负责完成了各个章节的图表制作和实验案例的程序测试工作，是他们的辛勤劳动使本书得以顺利完稿。最后，本书参考了国内外许多同行的论文、著作，引用了其中的观点、数据与结论，在此一并表示谢意。
　　全书内容安排如下：第1章介绍模式识别的基本概念；第2章阐述贝叶斯决策理论；第3章介绍概率密度函数的估计；第4章介绍判别函数分类器的设计；第5章介绍近邻法；第6章介绍特征选择的方法；第7章介绍特征提取策略；第8章介绍数据聚类的方法；第9章讲解模糊模式识别方法；第10～12章进行模式识别典型实例分析。
　　我们希望本书的出版，能给学习模式识别课程的学生和从事模式识别实际应用的广大科研工作者和技术人员提供一本可读性较好、实用性较强的参考书。我们在编写过程中反复论证，力求完善教材，但难免会有疏漏之处。希望广大读者能及时把发现的问题告诉我们，为进一步提高本书的质量提出宝贵意见。
　　本书的编写得到了国家自然科学基金的资助(项目编号61272195，61100114)，以及重庆邮电大学校级教材立项的资助。

计算机\人工智能

模式识别是指对表征事物或现象的各种形式的(数值的、文字的和逻辑关系的)信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程。随着模式识别理论和技术自身的发展及计算机数据处理能力的飞速提高，模式识别技术的应用已经开始进入各行各业，正逐渐影响着人们的生活。本书作者在多年模式识别教学实践的基础上编写了此书，旨在给学习模式识别课程的学生和广大从事模式识别实际应用的科研工作者和技术人员提供参考，帮助他们了解模式识别这个迅速发展的领域。
本书特点：
首先介绍基础理论，包括模式识别的基本概念和代表性方法，接着通过实例帮助读者了解模式识别的具体应用，为其应用模式识别方法解决相关领域的实际问题提供具体思路和方法。
所有应用实例均为作者所在研究团队和协作团队开发产品和科研工作的总结，内容涉及当前广泛应用的车牌识别、签名识别、人脸识别，帮助读者较系统地掌握模式识别的理论精髓和相关技术。
既可作为高等院校计算机、电子、通信、自动化等专业研究生和高年级本科生的教材，也可作为计算机信息处理、自动控制等相关领域的工程技术人员的参考用书。

前言
第1章　模式识别概述1
　1.1　模式识别的基本概念1
　1.2　模式识别的主要方法2
　　1.2.1　决策理论方法2
　　1.2.2　句法方法3
　　1.2.3　模糊模式识别方法3
　　1.2.4　人工神经网络方法3
　　1.2.5　人工智能方法4
　1.3　模式识别系统4
　1.4　模式识别系统的应用举例5
　　1.4.1　指纹识别5
　　1.4.2　车牌识别6
　　1.4.3　人脸识别7
　　1.4.4　语音识别9
　1.5　本书的主要内容10
　本章小结11
　习题11
第2章　基于贝叶斯决策理论的分类器12
　2.1　分类器的描述方法12
　2.2　贝叶斯决策理论15
　　2.2.1　贝叶斯决策理论的概念15
　　2.2.2　基于最小错误率的贝叶斯决策与实现16
　　2.2.3　基于最小风险的贝叶斯决策与实现18
　2.3　判别函数和决策面20
　2.4　正态分布的贝叶斯分类21
　2.5　最小最大损失准则28
　本章小结32
　习题32
第3章　概率密度函数的估计33
　3.1　引言33
　3.2　参数估计的基本概念34
　　3.2.1　最大似然估计34
　　3.2.2　贝叶斯估计和贝叶斯学习36
　3.3　正态分布的有监督参数估计36
　　3.3.1　最大似然估计示例37
　　3.3.2　贝叶斯估计和贝叶斯学习示例38
　3.4　无监督参数估计39
　　3.4.1　无监督最大似然估计中的几个问题39
　　3.4.2　正态分布情况下的无监督参数估计41
　3.5　总体分布的非参数估计41
　　3.5.1　基本方法41
　　3.5.2　Parzen窗法43
　本章小结44
　习题45
第4章　判别函数分类器的设计46
　4.1　判别函数的基本概念46
　4.2　线性判别函数46
　　4.2.1　广义线性判别函数46
　　4.2.2　Fisher线性判别49
　　4.2.3　感知准则函数52
　　4.2.4　最小平方误差准则函数56
　4.3　线性分类器59
　4.4　分段线性分类器61
　4.5　基于核的Fisher分类64
　4.6　非线性判别函数65
　　4.6.1　分段线性判别函数的基本概念65
　　4.6.2　用凹函数的并表示分段线性判别函数67
　4.7　非线性分类器69
　4.8　支持向量机72
　本章小结75
　习题76
第5章　近邻法77
　5.1　最近邻法77
　　5.1.1　最近邻决策规则77
　　5.1.2　最近邻法的错误率分析78
　5.2　k-近邻法80
　5.3　剪辑近邻法84
　5.4　压缩近邻法87
　本章小结88
　习题88
第6章　特征选择90
　6.1　引言90
　6.2　特征的评价准则90
　6.3　类别可分性判据91
　　6.3.1　基于类距离的可分性判据92
　6.4　特征子集的选择93
　6.5　最优特征的生成94
　6.6　特征选择的最优算法96
　6.7　特征选择的次优算法99
　6.8　特征选择的遗传算法100
　本章小结101
　习题102
第7章　特征提取103
　7.1　引言103
　7.2　基于类别可分性判据的特征提取103
　7.3　主成分分析法105
　7.4　K-L变换107
　7.5　非线性维数降低108
　7.6　Haar变换116
　本章小结119
　习题119
第8章　聚类121
　8.1　基本概念121
　8.2　动态聚类算法122
　　8.2.1　概念122
　　8.2.2　C均值算法122
　　8.2.3　C均值算法的聚类数目125
　8.3　模糊聚类算法126
　　8.3.1　概念126
　　8.3.2　模糊C均值算法127
　　8.3.3　基于交替优化的实现130
　　8.3.4　基于神经网络的实现131
　　8.3.5　基于进化计算的实现131
　8.4　合并算法131
　　8.4.1　基于矩阵理论的合并算法133
　　8.4.2　基于图论的合并算法133
　8.5　层次聚类算法134
　8.6　最佳聚类数的选择137
　8.7　顺序聚类算法138
　　8.7.1　聚类数的估计140
　　8.7.2　顺序聚类算法的改进141
　本章小结142
　习题143
第9章　模糊模式识别方法144
　9.1　引言144
　9.2　模糊集的基本知识144
　　9.2.1　模糊集的定义与运算144
　9.3　模糊特征和模糊分类149
　　9.3.1　模糊化特征149
　　9.3.2　结果的模糊化150
　9.4　特征的模糊评价151
　　9.4.1　模糊度151
　　9.4.2　模糊特征提取152
　9.5　模糊模式识别的基本类型154
　　9.5.1　第一类模糊模式识别155
　　9.5.2　第二类模糊模式识别160
　9.6　基于模糊相似矩阵的分类方法165
　　9.6.1　传递闭包法165
　　9.6.2　直接聚类法165
　本章小结167
　习题167
第10章　车牌识别的应用举例169
　10.1　概述169
　10.2　字符识别算法170
　　10.2.1　字符识别原理170
　　10.2.2　基于模板匹配的字符识别算法171
　　10.2.3　基于神经网络的字符识别算法172
　　10.2.4　特征统计匹配法173
　10.3　实验方案174
　　10.3.1　车牌定位174
　　10.3.2　车牌字符分割176
　　10.3.3　车牌字符识别177
　本章小结177
　习题177
第11章　签名识别的应用举例178
　11.1　概述178
　11.2　基于视频的签名识别系统流程179
　11.3　实验方案180
　　11.3.1　签名识别的数据获取与初始笔尖定位180
　　11.3.2　视频签名识别的笔尖追踪183
　　11.3.3　基于视频的签名识别的特征提取及分类185
　本章小结187
　习题188
第12章　人脸识别的应用举例189
　12.1　概述189
　12.2　特征获取算法190
　　12.2.1　特征获取综述190
　　12.2.2　基于几何的特征获取算法190
　　12.2.3　基于统计的特征获取算法192
　12.3　实验方案194
　　12.3.1　人脸定位检测194
　　12.3.2　人脸特征提取196
　　12.3.3　人脸分类识别198
　本章小结199
　习题199
附录　教学建议200
参考文献202