<p>《模式识别》系统阐述了模式识别的原理与方法,并在此基础上介绍了模式识别的应用。全书分为:基础部分和应用部分:基础部分主要包括统计模式识别、模糊模式识别、神经网络模式识别等内容;应用部分有车牌识别和语音识别。《模式识别》将理论与实践相结合,有利于读者加深对理论方法的理解,可使读者比较系统地掌握模式识别的理论和相关技术。书中给出的两个应用实例,为读者应用模式识别方法来解决实际问题提供了具体思路和方法。附录给出的习题解答,有利于学生学习理解原理与方法。</p> <p>《模式识别》可以作为高等院校自动化、计算机、生物医学工程等学科本科生、研究生的教材或教学参考书,亦可供有关工程技术人员参考。<
模式识别
✍ Scribed by 吴建鑫
- Publisher
- 机械工业出版社
- Year
- 2020
- Tongue
- Chinese
- Leaves
- 371
- Series
- 智能科学与技术丛书
- Category
- Library
No coin nor oath required. For personal study only.
✦ Synopsis
本书是模式识别领域的入门教材,系统阐述了模式识别中的基础知识、主要模型及热门应用,并给出了近年来本领域一些新的成果和观点;通过理论学习和动手实践相结合的形式使初学者能有效入门,并培养独立解决任务的能力,为模式识别的项目开发及相关科研活动打好基础.
全书共15章,大致分为五部分:第一部分(第1~4章)介绍了本书的概论和基础知识,包括绪论、数学背景知识、模式识别系统概述以及评估;第二部分(第5~6章)介绍了与领域知识无关的特征提取,包括主成分分析和Fisher线性判别;第三部分(第7~10章)介绍了分类器与其他工具,包括支持向量机、概率方法、距离度量与数据变换、信息论和决策树;第四部分(第11~12章)介绍了如何处理变化多端的数据,包括稀疏数据和未对齐数据、隐马尔可夫模型;第五部分(第13~15章)介绍了一些高阶课题,包括正态分布、EM算法和卷积神经网络.
本书可作为高等院校人工智能、计算机、自动化、电子和通信等相关专业研究生或本科生的教材,也可供人工智能、计算机、自动化、电子和通信等领域研究人员和工程技术人员参考.
✦ Table of Contents
封面
书名
版权
前言
目录
第一部分 概述
第1章 绪论
1.1 样例:自动驾驶
1.2 模式识别与机器学习
1.2.1 一个典型的模式识别流程
1.2.2 模式识别vs.机器学习
1.2.3 评估、部署和细化
1.3 本书的结构
习题
第2章 数学背景知识
2.1 线性代数
2.1.1 内积、范数、距离和正交性
2.1.2 角度与不等式
2.1.3 向量投影
2.1.4 矩阵基础
2.1.5 矩阵乘法
2.1.6 方阵的行列式与逆
2.1.7 方阵的特征值、特征向量、秩和迹
2.1.8 奇异值分解
2.1.9 (半)正定实对称矩阵
2.2 概率
2.2.1 基础
2.2.2 联合分布、条件分布与贝叶斯定理
2.2.3 期望与方差/协方差矩阵
2.2.4 不等式
2.2.5 独立性与相关性
2.2.6 正态分布
2.3 优化与矩阵微积分
2.3.1 局部极小、必要条件和矩阵微积分
2.3.2 凸优化与凹优化
2.3.3 约束优化和拉格朗日乘子法
2.4 算法复杂度
2.5 阅读材料
习题
第3章 模式识别系统概述
3.1 人脸识别
3.2 一个简单的最近邻分类器
3.2.1 训练或学习
3.2.2 测试或预测
3.2.3 最近邻分类器
3.2.4 k-近邻
3.3 丑陋的细节
3.4 制定假设并化简
3.4.1 设计工作环境vs.设计复杂算法
3.4.2 假设与简化
3.5 一种框架
3.6 阅读材料
习题
第4章 评估
4.1 简单情形中的准确率和错误率
4.1.1 训练与测试误差
4.1.2 过拟合与欠拟合
4.1.3 使用验证集来选择超参数
4.1.4 交叉验证
4.2 最小化代价/损失
4.2.1 正则化
4.2.2 代价矩阵
4.2.3 贝叶斯决策理论
4.3 不平衡问题中的评估
4.3.1 单个类别内的比率
4.3.2 ROC曲线下的面积
4.3.3 查准率、查全率和F值
4.4 我们能达到100%的准确率吗?
4.4.1 贝叶斯错误率
4.4.2 真实标记
4.4.3 偏置-方差分解
4.5 对评估结果的信心
4.5.1 为什么要取平均?
4.5.2 为什么要报告样本标准差?
4.5.3 比较两个分类器
4.6 阅读材料
习题
第二部分 与领域知识无关的特征提取
第5章 主成分分析
5.1 动机
5.1.1 维度与内在维度
5.1.2 降维
5.1.3 PCA与子空间方法
5.2 PCA降维到零维子空间
5.2.1 想法-形式化-优化实践
5.2.2 一个简单的优化
5.2.3 一些注释
5.3 PCA降维到一维子空间
5.3.1 新的形式化
5.3.2 最优性条件与化简
5.3.3 与特征分解的联系
5.3.4 解
5.4 PCA投影到更多维度
5.5 完整的PCA算法
5.6 方差的分析
5.6.1 从最大化方差出发的PCA
5.6.2 一种更简单的推导
5.6.3 我们需要多少维度呢?
5.7 什么时候使用或不用PCA呢?
5.7.1 高斯数据的PCA
5.7.2 非高斯数据的PCA
5.7.3 含异常点数据的PCA
5.8 白化变换
5.9 特征分解vs.SVD
5.10 阅读材料
习题
第6章 Fisher线性判别
6.1 用于二分类的FLD
6.1.1 想法:什么是隔得很远呢?
6.1.2 翻译成数学语言
6.1.3 散度矩阵vs.协方差矩阵
6.1.4 两种散度矩阵以及FLD的目标函数
6.1.5 优化
6.1.6 等等,我们有一条捷径
6.1.7 二分类问题的FLD
6.1.8 陷阱:要是SW不可逆呢?
6.2 用于多类的FLD
6.2.1 稍加修改的符号和S W
6.2.2 S B的候选
6.2.3 三个散度矩阵的故事
6.2.4 解
6.2.5 找到更多投影方向
6.3 阅读材料
习题
第三部分 分类器与其他工具
第7章 支持向量机
7.1 SVM的关键思想
7.1.1 简化它!简化它!简化它!
7.1.2 查找最大(或较大)间隔的分类器
7.2 可视化并计算间隔
7.2.1 几何的可视化
7.2.2 将间隔作为优化来计算
7.3 最大化间隔
7.3.1 形式化
7.3.2 各种简化
7.4 优化与求解
7.4.1 拉格朗日函数与KKT条件
7.4.2 SVM的对偶形式
7.4.3 最优的b值与支持向量
7.4.4 同时考虑原始形式与对偶形式
7.5 向线性不可分问题和多类问题的扩展
7.5.1 不可分问题的线性分类器
7.5.2 多类SVM
7.6 核SVM
7.6.1 核技巧
7.6.2 Mercer条件与特征映射
7.6.3 流行的核函数与超参数
7.6.4 SVM的复杂度、权衡及其他
7.7 阅读材料
习题
第8章 概率方法
8.1 思考问题的概率路线
8.1.1 术语
8.1.2 分布与推断
8.1.3 贝叶斯定理
8.2 各种选择
8.2.1 生成式模型vs.判别式模型
8.2.2 参数化vs非参数化
8.2.3 该如何看待一个参数呢?
8.3 参数化估计
8.3.1 最大似然
8.3.2 最大后验
8.3.3 贝叶斯
8.4 非参数化估计
8.4.1 一个一维的例子
8.4.2 直方图近似中存在的问题
8.4.3 让你的样本无远弗届
8.4.4 核密度估计
8.4.5 带宽选择
8.4.6 多变量KDE
8.5 做出决策
8.6 阅读材料
习题
第9章 距离度量与数据变换
9.1 距离度量和相似度度量
9.1.1 距离度量
9.1.2 向量范数和度量
9.1.3 ep范数和ep度量
9.1.4 距离度量学习
9.1.5 均值作为一种相似度度量
9.1.6 幂平均核
9.2 数据变换和规范化
9.2.1 线性回归
9.2.2 特征规范化
9.2.3 数据变换
9.3 阅读材料
习题
第10章 信息论和决策树
10.1 前缀码和霍夫曼树
10.2 信息论基础
10.2.1 熵和不确定性
10.2.2 联合和条件熵
10.2.3 互信息和相对熵
10.2.4 一些不等式
10.2.5 离散分布的熵
10.3 连续分布的信息论
10.3.1 微分熵
10.3.2 多元高斯分布的熵
10.3.3 高斯分布是最大熵分布
10.4 机器学习和模式识别中的信息论
10.4.1 最大熵
10.4.2 最小交叉熵
10.4.3 特征选择
10.5 决策树
10.5.1 异或问题及其决策树模型
10.5.2 基于信息增益的结点划分
10.6 阅读材料
习题
第四部分 处理变化多端的数据
第11章 稀疏数据和未对齐数据
11.1 稀疏机器学习
11.1.1 稀疏PCA?
11.1.2 使用e1范数诱导稀疏性
11.1.3 使用过完备的字典
11.1.4 其他一些相关的话题
11.2 动态时间规整
11.2.1 未对齐的时序数据
11.2.2 思路(或准则)
11.2.3 可视化和形式化
11.2.4 动态规划
11.3 阅读材料
习题
第12章 隐马尔可夫模型
12.1 时序数据与马尔可夫性质
12.1.1 各种各样的时序数据和模型
12.1.2 马尔可夫性质
12.1.3 离散时间马尔可夫链
12.1.4 隐马尔可夫模型
12.2 HMM学习中的三个基本问题
12.3 α、β和评估问题
12.3.1 前向变量和算法
12.3.2 后向变量和算法
12.4 γ、δ、ψ和解码问题
12.4.1 γ和独立解码的最优状态
12.4.2 δ、ψ和联合解码的最优状态
12.5 ξ和HMM参数的学习
12.5.1 Baum-Welch:以期望比例来更新λ
12.5.2 如何计算ξ
12.6 阅读材料
习题
第五部分 高阶课题
第13章 正态分布
13.1 定义
13.1.1 单变量正态分布
13.1.2 多元正态分布
13.2 符号和参数化形式
13.3 线性运算与求和
13.3.1 单变量的情形
13.3.2 多变量的情形
13.4 几何和马氏距离
13.5 条件作用
13.6 高斯分布的乘积
13.7 应用Ⅰ:参数估计
13.7.1 最大似然估计
13.7.2 贝叶斯参数估计
13.8 应用Ⅱ:卡尔曼滤波
13.8.1 模型
13.8.2 估计
13.9 在本章中有用的数学
13.9.1 高斯积分
13.9.2 特征函数
13.9.3 舒尔补&矩阵求逆引理
13.9.4 向量和矩阵导数
习题
第14章 EM算法的基本思想
14.1 GMM:一个工作实例
14.1.1 高斯混合模型
14.1.2 基于隐变量的诠释
14.1.3 假若我们能观测到隐变量,那会怎样?
14.1.4 我们可以模仿先知吗?
14.2 EM算法的非正式描述
14.3 期望最大化算法
14.3.1 联合非凹的不完整数据对数似然
14.3.2 (可能是)凹的完整数据对数似然
14.3.3 通用EM的推导
14.3.4 E步和M步
14.3.5 EM算法
14.3.6 EM能收敛吗?
14.4 EM用于GMM
14.5 阅读材料
习题
第15章 卷积神经网络
15.1 预备知识
15.1.1 张量和向量化
15.1.2 向量微积分和链式法则
15.2 CNN概览
15.2.1 结构
15.2.2 前向运行
15.2.3 随机梯度下降
15.2.4 误差反向传播
15.3 层的输入、输出和符号
15.4 ReLU层
15.5 卷积层
15.5.1 什么是卷积?
15.5.2 为什么要进行卷积?
15.5.3 卷积作为矩阵乘法
15.5.4 克罗内克积
15.5.5 反向传播:更新参数
15.5.6 更高维的指示矩阵
15.5.7 反向传播:为前一层准备监督信号
15.5.8 用卷积层实现全连接层
15.6 汇合层
15.7 案例分析:VGG-16网络
15.7.1 VGG-Verydeep-16
15.7.2 感受野
15.8 CNN的亲身体验
15.9 阅读材料
习题
参考文献
英文索引
中文索引
封底
📜 SIMILAR VOLUMES
<p>《现代模式识别》系统深入地论述了模式识别的理论与方法、较全面地介绍了本学科的新近科技成果。全书共12章,讨论的主流模式识别技术是:统计模式识别、模糊模式识别、神经网络技术、人工智能方法、句法模式识别。第一章为引论,第二章至第七章介绍的统计模式识别包括聚类分析、判别代数界面方程法、统计判决、训练学习与错误率估计、特征提取与选择以及最近邻法,第十一章信息融合集中论述识别与决策中的有关融合技术,第十二章人工智能方法侧重论述不确定推理,其他类型识别方法在其余各章分别介绍。</p>
<p>本书将模式识别与人工智能理论和实际应用相结合,以酒瓶颜色分类为例,介绍各种算法理论及相应的 MATLAB实现程序。全书共分为 10 章,内容包括模式识别概述、贝叶斯分类器设计、判别函数分类器设计、聚类分析、模糊聚类分析、神经网络聚类设计、模拟退火算法聚类设计、遗传算法聚类设计、蚁群算法聚类设计、粒子群算法聚类设计,覆盖了各种常用的模式识别技术。</p> <p>本书可作为高等院校自动化、计算机、电子和通信等专业研究生和高年级本科生的教材,也可作为计算机信息处理、自动控制等相关领域工程技术人员的参考用书。</p>