✍ Scribed by Edwin K. P. Chong / Stanislaw H. Zak
No coin nor oath required. For personal study only.
本书是一本关于最优化技术的入门教材，全书共分为四部分。第一部分是预备知识。第二部分主要介绍无约束的优化问题，并介绍线性方程的求解方法、神经网络方法和全局搜索方法。第三部分介绍线性优化问题，包括线性优化问题的模型、单纯形法、对偶理论以及一些非单纯形法，简单介绍了整数线性优化问题。第四部分介绍有约束非线性优化问题，包括纯等式约束下和不等式约束下的优化问题的最优性条件、凸优化问题、有约束非线性优化问题的求解算法和多目标优化问题。中文版已根据作者提供的勘误表进行了内容更正。
第一部分数学知识回顾
第1章证明方法与相关记法
1.1证明方法
1.2记法
习题
第2章向量空间与矩阵
2.1向量与矩阵
2.2矩阵的秩
2.3线性方程组
2.4内积和范数
习题
第3章变换
3.1线性变换
3.2特征值与特征向量
3.3正交投影
3.4二次型函数
3.5矩阵范数
习题
第4章有关几何概念
4.1线段
4.2超平面与线性簇
4.3凸集
4.4邻域
4.5多面体和多胞形
习题
第5章微积分基础
5.1序列与极限
5.2可微性
5.3导数矩阵
5.4微分法则
5.5水平集与梯度
5.6泰勒级数
习题
第二部分无约束优化问题
第6章集合约束和无约束优化问题的基础知识
6.1引言
6.2局部极小点的条件
习题
第7章一维搜索方法
7.1引言
7.2黄金分割法
7.3斐波那契数列法
7.4二分法
7.5牛顿法
7.6割线法
7.7划界法
7.8多维优化问题中的一维搜索
习题
第8章梯度方法
8.1引言
8.2最速下降法
8.3梯度方法性质分析
习题
第9章牛顿法
9.1引言
9.2牛顿法性质分析
9.3Levenberg Marquardt修正
9.4牛顿法在非线性最小二乘问题中的应用
习题
第10章共轭方向法
10.1引言
10.2基本的共轭方向算法
10.3共轭梯度法
10.4非二次型问题中的共轭梯度法
习题
第11章拟牛顿法
11.1引言
11.2黑塞矩阵逆矩阵的近似
11.3秩1修正公式
11.4DFP算法
11.5BFGS算法
习题
第12章求解线性方程组
12.1最小二乘分析
12.2递推最小二乘算法
12.3线性方程组的最小范数解
12.4Kaczmarz算法
12.5一般意义下的线性方程组的求解
习题
第13章无约束优化问题和神经网络
13.1引言
13.2单个神经元训练
13.3反向传播算法
习题
第14章全局搜索算法
14.1引言
14.2Nelder Mead单纯形法
14.3模拟退火法
14.4粒子群优化算法
14.5遗传算法
习题
第三部分线 性 规 划
第15章线性规划概述
15.1线性规划简史
15.2线性规划的简单例子
15.3二维线性规划
15.4凸多面体和线性规划
15.5线性规划问题的标准型
15.6基本解
15.7基本解的性质
15.8几何视角下的线性规划
习题
第16章单纯形法
16.1利用行变换求解线性方程组
16.2增广矩阵的规范型
16.3更新增广矩阵
16.4单纯形法
16.5单纯形法的矩阵形式
16.6两阶段单纯形法
16.7修正单纯形法
习题
第17章对偶
17.1对偶线性规划
17.2对偶问题的性质
习题
第18章非单纯形法
18.1引言
18.2Khachiyan算法
18.3仿射尺度法
18.4Karmarkar算法
习题
第19章整数规划
19.1概述
19.2幺模矩阵
19.3Gomory割平面法
习题
第四部分有约束的非线性优化问题
第20章仅含等式约束的优化问题
20.1引言
20.2问题描述
20.3切线空间和法线空间
20.4拉格朗日条件
20.5二阶条件
20.6线性约束下二次型函数的极小化
习题
第21章含不等式约束的优化问题
21.1卡罗需库恩塔克（Karush Kuhn Tucker）条件
21.2二阶条件
习题
第22章凸优化问题
22.1引言
22.2凸函数
22.3凸优化问题
22.4半定规划
习题
第23章有约束优化问题的求解算法
23.1引言
23.2投影法
23.3求解含线性约束优化问题的投影梯度法
23.4拉格朗日法
23.5罚函数法
习题
第24章多目标优化
24.1引言
24.2帕累托解
24.3帕累托前沿的求解
24.4多目标优化到单目标优化的转换
24.5存在不确定性的线性规划
习题
参考文献
📜 SIMILAR VOLUMES
内 容 简 介 本书全面、系统地介绍了无约束最优化、约束最优化和非光滑最优化 的理论和计算方法，它包括了近年来国际上关于优化研究的最新成果. 本书可作研究生教材，可供从事计算数学、应用数学、运筹学和计算技 术的科研人员参考.
<p>本书对所谓无限维最优化理论的基本内容提供一个系统的处理。全书共8章。头两章概括了阅读本书主要内容所需的预备知识，其中包括基本的泛函分析结果与非光滑分析。随后各章阐述最优化理论的基本论题：不等式系统与择一定理，一阶与高阶最优性条件，对偶理论，向量最优化等。本书一方面以紧凑的形式概括了最优化理论的标准内容，同时介绍了较多的新近研究成果，其中包括作者本人的一些结果。这部分内容涉及近年来引起广泛关注的一些研究领域，因而可能为有研究兴趣的读者架设起从基础理论通向研究前沿的桥梁。对于数学系的高年级大学生及有关理工科专业的硕士生，本书略加删节之后可作为教材使用。在当代科学发展进程中，对于最优化理论的日
越民义、李荣珩编著的这本《组合优化导论(第2版)》是一本介绍组合优化这门学科的书，本书可看成三个部分，第一部分包括第1章、第2章和第3章，通过排序问题中较典型的例子介绍什么是组合优化中的可解问题，第二部分即第5章，是启发式算法方面的，这主要是韩继业教授的工作，第三部分由第4章、第6章和第7章组成，是近似算法方面的，其中第4章主要叙述装箱问题的一些经典结果，包括了作者在这方面的工作；第6章是关于Steiner比猜想的进展报告；第7章介绍Coffman等提出的多重算法，后两章的结果都是作者给出的。《组合优化导论(第2版)》适合高等院校数学、管理、信息处理等有关专业的学生、教师和研究人员阅读。
<p>《数值最优化算法与理论(第2版)》较为系统地介绍最优化领域中比较成熟的基本理论与方法。基本理论包括最优化问题解的必要条件和充分条件以及各种算法的收敛性理论。介绍的算法有：无约束问题的最速下降法、Newton法、拟Newton法、共轭梯度法、信赖域算法和直接法；非线性方程组和最小二乘问题的Newton法和拟Newton法；约束问题的罚函数法、乘子法、可行方向法、序列二次规划算法和信赖域算法等。还介绍了线性规划的基本理论与单纯形算法以及求解二次规划的有效集法。并简单介绍了求解全局最优化问题的几种常用算法。</p> <p>作为基本工具，《数值最优化算法与理论(第2版)》在附录中简要介绍了求解
<p>官方网站 http://bicmr.pku.edu.cn/~wenzw/optbook.html</p> <br> <p>最优化计算方法是运筹学、计算数学、机器学习和数据科学与大数据技术等专业的一门核心课程。最优化问题通常需要对实际需求进行定性和定量分析，建立恰当的数学模型来描述该问题，设计合适的计算方法来寻找问题的最优解，探索研究模型和算法的理论性质，考察算法的计算性能等多方面。最优化广泛应用于科学与工程计算、数据科学、机器学习、人工智能、图像和信号处理、金融和经济、管理科学等众多领域。本书将介绍最优化的基本概念、典型案例、基本算法和理论。 通过本书的学习，掌握最优化的基本概念，最