本书的章节结构安排如下:第一章绪论介绍关于最优化的基本知识,通过举例使读者对生活中无处不在的最优化问题有大致了解。第二章到第六章是关于无约束优化问题的计算方法。第七章到第十二章是关于带约束优化问题的计算方法。本书中介绍的所有方法均给出了Matlab编程实现过程。附录A是重要术语的中英文名称对照表,能够方便读者进一步阅读最优化领域的英文书籍;附录B是MATLAB的基本使用方法,即使读者没有用过MATLAB,通过阅读附录B也能用所给出的程序,完成各章习题;附录C是本书程序的参数说明以及与MATLAB自带优化程序的比较,以便读者体验本书程序的严谨性和优越性之所在。
样章试读
目录
- 前言
第1章 绪论
1.1 最优化方法的发展历史
1.2 最优化问题举例
1.3 最优化问题的数学模型及相关概念
1.3.1 最优化问题的数学模型及三要素
1.3.2 可行点、非可行点、可行域
1.3.3 其他形式优化问题的转化
1.4 最优化方法的分类
1.5 最优化方法的算法基本结构
1.6 最优化算法的评价指标
第2章 无约束优化问题的基本概念与理论
2.1 梯度信息
2.1.1 梯度向量
2.1.2 Hesse矩阵
2.1.3 Hesse矩阵的正定、半正定、负定、半负定、不定性质及判定
2.1.4 梯度向量与Hesse矩阵的关系
2.2 Taylor展开式与函数逼近
2.2.1 一维函数的Taylor展开式
2.2.2 多维函数的Taylor展开式
2.2.3 多维函数的一阶与二阶Taylor展开式
2.3 极值点与稳定点
2.3.1 极值点
2.3.2 稳定点
2.4 凸集、凸函数与凸优化
2.4.1 凸集
2.4.2 凸函数和凹函数
2.4.3 凸函数的相关性质
2.4.4 函数凹凸性的判定
2.4.5 凸优化问题的定义
2.4.6 凸优化问题的判定准则
2.5 无约束优化问题的最优性条件
2.5.1 一阶必要条件
2.5.2 二阶必要条件
2.5.3 二阶充分条件
2.6 下降方向
习题
第3章 精确一维搜索方法
3.1 精确一维搜索介绍
3.1.1 一维搜索在最优化方法中的地位
3.1.2 精确一维搜索的问题描述与基本原理
3.1.3 区间消去思想
3.1.4 精确一维搜索方法的分类
3.2 对分搜索法
3.2.1 对分搜索法的原理
3.2.2 对分搜索法的实现难点
3.2.3 对分搜索法的计算步骤
3.2.4 对分搜索法的流程图
3.2.5 对分搜索法的MATLAB程序
3.2.6 实例测试
3.3 三点等间隔搜索法
3.3.1 等间隔搜索原理
3.3.2 三点等间隔搜索法的原理
3.3.3 三点等间隔搜索法的计算步骤
3.3.4 三点等间隔搜索法的流程图
3.3.5 三点等间隔搜索法的MATLAB程序
3.3.6 实例测试
3.4 Fibonacci搜索法
3.4.1 对称区间消去原理
3.4.2 对称区间消去法的缩减率特点
3.4.3 Fibonacci搜索法的原理
3.4.4 Fibonacci搜索法的实现难点
3.4.5 Fibonacci搜索法的计算步骤
3.4.6 Fibonacci搜索法的流程图
3.4.7 Fibonacci搜索法的MATLAB程序
3.4.8 实例测试
3.5 黄金分割法
3.5.1 黄金分割法的基本原理
3.5.2 黄金分割法与Fibonacci搜索法的关系
3.5.3 黄金分割法的计算步骤
3.5.4 黄金分割法的流程图
3.5.5 黄金分割法的MATLAB程序
3.5.6 实例测试
3.6 三点二次插值法
3.6.1 三点二次插值法的原理
3.6.2 四种不同的区间消去情况
3.6.3 三点二次插值法的计算步骤
3.6.4 三点二次插值法的流程图
3.6.5 三点二次插值法的MATLAB程序
3.6.6 实例测试
习题
第4章 非精确一维搜索方法
4.1 非精确一维搜索介绍
4.1.1 非精确一维搜索方法的优势
4.1.2 非精确一维搜索的问题描述与基本原理
4.1.3 更新步长区间的两点抛物线插值方法
4.2 Armijo非精确搜索方法
4.2.1 Armijo条件
4.2.2 Armijo非精确搜索方法的计算步骤
4.2.3 Armijo非精确搜索方法的流程图
4.2.4 Armijo非精确搜索方法的MATLAB程序
4.2.5 实例测试
4.3 Goldstein非精确搜索方法
4.3.1 Goldstein条件
4.3.2 Goldstein非精确搜索方法的计算步骤
4.3.3 Goldstein非精确搜索方法的流程图
4.3.4 Goldstein非精确搜索方法的MATLAB程序
4.3.5 实例测试
4.4 Wolfe非精确搜索方法
4.4.1 Wolfe条件
4.4.2 Wolfe非精确搜索方法的计算步骤
4.4.3 Wolfe非精确搜索方法的流程图
4.4.4 Wolfe非精确搜索方法的MATLAB程序
4.4.5 实例测试
4.5 强Wolfe非精确搜索方法
4.5.1 强Wolfe条件
4.5.2 强Wolfe非精确搜索方法的计算步骤
4.5.3 强Wolfe非精确搜索方法的流程图
4.5.4 强Wolfe非精确搜索方法的MATLAB程序
4.5.5 实例测试
习题
第5章 基本多维无约束优化方法
5.1 多维无约束优化方法介绍
5.1.1 多维无约束优化方法的地位
5.1.2 多维无约束优化问题的描述
5.1.3 多维无约束优化的方法分类
5.1.4 算法的收敛准则
5.2 最速下降法
5.2.1 最速下降法的原理
5.2.2 最速下降法的特点
5.2.3 最速下降法的计算步骤
5.2.4 最速下降法的流程图
5.2.5 最速下降法的MATLAB程序
5.2.6 实例测试
5.3 牛顿法
5.3.1 牛顿法的原理
5.3.2 牛顿方向的特点
5.3.3 牛顿法的实现难点
5.3.4 牛顿法的计算步骤
5.3.5 牛顿法的流程图
5.3.6 牛顿法的MATLAB程序
5.3.7 实例测试
5.4 高斯牛顿法
5.4.1 高斯牛顿法的原理
5.4.2 高斯牛顿法的实现难点
5.4.3 高斯牛顿法的计算步骤
5.4.4 高斯牛顿法的流程图
5.4.5 高斯牛顿法的MATLAB程序
5.4.6 实例测试
习题
第6章 高级多维无约束优化方法
6.1 共轭梯度法
6.1.1 向量组共轭的相关概念与定理
6.1.2 共轭方向法的基本原理
6.1.3 共轭梯度法的基本原理
6.1.4 共轭梯度法的性质
6.1.5 共轭梯度法的计算步骤
6.1.6 共轭梯度法的流程图
6.1.7 Dai-Yuan共轭梯度法的MATLAB程序
6.1.8 Hager-Zhang共轭梯度法的MATLAB程序
6.1.9 实例测试
6.2 拟牛顿法
6.2.1 拟牛顿法的基本思想
6.2.2 校正矩阵的构造方法
6.2.3 DFP校正公式
6.2.4 DFP拟牛顿法的性质
6.2.5 Sherman-Morrison公式及BFGS校正公式
6.2.6 DFP/BFGS拟牛顿法的计算步骤
6.2.7 DFP/BFGS拟牛顿法的流程图
6.2.8 DFP拟牛顿法的MATLAB程序
6.2.9 BFGS拟牛顿法的MATLAB程序
6.2.10 实例测试
习题
第7章 带约束优化问题的基本概念与理论
7.1 约束的分类及对求解的影响
7.1.1 带约束优化问题的定义
7.1.2 约束的分类
7.1.3 约束对可行域的影响
7.1.4 带不等式约束优化问题的可行方向
7.2 带约束优化问题的最优性条件
7.2.1 几个重要概念
7.2.2 一阶必要条件
7.2.3 KKT条件的几何解释
7.2.4 KKT条件的拉格朗日函数表达形式
7.2.5 二阶必要条件
7.2.6 二阶充分条件
7.2.7 对比无约束优化问题的最优性条件
7.3 凸优化问题的性质
7.4 凸优化问题的对偶性
7.4.1 凸优化问题的拉格朗日对偶问题
7.4.2 原问题与对偶问题之间的理论联系
7.5 带约束优化问题的算法思想
7.5.1 代入消去思想
7.5.2 积极集思想
7.5.3 内点逼近思想
7.5.4 序列子问题逼近思想
习题
第8章 线性规划问题的单纯形法
8.1 线性规划问题的模型及基本理论
8.1.1 线性规划在优化中的地位
8.1.2 线性规划问题的标准形式及转换方法
8.1.3 标准型线性规划问题解的相关概念
8.1.4 线性规划问题解的基本定理
8.1.5 线性规划问题最优解的可能情况
8.1.6 线性规划问题的图解法
8.1.7 线性规划问题的穷举法
8.1.8 线性规划问题的单纯形法
8.1.9 单纯形法的难点
8.2 决策变量非负线性规划问题的单纯形法
8.2.1 问题形式
8.2.2 决策变量非负线性规划问题单纯形法的基本原理
8.2.3 通过两阶段法获取初始可行基
8.2.4 两阶段改进型单纯形法的实现难点
8.2.5 两阶段改进型单纯形法的计算步骤
8.2.6 两阶段改进型单纯形法的流程图
8.2.7 两阶段改进型单纯形法的MATLAB程序
8.2.8 实例测试
8.3 决策变量有界线性规划问题的单纯形法
8.3.1 决策变量有界的标准型线性规划问题及转换方法
8.3.2 决策变量有界问题的解的相关概念
8.3.3 问题形式
8.3.4 决策变量有界问题单纯形法针对的基本原理
8.3.5 通过两阶段法获取初始可行基
8.3.6 两阶段改进型单纯形法的计算步骤
8.3.7 两阶段改进型单纯形法的流程图
8.3.8 实例测试
8.4 对单纯形法的进一步讨论
8.4.1 两类标准型线性规划问题的关系
8.4.2 线性规划问题的退化情况
8.4.3 单纯形法的收敛性
8.4.4 从凸优化的角度看线性规划问题
8.4.5 从积极集思想看单纯形法
8.4.6 实现单纯形法时的其他注意事项
习题
第9章 线性规划问题的内点法
9.1 内点法的相关概念与基本原理
9.1.1 内点法与单纯形法
9.1.2 线性规划问题的对偶问题与对偶间隔
9.1.3 内点与中心路径
9.1.4 内点法的基本原理
9.2 原-对偶可行路径跟踪法
9.2.1 问题形式
9.2.2 原-对偶可行路径跟踪法的基本原理
9.2.3 原-对偶可行路径跟踪法的计算步骤
9.2.4 原-对偶可行路径跟踪法的流程图
9.2.5 原-对偶可行路径跟踪法的MATLAB程序
9.2.6 实例测试
9.3 原-对偶非可行路径跟踪法
9.3.1 原-对偶非可行路径跟踪法的基本原理
9.3.2 原-对偶非可行路径跟踪法的计算步骤
9.3.3 原-对偶非可行路径跟踪法的流程图
9.3.4 原-对偶非可行路径跟踪法的MATLAB程序
9.3.5 实例测试
9.4 带预测校正的原-对偶路径跟踪法
9.4.1 带预测校正的原-对偶路径跟踪法的基本原理
9.4.2 带预测校正的原-对偶路径跟踪法的计算步骤
9.4.3 带预测校正的原-对偶路径跟踪法的流程图
9.4.4 实例测试
习题
第10章 二次规划问题的积极集法
10.1 二次规划问题介绍
10.1.1 二次规划问题的标准形式及在优化中的地位
10.1.2 凸二次规划问题
10.2 等式约束凸二次规划问题的解法
10.2.1 问题形式
10.2.2 基于SVD分解转化为无约束问题
10.2.3 基于QR分解转化为无约束问题
10.2.4 基于KKT条件求解
10.2.5 等式约束凸二次规划问题的解法比较
10.2.6 等式约束凸二次规划问题的QR分解法计算步骤
10.2.7 等式约束凸二次规划问题的QR分解法流程图
10.2.8 等式约束凸二次规划问题的QR分解法MATLAB程序
10.2.9 实例测试
10.3 凸二次规划问题的积极集法
10.3.1 问题形式
10.3.2 凸二次规划的积极集法原理
10.3.3 利用辅助线性规划问题寻找初始可行点
10.3.4 “构造问题”与最优解的判断准则
10.3.5 “构造问题”的“等价问题”
10.3.6 待求问题、“构造问题”、“等价问题”之间的关系
10.3.7 寻找使目标函数值更优的可行点
10.3.8 凸二次规划问题的积极集法的计算步骤
10.3.9 凸二次规划问题的积极集法的流程图
10.3.10 凸二次规划问题的积极集法MATLAB程序
10.3.11 实例测试
习题
第11章 二次规划问题的内点法
11.1 原-对偶非可行路径跟踪法
11.1.1 凸二次规划问题的内点法
11.1.2 凸二次规划问题的对偶问题与对偶间隔
11.1.3 原-对偶非可行路径跟踪法的基本原理
11.1.4 原-对偶非可行路径跟踪法的计算步骤
11.1.5 原-对偶非可行路径跟踪法的流程图
11.1.6 原-对偶非可行路径跟踪法的MATLAB程序
11.1.7 实例测试
11.2 带预测校正的原-对偶路径跟踪法
11.2.1 带预测校正的原-对偶路径跟踪法的基本原理
11.2.2 带预测校正的原-对偶路径跟踪法的计算步骤
11.2.3 带预测校正的原-对偶路径跟踪法的流程图
11.2.4 实例测试
习题
第12章 序列二次规划方法
12.1 从序列无约束优化到序列二次规划
12.2 等式约束非线性优化问题的局部SQP方法
12.2.1 问题形式
12.2.2 拉格朗日函数以及相关记号
12.2.3 用牛顿法解待求问题的KKT条件
12.2.4 KKT条件的线性化
12.2.5 SQP方法的基本思想
12.2.6 二次规划子问题的进一步讨论
12.2.7 等式约束非线性优化问题的局部SQP方法计算步骤
12.2.8 等式约束非线性优化问题的局部SQP方法流程图
12.2.9 等式约束非线性优化问题的局部SQP方法MATLAB程序
12.2.10 实例测试
12.3 一般非线性优化问题的局部SQP方法
12.3.1 问题形式
12.3.2 拉格朗日函数以及相关记号
12.3.3 KKT条件的线性化
12.3.4 二次规划子问题的进一步讨论
12.3.5 一般非线性优化问题的局部SQP方法计算步骤
12.3.6 一般非线性优化问题的局部SQP方法流程图
12.3.7 一般非线性优化问题的局部SQP方法MATLAB程序
12.3.8 实例测试
12.4 扩展为全局SQP方法的难点及对策
12.4.1 扩展局部SQP方法的难点
12.4.2 拉格朗日函数Hesse矩阵的BFGS近似
12.4.3 使二次规划子问题有唯一解
12.4.4 效益函数与全局收敛性
12.4.5 二次规划子问题的可行性保证
12.4.6 Maratos效应的克服
12.5 一般非线性优化问题的全局SQP方法
12.5.1 非线性优化问题的全局SQP方法
12.5.2 非线性优化问题的全局SQP方法计算步骤
12.5.3 非线性优化问题的全局SQP方法流程图
12.5.4 实例测试
习题
参考文献
附录 优化程序基本调用方法及参数说明