最优化模型：线性代数模型、凸优化模型及应用

　　本书内容详实，结构严谨，侧重于介绍优化理论在实际生活中的应用，是学习优化理论不可多得的入门教材。读者将从本书中学到如何识别、简化、建模以及求解相关优化问题，并将其中暗含的基本原理应用到自己正在进展的项目中。本书对线性代数做了清晰而完整的介绍。通过引入相关的实际案例，以易于理解且形象的方式给读者展示核心的数学概念，并帮助其领会问题的实际意义。阅读本书不需要太多的预备知识，读者只需要对几何学、微积分学和概率统计学有一个基本的了解。本书可用于本科生或研究生优化理论学习的教材。

　　Giuseppe C.Calafiore 是意大利都灵理工大学自动化与信息学院副教授，意大利国家研究委员会电子、计算机和电信工程研究所研究员。Laurent El Ghaoui 是美国加州大学伯克利分校电气工程和计算机科学系以及工业工程和运筹学系的教授。

译者序
前言
第 1 章 绪论 1
1.1 启发性的例子 1
1.2 优化问题 4
1.3 优化问题的重要类型 9
1.4 发展历史 13
第一部分 线性代数模型
第 2 章 向量和函数 18
2.1 向量的基本概念 18
2.2 范数与内积 25
2.3 子空间上的投影 35
2.4 函数 41
2.5 习题 52
第 3 章 矩阵 54
3.1 矩阵的基本概念 54
3.2 矩阵作为线性映射 59
3.3 行列式、特征值和特征向量 62
3.4 具有特殊结构和性质的矩阵 73
3.5 矩阵分解 79
3.6 矩阵范数 82
3.7 矩阵函数 85
3.8 习题 89
第 4 章 对称矩阵 94
4.1 基础知识 94
4.2 谱定理 99
4.3 谱分解与优化 103
4.4 半正定矩阵 106
4.5 习题 113
第 5 章 奇异值分解 117
5.1 奇异值分解的基本概念 117
5.2 由 SVD 建立矩阵性质 120
5.3 奇异值分解与优化 126
5.4 习题 138
第 6 章 线性方程组与最小二乘 142
6.1 动机与例子 142
6.2 线性方程组的解集 148
6.3 最小二乘和最小范数解 150
6.4 求解线性方程组和最小二乘问题 158
6.5 解的灵敏性 162
6.6 单位球的正反映射 165
6.7 最小二乘问题的变形 171
6.8 习题 180
第 7 章 矩阵算法 185
7.1 特征值和特征向量的计算 185
7.2 求解平方线性方程组 190
7.3 QR 分解 195
7.4 习题 199
第二部分 凸优化模型
第 8 章 凸性 204
8.1 凸集 204
8.2 凸函数 211
8.3 凸问题 231
8.4 最优性条件 250
8.5 对偶 254
8.6 习题 269
第 9 章 线性、二次与几何模型 273
9.1 二次函数的无约束最小化 273
9.2 线性与凸二次不等式的几何表示 276
9.3 线性规划 281
9.4 二次规划 292
9.5 用 LP 和 QP 建模 301
9.6 与 LS 相关的二次规划 312
9.7 几何规划 315
9.8 习题 321
第 10 章 二阶锥和鲁棒模型 326
10.1 二阶锥规划 326
10.2 SOCP 可表示的问题和例子 332
10.3 鲁棒优化模型 346
10.4 习题 353
第 11 章 半定模型 357
11.1 从线性到锥模型 357
11.2 线性矩阵不等式 358
11.3 半定规划 369
11.4 半定规划模型的例子 375
11.5 习题 393
第 12 章 算法介绍 399
12.1 技术方面的预备知识 400
12.2 光滑无约束极小化算法 405
12.3 光滑凸约束极小化算法 423
12.4 非光滑凸优化算法 443
12.5 坐标下降法 454
12.6 分散式优化方法 457
12.7 习题 465
第三部分 应用
第 13 章 从数据中学习 472
13.1 监督学习概述 472
13.2 基于多项式模型的最小二乘预测 473
13.3 二元分类 478
13.4 一般监督学习问题 485
13.5 ......