本书总结了各种广义的最小二乘问题的理论与计算的最新成果.主要包括最小二乘问题、总体最小二乘问题、等式约束最小二乘问题以及刚性加权最小二乘问题等的理论与科学计算问题。
由于各种广义奇异值分解在解决矩阵论和数值代数问题中有着重要的作用,书中也较详细地介绍了广义的奇异值分解,并应用于解决若干矩阵论和数值代数问题本书需要的预备知识为数值代数和矩阵论。
样章试读
目录
- 目录
第一章 预备知识 1
1.1引言 1
1.2特征值和特征向量 2
1.3矩阵分解 4
1.3.1若干基本分解 4
1.3.2 SVD的推广 6
1.4 Hermite矩阵的特征值和矩阵的奇异值 13
1.4.1 Hermite矩阵特征值的极小极太定理 13
1.4.2矩阵奇异值的极小极大定理 15
91.5广义逆 16
1.5.1 Moore-Penrose逆 16
1.5.2其他广义逆 19
1.6投影 20
1.6.1署等矩阵和投影 21
1.6.2正交投影 23
1.6.3投影的几何意义 24
1.7范数 25
1.7.1向量范数 25
1.7.2矩阵范数 28
1.8行列式Hadamard不等式和Kronecker乘积 34
1.8.1 Binet-Cauchy公式 34
1.8.2 Hadamard 不等式 36
1.8.3 Kronecker 乘积 37
1.9矩阵广义逆的进一步讨论 39
1.9.1矩阵乘积广义逆的反序律 40
1.9.2加边矩阵的广义逆 43
1.9.3矩阵加权广义逆的结构 46
习题一 53
第二章 奇异值,奇异子空间和MP逆的扰动 57
2.1西不变范数的性质 57
2.1.1 von Neumann定理 57
2.1.2 SG函数 60
2.1.3西不变范数的性质 62
2.2奇异值的扰动和降秩最佳逼近 64
2.2.1奇异值的扰动 64
2.2.2降秩最佳逼近 65
2.3正交投影和奇异子空间的扰动 68
2.4 MP逆的扰动 77
习题二 80
第三章 线性最小二乘问题 84
3.1线性最小二乘问题 84
3.1.1线性最小二乘及其等价性问题 85
3.1.2 LS问题的正则化 87
3.2 LS问题的扰动 89
3.3若干矩阵方程的LS解 94
3.4加权最小二乘问题 98
3.5 WLS问题的误差估计 101
3.5.1第一种类型的误差界 lO2
3.5.2第二种类型的误差界 104
习题三 105
第四章 总体最小二乘问题 107
4.1总体最小二乘问题及其解集 107
4.1.1总体最小二乘问题的定义 107
4.1.2 TLS问题的解集 114
4.2 TLS和截断的LS问题的扰动 116
4.2.1 TLS问题的扰动 117
4.2.2截断的LS问题的扰动 123
4.3 TLS和截断的LS问题的比较 125
4.3.1 TLS和截断的LS问题的解的比较 126
4.3.2 TLS和截断的LS问题残量的比较 128
4.3.3 TLS和截断的LS问题极小F范数修正矩阵的比较 130
4.3.4一个实例 133
4.4推广的降秩最佳逼近定理 134
4.5 LS-TLS问题 141
4.6约束总体最小二乘问题 146
习题四 150
第五章 等式约束最小二乘问题 153
5.1等式约束最小二乘问题 153
5.1.1等式约束最小二乘问题的定义与解集 153
5.1.2等式约束最小二乘问题的等价性问题 155
5.2关于KKT方程 161
5.2.1 WLS问题的KKT方程 161
5.2.2 LSE和WLS问题的KKT方程解的比较 163
5.2.3对应于B和B('T)零特征值的特征子壁间 165
5.3 LSE问题的误差估计 165
5.4等式约束加权最小二乘问题 175
5.4.1等式约束加权最小二乘问题的定义与解集 175
5.4.2加权最小二乘问题的等价性问题 176
5.5 WLSE问题的扰动 178
5.6多重约束MP逆和多重约束最小二乘问题 182
5.7嵌入总体最小二乘问题 186
习题五 193
第六章 加权MP逆和约束加权MP逆的上确界 195
6.1基本问题 195
6.2加权MP逆的上确界 198
6.3约束加权MP逆的上确界 203
6.4双侧加权MP逆的上确界 210
习题六 213
第七章 WLS问题和WLSE问题的稳定性扰动 215
7.1加权MP逆和约束加权MP逆的稳定性 215
7.1.1加权MP逆的稳定性 215
7.1.2约束加权MP逆的稳定性 218
7.1.3双侧加权MP逆的稳定性 222
7.2加权投影矩阵的扰动上界 224
7.3加权最小三乘问题的稳定性扰动 232
7.4约束加权最小二乘问题的稳定性扰动 235
习题七 240
第八章 刚性加权最小二乘问题 242
8.1预备知识 242
8.2刚性加权最小二乘和多重约束最小二乘问题 245
8.3刚性加权投影矩阵和刚性加权MP逆的扰动 248
8.4刚性加权最小二乘问题的扰动 256
习题八 257
第九章 广义最小二乘问题的直接解法 258
9.1基本知识 258
9.1.1算法和浮点运算 258
9.1.2正定矩阵线性方程组的数值计算 259
9.1.3矩阵的预条件处理 261
9.2正交分解的数值计算 262
9.2.1 QR分解 262
9.2.2完全正交分解 272
9.2.3奇异值分解 274
9.3最小二乘问题的直接解法 276
9.3.1 QR分解方法 276
9.3.2法方程法 277
9.3.3完全正交分解方法 277
9.3.4 SVD方法 278
9.4总体最小二乘问题的直接解法 278
9.4.1基本SVD方法 278
9.4.2完全正交方法 279
9.4.3 Cho1四句分解法 279
9.5约束是小二乘问题的数值解法 280
9.5.1零空间法 280
9.5.2加权LS法 281
9.5.3直接消去法 281
9.5.4 QR分解和Q-SVD方法 284
9.6刚性WLS问题和刚性WLSE问题的直接解法 285
9.6.1行稳定的QR分解 285
9.6.2刚性WLS问题的稳定解法 287
9.6.3刚性WLSE问题的稳定解法 290
习题九 290
第十章 广义最小二乘问题的迭代解法 292
10.1基本知识 292
10.1.1 Chebyshev多项式 292
10.1.2分裂法代法的基本理论 295
10.1.3实对称三对角矩阵的特征值的范围 299
10.2最小二乘解的法代算法 301
10.2.1分裂迭代法 301
10.2.2 Krylov子壁间法 306
10.2.3预条件对称反对称分裂迭代法 314
10.3总体最小二乘问题的运代解法 318
10.3.1部分SVD方法 318
10.3.2双对角化方法 319
10.4刚性加权最小二乘问题的迭代解法 321
习题十 323
第十一章 非线性最小二乘问题的迭代解法 325
11.1基本知识 325
11.1.1 Gateaux导数和Frechet导数 325
11.1.2基本算法 327
11.2 Gauss-Newton型方法 327
11.2.1 Gauss-Newton方法 328
11.2.2阻尼Gauss-Newton方法 328
11.2.3信赖域方法 330
11.3 Newton型方法 331
11.3.1 Newton法代法 331
11.3.2混合Newton送代法 331
11.3.3拟Newton送代法 332
11.4可分离问题和约束问题 333
11.4.1可分离问题 333
11.4.2约束非线性最小三乘问题 334
习题十一 336
参考文献 338
《大学数学科学丛书》已出版书目 351