学习理论是在神经网络学习、支持向量机、数据挖掘、模式识别、回归和分类分析等具有学习机理的应用领域的基础上发展起来的应用新领域。本书详细叙述了正则化学习算法的由来,并应用非光滑分析法对正则化回归学习算法、分类学习算法的收敛性进行了分析,给出了学习速度的概率估计。
本书可以作为学习理论的入门读物,也适合高等院校高年级本科生、研究生、教师和相关科研人员参考。
样章试读
目录
- 前言
符号表
第1章 Hilbert空间基础知识
1.1 实赋范线性空间
1.2 实Hilbert空间
1.3 中线公式
1.4 Hilbert空间中的正交系
1.5 投影定理
1.6 全连续算子
1.7 自共轭线性算子
第2章 再生核Hilbert空间基础知识
2.1 Mercer核与再生核Hilbert空间
2.2 Mercer定理
2.3 再生核Hilbert空间中的正交基
第3章 凸函数与广义梯度
3.1 凸集、凸锥及凸函数
3.2 广义梯度及其性质
3.3 凸函数的次微分
3.4 凸规划
第4章 概率不等式
4.1 概率空间
4.2 随机变量及分布
4.3 条件分布及条件数学期望
4.4 抽象空间中的随机变量
4.5 Hilbert空间上的Hoeffding不等式
第5章 正则化学习模型
5.1 正则化分类学习
5.2 正则化回归学习算法
5.3 系数正则化算法
第6章 学习速度与K泛函
6.1 学习速度
6.2 学习速度与K泛函
6.3 学习速度的概率表示
第7章 正则化回归算法的收敛速度
7.1 最小平方损失下范数正则化回归算法的收敛速度
7.2 Lipschitz损失下正则化回归算法的收敛速度
7.3 最小平方损失下ι^2系数正则化回归算法的收敛速度
第8章 正则化分类算法的收敛速度
8.1 范数正则化分类算法收敛速度
8.2 系数正则化分类算法收敛速度
8.3 基于折叶型损失的分类算法收敛速度
8.4 基于最小平方损失的分类算法收敛速度
第9章 几个相关研究方向
9.1 半监督学习算法
9.2 在线学习算法
9.3 非独立样本学习算法
9.4 Shannon函数采样点值重构学习
参考文献
索引