模式识别中的核自适应学习及应用

内容简介

本书以模式识别领域的重要前沿课题核学习为研究对象，介绍了核自适应学习及在人脸识别、医学图像分类和三维碎片分类等各个方面的应用。主要包括基本原理、数学基础、参数选择、递归分析方法、函数构造方法、判别分析方法、主成分分析方法及核自适应学习机的典型应用。
　　本书可供计算机专业的本科生、研究生参考阅读，旨在帮助读者透彻理解和掌握模式识别中的核自适应学习基本原理和方法，并初步了解核自适应学习在人脸识别、医学图像分类及三维目标碎片分类中的应用。

目录

第1章 绪论
1.1 机器学习概念
1.1.1 学习的定义
1.1.2 学习问题的一般描述
1.1.3 学习的实现
1.1.4 学习的基本形式
1.1.5 学习在数据降维上的应用
1.2 机器学习中的核学习
1.2.1 线性特征提取算法及存在的问题
1.2.2 核的引入
1.2.3 主要核学习算法
1.3 核学习的研究现状
1.4 核学习存在的问题
第2章 核学习的数学基础
2.1 核理论基础
2.1.1 再生核理论
2.1.2 Mercer定理
2.2 多项式空间和多项式核函数
2.2.1 有序齐次多项式空间
2.2.2 有序多项式空间
2.2.3 无序多项式空间
2.3 Mercer 核
2.3.1 半正定矩阵的特征展开
2.3.2 半正定积分算子的特征展开
2.4 正定核
2.5 核函数的构造
第3章 自适应多核学习
3.1 多核学习
3.1.1 基于多核学习的特征提取方法的应用
3.1.2 存在的问题
3.2 基于图嵌入的特征提取原理
3.2.1 直接图嵌入
3.2.2 直接图嵌入的核扩展形式
3.3 多核学习原理
3.3.1 核函数定义及性质
3.3.2 多核函数构造原理
3.4 基于多核的图嵌入特征提取算法原理
3.4.1 多核矩阵的构造
3.4.2 图嵌入方法的多核扩展
3.5 基于多核映射的图像识别算法程序设计
3.5.1 训练样本预处理和读入定制参数
3.5.2 样本训练
3.5.3 测试分类
3.6 对比图像分类算法程序设计
3.7 实验对比与分析
3.7.1 ORL数据库
3.7.2 Yalefaces数据库
3.7.3 Iris（UCI）数据库
3.7.4 Image Segmentation（UCI）数据库
3.8 算法效率比较和分析
第4章 核自适应递归分析
4.1 核函数对online SVR算法性能的影响分析
4.1.1 SVR算法基本原理
4.1.2 基于增量学习的online SVR算法
4.1.3 基于online SVR的在线时间序列预测
4.1.4 核函数类型及其参数影响分析
4.2 基于核函数组合的online SVR算法
4.2.1 基于核函数组合的online SVR在线
时间序列预测算法
4.2.2 仿真实验和算法评估
4.3 基于残差修正的局部online SVR算法
4.3.1 离线与在线算法分析
4.3.2 基于残差修正的局部online SVR在线时间
序列预测算法
4.3.3 仿真实验和算法评估
4.3.4 两种核函数组合online SVR算法对比分析
第5章 核函数优化及构造
5.1 高斯核函数及核函数优化的意义
5.2 数据相关核及其扩展
5.3 核函数优化算法
5.3.1 基于Fisher准则的核函数优化算法
5.3.2 基于间隔准则的核函数优化算法
5.3.3 算法比较与分析
5.3.4 仿真实验
5.4 基于图像矩阵的高斯核函数及改进
5.4.1 基于图像矩阵的高斯核函数
5.4.2 基于图像矩阵的数据相关高斯核函数
5.4.3 仿真实验
第6章 核自适应判别分析
6.1 核自适应判别分析算法
6.1.1 核判别分析算法
6.1.2 改进算法
6.1.3 仿真实验
6.2 无参数核判别分析算法
6.2.1 算法框架
6.2.2 仿真结果与分析
6.3 自适应多核图嵌入判别分析
6.3.1 多核图嵌入目标方程求解
6.3.2 核函数选择
6.3.3 基本核函数参数优化
6.3.4 仿真实验与分析
第7章 核自适应流形学习算法
7.1 流形学习
7.2 基于核自适应学习的局部判别分析
7.2.1 局部保持映射算法
7.2.2 监督局部保持映射算法
7.2.3 核监督局部保持映射算法
7.2.4 核自适应局部保持判别分析
7.2.5 实验仿真与结果分析
第8章 核自适应主成分分析
8.1 主成分分析算法
8.2 稀疏核主成分分析算法
8.3 核自适应稀疏主成分分析算法 <

摘要与插图

前 言
　　
　　模式识别是计算机、电子及信息领域的重要研究领域，也是人工智能的基础技术，21世纪是智能化、信息化、计算化、网络化的世纪，作为人工智能技术基础学科的模式识别技术，必将获得巨大的发展空间。在上，各大研究机构，各大公司都纷纷开始将模式识别技术作为公司的战略研发重点加以重视。
　　近年提出的核学习是模式识别的重要研究分支和活跃的研究主题，出现了大量理论和实际应用研究成果，已广泛用于模式识别、数据挖掘、计算机视觉、图像与信号处理等研究领域。核方法在一定程度上解决了实际应用中的非线性问题，大大提高了实际系统的识别正确率、预测精度等性能指标。然而，核学习方法仍然面临着一个重要问题，即核函数及其参数的选择问题。研究表明，核函数及参数直接影响非线性特征空间内数据分布结构，不恰当的核函数及参数选择直接影响核学习器性能。研究核函数及参数的自适应学习对于解决目前核学习方法广泛面临的核选择问题具有重要理论研究意义，对于提高核学习器的应用系统性能具有重要实际意义。因此，核自适应学习是一个兼具理论价值和实际意义的研究主题。
　　近年来，作者在模式识别中的核自适应学习方法及应用方面开展了不懈的探索研究，本书综合展现了作者在该领域研究过程中的研究成果。本书以模式识别中的核自适应学习及应用为研究对象，结合作者自己的研究成果和文献调研，介绍了核自适应学习及在人脸识别、医学图像分类和三维碎片分类等各个方面的应用。旨在帮助读者透彻理解和掌握核自适应学习的基本原理和方法，并了解核自适应学习在图像分类及三维数据分类上的应用，为深入研究模式识别领域的核学习问题提供技术支撑。
　　在研究过程中先后得到了国家自然科学基金（编号61001165）、黑龙江省自然基金（编号QC2010066）、哈工大基础人才培育项目（编号HIT.BRETIII.201206）以及总装预研基金等10项国家和省部级科研项目的资助，再次表示衷心的感谢。
　　由于核自适应学习领域的研究发展迅速，加之作者水平有限，错误之处在所难免，恳请读者批评指正。
　　
　　作 者
　　2013年8月于哈尔滨工业大学