最小平方正则化回归算法研究

admin

题目：


雅宝题库答案：

****此区域为收费内容****    需支付 1 知识币后可查看，1币=0.01元查看答案

雅宝题库解析：
机器学习是人工智能的一个重要领域,主要研究如何让计算机利用经验的数据获得新知识和新技能.统计学习理论是机器学习的数学基础.算法的学习率是统计学习理论研究的一个核心题目,不但可以对算法的有效性给出合理的解释,还能从本质上指导新的学习算法的设计.本文主要研究基于再生核希尔伯特空间的最小平方正则化回归算法的学习率,并将这一算法应用于系统辨识题目.首先,我们把利用覆盖数估计来建立学习率的方法推广到取样过程更加一般的情形.我们去除样本集合的独立性假设,建立针对指数强混合型样本的最小平方正则化回归算法的学习率.在混合型样本假设下, 算法的学习性能不再直接与样本数目有关,而是依赖有效样本的数目. 这里,关于假设空间和回归函数的性质与独立样本情形下是一致的.其次, 我们针对函数型数据, 建立最小平方正则化回归算法的学习率.这里所说的函数型数据, 是指数据的输入可以是函数或曲线, 而不再仅仅是有限维的向量. 在这种情形下,我们利用稳定性分析的方法来控制假设空间的复杂度,并利用迭代的方法得到正则化函数范数上界的本质的估计,从而获得算法改进的学习率.最后, 我们提出部分线性最小平方正则化回归算法, 应用于系统辨识题目.这一算法将目标函数分解为线性成分和非线性成分来辨识.算法分别在线性和非线性函数的空间选取函数,来逼近目标函数线性和非线性成分. 从仿真实验结果可以看到,部分线性最小平方正则化回归算法能够减小预测误差,还能有效的预测系统的线性成分.