《中国人工智能学会通讯》——8.19 多目标优化中的机器学习

8.19 多目标优化中的机器学习

多 目 标 优 化 问 题 (MOP, multiobjecitveoptimization problem) 是指含有 2 个或 2 个以上目标函数的优化问题。当目标数多于 3 个时,MOP也常被称作超多目标优化问题。由于多个目标之间通常不协调甚至存在矛盾,MOP 最优解不是单个解而是一个解集。法国经济学家 V. Pareto 最早在经济福利理论研究中提出了多目标优化问题,并引入了 Pareto 最优的概念,因此这个最优解集也被称作 Pareto 最优解集[15] 。对于现实问题,求出Pareto 最优解集的解析表达式是一件极其困难的事情,因此决策者更偏向于获取 Pareto 最优解集的一个逼近,即要求所得解尽可能分布均匀和尽可能靠近 Pareto 最优解集[16] 。

求解多目标优化问题的传统方法包括分解法和分层序列法等方法。与传统方法需要多次运行才能得到 Pareto 解集的逼近不同,EA 等启发式方法能够执行一次而得到整个 Pareto 解集的逼近,因此EA 已成为求解 MOP 的主要方法。目前多目标演化算法 (MOEA,multiobjective EA) 主要包括:基于Pareto 支配关系的算法,利用 Pareto 支配关系来选择后代个体;基于评价指标的算法,利用评价指标来选择后代个体;基于分解的算法,将 MOP 分解为一系列简单的 MOP 或单目标优化问题,同时求解这些简单问题以得到原问题Pareto解集的逼近 [17] 。

MOP Pareto 最优解集在搜索空间呈现出特殊的拓扑特性:可以证明在某些连续性假设前提下,一个包含 m 个目标的连续 MOP Pareto 最优解集在搜索空间形成一个分段连续的 m-1 维流形。如图 3显示,对于含有 2 个目标和 2 维搜索空间的问题,其 Pareto 最优解集形成一个 1 维流形。对于该特性,可以利用流形学习 (manifold learning) 方法来估计 Pareto 最优解集并指导新解产生。文献 [18]利用局部主成分分析 (Local PCA, local principalcomponent analysis)将当前群体划分成多个区域,在每个区域使用PCA来得到其主分量,即低维流形;产生新解时,在低维流形上通过实验设计采样新点,通过逆映射及添加高斯噪音得到搜索空间中的新解。图 4 显示了该方法的基本原理。事实上,除了Local PCA, 其他一些流形学习方法,如生成拓扑映射 (generative topographic mapping) [19] 、 自 组 织映射 (self-organizing map) [20] 等方法均可以用于学习群体隐空间模型。若放松对隐空间流形的假设,则可认为 Pareto 最优解具有某种空间结构或关联关系。机器学习中其他的一些方法,如混合高斯模型[21] 都可以用于学习群体的结构并指引算法搜索。
除学习上述连续 MOP 问题的特性,机器学习在单目标领域的应用也能自然地被拓展到多目标问题。上节所述 EDA、参数选择与调优、代理模型构造技术都在 MOEA 的研究中有所体现,这些机器学习模型包括高斯过程[22-23] 、分类 [24] 、聚类 [25-26] 、负相关学习[26] 、密度估计 [27] 、玻尔兹曼机 [28]等,这些方法在 MOEA 停机条件分析[29] 、新解产生[24-28] 、代理模型构造 [22-23] 、群体选择 [24] 、最优决策[30]等方面辅助 MOEA 提高搜索效率。

时间: 2024-10-24 22:29:20

《中国人工智能学会通讯》——8.19 多目标优化中的机器学习的相关文章

《中国人工智能学会通讯》——8.16 演化计算中的机器学习

8.16 演化计算中的机器学习 演化计算与机器学习是同属人工智能的紧密相连的两个研究方向,一方面演化算法 (EAs,evolutionary algorithms) 可以用于求解机器学习中的复杂优化问题:另一方面机器学习可辅助 EA.本文侧重后者. 需要指出的是,EA 本身也具有内在学习的能力,演化计算研究者从最初即意识到学习在 EA 中的重要性,例如遗传算法 (genetic algorithm) 中的积木块 (building blocks) 假设就是利用积木块来学习自变量之间的关联性,以提

《中国人工智能学会通讯》——8.5 鸽群优化在控制参数优化中的应用

8.5 鸽群优化在控制参数优化中的应用 经典 PID 控制方法在面对非线性和模型不确定性等因素时,难以满足控制性能的要求,同时控制器参数的选取会对被控对象的响应精度产生较大的影响.Dou et al [15] 将模型预测控制算法应用到了舰载机的控制器设计中,并通过使用鸽群优化对模型预测控制其参数进行优化设计,仿真分析表明,鸽群优化可以很好地对控制器参数进行优化设计,满足控制需求. Deng et al [16] 提出了一种新的自动着陆系统控制参数设计方法.为克服人工调参的问题,利用鸽群优化将参数

《中国人工智能学会通讯》——10.23 能源互联网中的关键技术

10.23 能源互联网中的关键技术 现阶段可再生能源供应有很强的随机性.间断性和模糊性,成功并入电网并用其他形式高效利用存在很多技术上的难题:其次,对于能源互联网的建立,不仅要解决能源的高成本传输,以及能量输送损耗问题,还要对于能源互联网中产生的大数据进行实时处理,来预测和监控用户的需求变化,以及极端不稳定的能量生产供应变化.要解决上述问题并实现具体功能,能源互联网需要相应的技术体支撑.笔者认为,能源互联网的关键技术可以分为四个子技术,即体系架构技术.能源技术.信息通信技术和安全技术. 体系架构

《中国人工智能学会通讯》——6.14 知识图谱中的推理技术

6.14 知识图谱中的推理技术 知识图谱的概念由谷歌 2012 年正式提出,旨在实现更智能的搜索引擎.知识图谱本质上是一种叫做语义网络(semantic network)的知识库,即具有有向图结构的一个知识库,其中图的结点代表实体(entity)或者概念(concept),而图的边代表实体 / 概念之间的各种语义关系,比如说两个实体之间的相似关系.谷歌知识图谱很重要的一部分是一个大规模的协同合作的知识库,叫 Freebase.Freebase 采用的数据结构是图模型,即可以把一个 Freebas

《中国人工智能学会通讯》——11.47 领域文本中的实体链接技术

11.47 领域文本中的实体链接技术 除了通用知识库,我们还拥有很多领域知识库(如 DBLP 文献网络 .IMDb 电影网络).将领域文本中的命名实体链接到相应领域知识库,对领域文本的分析和领域知识库的扩充非常有帮助.目前主流的实体链接算法都是针对通用的维基百科或者由维基百科生成的知识库(如 YAGO),这些算法都依赖于与维基百科相关的特征,例如维基百科文章中的上下文文本信息.基于维基百科的相关度度量,以及维基百科的一些特殊结构(如排歧页面.跳转页面等).由于领域知识库并不具备这些特征,所以之前

《中国人工智能学会通讯》——9.12 集成学习中的挑战性问题及解决方法

9.12 集成学习中的挑战性问题及解决方法 然而,传统的集成学习算法,特别是聚类集成算法,在集成器成员选择.聚类结果融合.集成器参数优化等方面还存在一些亟待解决的科学问题(见图 4): ① 集成器存在冗余成员,影响集成的最终结果:② 聚类集成算法集成器中多个聚类结果的融合质量有待进一步提高:③ 没有考虑到集成器参数往往受到外在环境(如样本空间和属性空间)和内在环境(如集成器基础模型的参数和权重)的影响. Yu et al [17] 针对上述科学问题,围绕"集成学习理论与应用",从集成器

《中国人工智能学会通讯》——3.20 在线社会网络中的信息传播预测

3.20 在线社会网络中的信息传播预测 在线社会网络 (Online Social Network) 作为一种虚拟的社会平台,在人与人之间建立起具有社交.联系.分享和协助等功能的网络结构.近年来,互联网上涌现出的各种类型的社会网络深刻地改变了人们获取信息和相互沟通的方式.在线社会网络作为新的传播媒介,对传统媒体在信息传播中的主导地位产生了巨大的冲击.现阶段主要的在线社会网络包括微博.微信.博客.论坛及各类社交网站等.社会网络中的用户不仅仅是信息的受众,而且是信息的生产者和传播者.这种"去中心化&

《中国人工智能学会通讯》——4.17 智能信息服务中的粒计算

4.17 智能信息服务中的粒计算 所谓智能信息服务,是针对用户的信息需求,智能地对信息进行生产.收集.处理.加工.存储.传输.检索和利用,并以信息产品的方式为用户提供服务.信息即数据,智能信息服务和数据的分析与挖掘是紧密相关的,甚至可以说,数据分析与挖掘是当今智能信息服务的关键所在.随着信息通信技术的迅猛发展,特别是以博客.社交网络.基于位置的服务为代表的新型信息发布方式的不断涌现,数据正以前所未有的速度呈爆炸式增长.来势汹涌的数据浪潮,将人类带进了大数据时代. 然而,大数据自身存在的诸多问题,

《中国人工智能学会通讯》——8.4 鸽群优化在编队中的应用

8.4 鸽群优化在编队中的应用 多无人机紧密编队控制具有极强的耦合性和非线性,由于模型输入存在强耦合 , 并且性能指标与模型参数并不存在直接的映射关系 , 因此紧密编队模型控制输入的选取是一个关键技术难题.段海滨等人[13]提出了一种基于捕食逃逸鸽群优化的无人机紧密编队协同控制方法: 基于人工势场法设计了外环控制器 , 将无人机紧密编队转化成一种抽象的人造势场中的运动 ; 基于鸽群优化设计了内环控制器 , 进行控制量的优化求解.在遵循鸽群优化基本思想的基础上 , 对其结构进行调整 , 并针对基本