MOCSO(Multi-Objective Competitive Swarm Optimizer)是PSO(粒子群优化算法)的变体
本文讲解多目标遗传算法。多目标优化算法的Pareto 最优解的分布示意图如下:
在现代机器学习和深度学习的世界里,优化算法扮演着核心角色。它们是推动算法向预期目标前进的引擎,无论是在精度、速度还是效率方面。但随着技术的发展,我们越来越多地面临着一个不可避免的挑战:如何在多个目标间寻找最佳平衡点。这就引出了多目标优化(Multi-Objective Optimization,简称MOO)的概念。
杨世品,陆小华,薄翠梅,等. 多目标P系统仿生优化算法[J]. 北京工业大学学报,2016,42(10):35-41. DOI:10.11936/bjutxb2015090086.
给定一个输入和输出值之间的转换,描述一个数学函数f,优化处理生成和选择一个最佳解决方案从一些组可用的替代方案,通过系统地选择输入值在一个允许集,计算的输出功能,录音过程中发现的最好的输出值。许多实际问题都可以用这种方法建模。例如,输入可以是电机的设计参数,输出可以是功耗,或者输入可以是业务选择,输出可以是获得的利润。
转载自http://cjc.ict.ac.cn/online/onlinepaper/lrc-20207694828.pdf
读者朋友大家好!我是过冷水,最近在学习的过程中遇到极值寻优问题,觉得寻优问题是很多人关注的一个知识点,于是就准备开一个新的连载和大家一起来解决极值寻优过程中遇到的问题。
多目标优化在系统最优设计、最优控制以及社会科学等方面都具有广泛的应用,例如:坦克的变速箱不仅需要良好的传动精度,运动过程中还需要保持极高的稳定性;火箭的恒温层结构不仅需要极好的隔热性能,更需要保证良好的耐撞性能;航天飞行器外夹层结构在运行中面对不同工作环境需要实现不同的性能需求等。
今天分享一篇关于EEG特征选择优化的论文,发表于一区Top期刊Expert System with Applicaitons的论文Multi-objective symbiotic organism search algorithm for optimal feature selection in brain computer interfaces。
从社会生活的角度出发,最优化问题普遍存在于我们的日常生活中。例如,人们往往追求利润的最大化、投资风险的最小化等。随着科学技术和生产生活的日益发展,人们面临的优化问题也日渐复杂。其中,多目标优化问题是一类典型的代表。顾名思义,多目标优化问题即人们需同时优化多个目标,且各目标之间往往存在冲突。例如,生产经营者往往希望用最小的代价获得最大的收益;人们购买汽车时,除了考虑价格外,还会考虑汽车的性能、舒适度等(见图一)。而演化算法(见图二)是模拟生物界自然选择和自然进化的随机启发式算法,现已成为当前解决复杂多目标优化问题的有效工具之一。其中,香港城市大学张青富教授提出的MOEA/D目前已成为求解多目标优化问题最流行的算法框架[1-2]。
短视频是当前互联网最热门的业务之一,聚集了巨大的互联网用户流量,也是各大公司争相发展的业务领域。作为主要营收业务方向,短视频方向的推荐算法也日新月异并驱动业务增长,本期我们看到的是爱奇艺的短视频频道下,推荐多任务算法应用实践路径与落地方案。
多目标规划模型的求解方法 1.传统优化算法 1.1主要目标法 📷 1.2分层序列法 📷 📷 📷 1.3加权法 📷 1.4理想点法 📷 2.智能优化算法 遗传算法等… 例题实战:MATLAB中多目标遗传算法求解法 通用形式 📷 例1: 📷 matlab求解: Fun.m function y=Fun(x) y(1)=x(1)^4-10*x(1)^2+x(1)*x(2)+x(2)^4-x(1)^2*x(2)^2; y(2)=x(2)^4-x(1)^2*x(2)^2+x(1)^4+x(1)*x(2);
当优化问题的目标函数为两个或两个以上时,该优化问题就是多目标优化。不同于单目标优化问题,多目标问题没有单独的解能够同时优化所有目标,也就是目标函数之间存在着冲突关系,其最优解通常是一系列解。多目标优化问题的解决办法有两类:一种是通过加权因子等方法将多目标转换成单目标优化问题,这种方法缺点明显;现在更多地是采用基于Pareto最优解的方法。
近日,由北京大学崔斌教授数据与智能实验室( Data and Intelligence Research LAB, DAIR)开发的通用黑盒优化系统 OpenBox 开源发布!
[1]多元高斯分布的KL散度: https://blog.csdn.net/u013555719/article/details/106797330
李文桦,张涛,王锐*,王凌,多目标优化Knee前沿搜索方法研究进展,控制理论与应用,2021.03
本项目由联想投递并参与“数据猿行业盘点季大型主题策划活动——《2022中国企业数智化转型升级创新服务企业》榜单/奖项”评选。
今天给大家介绍的是北京大学来鲁华课题组在frontiers in Chemistry上发表的文章《LigBuilder V3: A Multi-Target de novo Drug Design Approach》。在文章中,作者提出了第一个从头多靶点药物设计程序LigBuilderV3,可用于设计靶向结合多个受体、一个受体的多个结合位点或一个受体的各种构象的配体。为了证明LigBuilderV3的实用性,作者使用LigBuilderV3,并用三种不同的策略,包括多目标从头设计,多目标增长,和多目标连接,设计了靶向HIV蛋白酶和HIV逆转录酶的双功能抑制剂。设计出的化合物经过MM/GBSA结合自由能估计被验证为计算上有效,有较高的作为HIV蛋白酶和HIV逆转录酶的多靶点药物的潜力。LigBuilderV3程序可以在“http://www.pkumdl.cn/ligbuilder3/”上下载。
Chapter 2.8 Hybrid Algorithm: Neuroevolution
论文地址:https://www.tandfonline.com/doi/full/10.1080/08839514.2023.2254048
本文基于WWW-2021论文《Personalized Approximate Pareto-Efficient Recommendation》。
[21] A. Gupta, Y .-S. Ong, and L. Feng, “Multifactorial evolution: Toward evolutionary multitasking,” IEEE Trans. Evol. Comput., vol. 20, no. 3, pp. 343–357, Jun. 2016.
此部分学习内容适合工业工程,管理科学与工程,信息管理,物流管理,系统工程等相关专业的2021级(大一)本科生。只需要有C++,Java编程基础即可,不需要任何数学基础,也不需要运筹学基础,推文由简到难递进,适合自学!大一可以把这些文章掌握,你就真正入门决策优化算法这个领域了。 在朋友圈转发此推文,并且集齐20个赞,可被邀请加入数据魔术师2021级本科学习交流群,会有高年级本科生,硕士生、博士生和老师在群里提供指导和讨论。入群方式见文末! 干货 | 用模拟退火(SA, Simulated
Optuna是一个开源的超参数优化框架,Optuna与框架无关,可以在任何机器学习或深度学习框架中使用它。本文将以表格数据为例,使用Optuna对PyTorch模型进行超参数调优。
这一篇是Xue Bing在一区cybernetics发的论文,里面提出了两个多目标PSO特征选择算法,一个是NSPSO另一个是CMDPSO。其中NSPSO是参考了NSGA2的框架和思想。下面具体说说CMDPSO。
距笔者上次提出NFwFM点击率预估模型,并覆盖美图秀秀、美拍等推荐场景已经过去半年。算法钻研如逆水行舟,不进则退。用户和公司越来越高的期望也要求我们不断进步。
目标跟踪是机器视觉中一类被广为研究的重要问题,分为单目标跟踪与多目标跟踪。前者跟踪视频画面中的单个目标,后者则同时跟踪视频画面中的多个目标,得到这些目标的运动轨迹。
请查看位于https://github.com/xmu-Linux101/Linux101/tree/201720182/experiments/gcc-5-gdb的代码
今天给大家介绍Zhenpeng Zhou , Steven Kearnes等人在Nature/Scientific Reports上发表的文章“Optimization of Molecules via Deep Reinforcement Learning”。这篇文章主要是提出了一个Molecule Deep Q-Networks (MolDQN)框架,通过结合化学领域知识和先进的强化学习技术来进行分子优化。作者采用直接对分子修改的方式,来保证100%的化学有效性;而且在任何数据集上都不进行预训练,以避免可能的偏差;最后通过与其他几种最近发表的分子优化算法对比,得出基于MolDQN框架的分子优化可以获得更好的性能。
AI领域顶会NeurIPS正在加拿大蒙特利尔举办。本文针对实验室关注的几个研究热点,模型压缩、自动机器学习、机器学习与最优化算法,选取23篇会议上入选的重点论文进行分析解读,与大家分享。Enjoy!
看懂NSGA3之前,了解的NSGA2的话更有帮助,这个博士写的带约束的NSGA2的matlab版本很不错(9个非约束的测试问题和5个带约束的测试问题),大家想了解NSGA3的最好先看看。 1. Constrained NSGA2:
统计学中最令人震惊的结论之一是 Stein 悖论。Stein(1956)认为,若要估计高斯随机变量,最好是从所有样本中估计三个或三个以上变量的均值,而不是分别单独进行估计,即使这些高斯分布是相互独立的。Stein 悖论是探索多任务学习(MTL)(Caruana,1997)的早期动机。多任务学习是一种学习范式,其中来自多任务的数据被用来获得优于独立学习每个任务的性能。MTL 的潜在优势超出了 Stein 悖论的直接含义,因为即便是真实世界中看似无关的任务也因数据共享的过程而存在很强的依赖性。例如,尽管自动驾驶和目标操纵看似无关,但相同的光学规律、材料属性以及动力学都对基础数据产生了影响。这启发人们在学习系统中使用多任务作为归纳偏好。
本文约1200字,建议阅读5分钟本文将聚焦 3D 打印材料开发,用四个具体案例对目前先进方法进行解读,以期让读者从整体上对机器学习在材料开发应用方面有认知和把握。 关键词:机器学习 材料开发 3D 打印 以 AlphaFold 为代表,机器学习在生物制药、蛋白质结构预测等领域,已经有了喜人的研究成果,尤其是几何深度学习 (Geometric deep learning) 在原子结构建模方面取得的巨大进展,有望为计算材料科学中开放性问题提供解决思路。 但是,与药物样分子 (drug-like molec
转载自 https://www.researchgate.net/publication/323942977_jinhuasuanfaqiujieyueshuyouhuawentiyanjiujinzhan
很少有人知道,SUNO一开始是nanoGPT的一个分支。(Suno创业团队首款产品Bark受到了nanoGPT的启发)
导读:AI领域顶会NeurIPS正在加拿大蒙特利尔举办。本文针对实验室关注的几个研究热点,模型压缩、自动机器学习、机器学习与最优化算法,选取23篇会议上入选的重点论文进行分析解读,与大家分享。Enjoy! NeurIPS (Conference on Neural Information Processing Systems,神经信息处理系统进展大会)与ICML并称为神经计算和机器学习领域两大顶级学术会议。今年为第32届会议,将于 12月3日至8日在加拿大蒙特利尔举办。腾讯AI Lab第三次参加Ne
今天跟大家分享一篇之前发表的文章,《基于稀疏化鲁棒LS-SVR与多目标优化的铁水硅含量软测量建模 》。 摘要: 针对高炉炼铁过程的关键工艺指标——铁水硅含量[Si]难以直接在线检测且化验过程滞后的问题,提出一种基于稀疏化鲁棒最小二乘支持向量机(R-S-LS-SVR)与多目标遗传参数优化的铁水[Si]动态软测量建模方法。首先,针对标准最小二乘支持向量机(LS-SVR)的拉格朗日乘子与误差项成正比导致最终解缺少稀疏性的问题,提取样本数据在特征空间映射集的极大无关组来实现训练样本集的稀疏化,降低建模的计算复杂度
Non dominated sorting genetic algorithm -II NSGA-Ⅱ是目前最流行的多目标遗传算法之一,它降低了非劣排序遗传算法的复杂性,具有运行速度快,解集的收敛性好的优点,成为其他多目标优化算法性能的基准。 NSGA-Ⅱ就是在第一代非支配排序遗传算法的基础上改进而来,其改进主要是针对如上所述的三个方面: ①提出了快速非支配排序算法,一方面降低了计算的复杂度,另一方面它将父代种群跟子代种群进行合并,使得下一代的种群从双倍的空间中进行选取,从而保留了最为优秀的所有个体; ②引进精英策略,保证某些优良的种群个体在进化过程中不会被丢弃,从而提高了优化结果的精度; ③采用拥挤度和拥挤度比较算子,不但克服了NSGA中需要人为指定共享参数的缺陷,而且将其作为种群中个体间的比较标准,使得准Pareto域中的个体能均匀地扩展到整个Pareto域,保证了种群的多样性。
进化算法作为一种随机优化算法在复杂函数优化、组合优化与路径规划等领域具有广泛的应用。本文从进化算法的发展现状、缺陷与改进等方面进行了细致的分析调研。具体介绍了NP问题的定义与研究成果,并研究与讨论了基于传统经典与最新前沿的进化算法解决带约束组合优化的NP难题的方法策略。在标准数据集上的实验结果表明,进化算法在求解NP问题具有一定的实用性与延展性。
1. 基于膜计算模型的多目标优化算法研究 [1]李俊. 基于膜计算模型的多目标优化算法研究[D]. 安徽大学, 2016. 膜计算作为自然计算的一个分支,其目的是从生物活细胞、器官和组织中获得新的计算思想,设计出新的计算模型。膜计算模型主要有类细胞P系统、类组织P系统和类神经P系统。作为类细胞P系统是第一个被提出来的P系统。类细胞P系统将生物膜内的化学反应与膜间的物质流动抽象为计算过程:生物膜内的化学反应就是通常理解的计算过程,而物质在不同膜之间的流动则对应于通常意义计算系统中的消息传递,细胞或细胞器成
程序里面的单词叫做Token,Token的类型包括:关键字、标识符、字面量、操作符等
A Decision Variable Clustering-Based Evolutionary Algorithm for Large-Scale Many-Objective Optimization 此篇文章为 X. Zhang, Y. Tian, R. Cheng and Y. Jin, "A Decision Variable Clustering-Based Evolutionary Algorithm for Large-Scale Many-Objective Optimization,
计算智能(ComputationalIntelligence ,CI)是以生物进化的观点认识和模拟智能。按照这一观点,智能是在生物的遗传、变异、生长以及外部环境的自然选择中产生的。在用进废退、优胜劣汰的过程中,适应度高的结构被保存下来,智能水平也随之提高。因此计算智能就是基于结构演化的智能。计算智能的主要方法有人工神经网络、遗传算法、遗传程序、演化程序、局部搜索、模拟退火等等。这些方法具有以下共同的要素:自适应的结构、随机产生的或指定的初始状态、适应度的评测函数、修改结构的操作、系统状态存储器、终止计算的条
免疫算法是受生物免疫系统的启发而推出的一种新型的智能搜索算法。它是一种确定性和随机性选择相结合并具有“勘探”与“开采”能力的启发式随机搜索算法。免疫算法将优化问题中待优化的问题对应免疫应答中的抗原,可行解对应抗体(B细胞),可行解质量对应免疫细胞与抗原的亲和度。如此则可以将优化问题的寻优过程与生物免疫系统识别抗原并实现抗体进化的过程对应起来,将生物免疫应答中的进化过程抽象成数学上的进化寻优过程,形成一种智能优化算法。它具有一般免疫系统的特征,采用群体搜索策略,通过迭代计算,最终以较大的概率得到问题的最优解。相对于其他算法,免疫算法利用自身产生多样性和维持机制的特点,保证了种群的多样性,克服了一般寻优过程(特别是多峰值的寻优过程)的不可避免的“早熟”问题,可以求得全局最优解。免疫算法具有自适应性、随机性、并行性、全局收敛性、种群多样性等优点。 1.2 算法操作步骤 (1)首先进行抗原识别,即理解待优化的问题,对问题进行可行性分析,提取先验知识,构造出合适的亲和度函数,并制定各种约束条件。 (2)然后初始化抗体群,通过编码把问题的可行解表示成解空间中的抗体,在解的空间内随机产生一个初始种群。 (3)对种群中的每一个可行解进行亲和度评价。(记忆单元的更新:将与抗原亲和性高的抗体加入到记忆单元,并用新加入的抗体取代与其亲和性最高的原有抗体(抗体和抗体的亲和性计算)) (4)判断是否满足算法终止条件;如果满足条件则终止算法寻优过程,输出计算结果;否则继续寻优运算。 (5)计算抗体浓度和激励度。(促进和抑制抗体的产生:计算每个抗体的期望值,抑制期望值低于阈值的抗体;可以知道与抗原间具有的亲和力越高,该抗体的克隆数目越高,其变异率也越低) (6)进行免疫处理,包括免疫选择、克隆、变异和克隆抑制。 免疫选择:根据种群中抗体的亲和度和浓度计算结果选择优质抗体,使其活化; 克隆:对活化的抗体进行克隆复制,得到若干副本; 变异:对克隆得到的副本进行变异操作,使其发生亲和度突变; 克隆抑制:对变异结果进行再选择,抑制亲和度低的抗体,保留亲和度高的变异结果。 (7)种群刷新,以随机生成的新抗体替代种群中激励度较低的抗体,形成新一代抗体,转步骤(3)。 免疫算法运算流程图
原创声明:本文为 SIGAI 原创文章,仅供个人学习使用,未经允许,不得转载,不能用于商业目的。
基于深度学习的算法在图像和视频识别任务中取得了广泛的应用和突破性的进展。从图像分类问题到行人重识别问题,深度学习方法相比传统方法表现出极大的优势。与行人重识别问题紧密相关的是行人的多目标跟踪问题。
论文研读-多目标多任务优化MOMFEA-II Cognizant Multitasking in Multi-Objective Multifactorial Evolution: MO-MFEA-II 此篇文章为 K.K. Bali, A. Gupta, Y.-S. Ong, P.S. Tan, Cognizant Multitasking in Multiobjective Multifactorial Evolution: MO-MFEA-II, IEEE Trans. Cybern. (2020)
领取专属 10元无门槛券
手把手带您无忧上云