MOCSO(Multi-Objective Competitive Swarm Optimizer)是PSO(粒子群优化算法)的变体
本文讲解多目标遗传算法。多目标优化算法的Pareto 最优解的分布示意图如下:
杨世品,陆小华,薄翠梅,等. 多目标P系统仿生优化算法[J]. 北京工业大学学报,2016,42(10):35-41. DOI:10.11936/bjutxb2015090086.
转载自http://cjc.ict.ac.cn/online/onlinepaper/lrc-20207694828.pdf
在现代机器学习和深度学习的世界里,优化算法扮演着核心角色。它们是推动算法向预期目标前进的引擎,无论是在精度、速度还是效率方面。但随着技术的发展,我们越来越多地面临着一个不可避免的挑战:如何在多个目标间寻找最佳平衡点。这就引出了多目标优化(Multi-Objective Optimization,简称MOO)的概念。
今天分享一篇关于EEG特征选择优化的论文,发表于一区Top期刊Expert System with Applicaitons的论文Multi-objective symbiotic organism search algorithm for optimal feature selection in brain computer interfaces。
多目标优化在系统最优设计、最优控制以及社会科学等方面都具有广泛的应用,例如:坦克的变速箱不仅需要良好的传动精度,运动过程中还需要保持极高的稳定性;火箭的恒温层结构不仅需要极好的隔热性能,更需要保证良好的耐撞性能;航天飞行器外夹层结构在运行中面对不同工作环境需要实现不同的性能需求等。
读者朋友大家好!我是过冷水,最近在学习的过程中遇到极值寻优问题,觉得寻优问题是很多人关注的一个知识点,于是就准备开一个新的连载和大家一起来解决极值寻优过程中遇到的问题。
从社会生活的角度出发,最优化问题普遍存在于我们的日常生活中。例如,人们往往追求利润的最大化、投资风险的最小化等。随着科学技术和生产生活的日益发展,人们面临的优化问题也日渐复杂。其中,多目标优化问题是一类典型的代表。顾名思义,多目标优化问题即人们需同时优化多个目标,且各目标之间往往存在冲突。例如,生产经营者往往希望用最小的代价获得最大的收益;人们购买汽车时,除了考虑价格外,还会考虑汽车的性能、舒适度等(见图一)。而演化算法(见图二)是模拟生物界自然选择和自然进化的随机启发式算法,现已成为当前解决复杂多目标优化问题的有效工具之一。其中,香港城市大学张青富教授提出的MOEA/D目前已成为求解多目标优化问题最流行的算法框架[1-2]。
近日,由北京大学崔斌教授数据与智能实验室( Data and Intelligence Research LAB, DAIR)开发的通用黑盒优化系统 OpenBox 开源发布!
李文桦,张涛,王锐*,王凌,多目标优化Knee前沿搜索方法研究进展,控制理论与应用,2021.03
本项目由联想投递并参与“数据猿行业盘点季大型主题策划活动——《2022中国企业数智化转型升级创新服务企业》榜单/奖项”评选。
[1]多元高斯分布的KL散度: https://blog.csdn.net/u013555719/article/details/106797330
当优化问题的目标函数为两个或两个以上时,该优化问题就是多目标优化。不同于单目标优化问题,多目标问题没有单独的解能够同时优化所有目标,也就是目标函数之间存在着冲突关系,其最优解通常是一系列解。多目标优化问题的解决办法有两类:一种是通过加权因子等方法将多目标转换成单目标优化问题,这种方法缺点明显;现在更多地是采用基于Pareto最优解的方法。
这一篇是Xue Bing在一区cybernetics发的论文,里面提出了两个多目标PSO特征选择算法,一个是NSPSO另一个是CMDPSO。其中NSPSO是参考了NSGA2的框架和思想。下面具体说说CMDPSO。
今天给大家介绍Zhenpeng Zhou , Steven Kearnes等人在Nature/Scientific Reports上发表的文章“Optimization of Molecules via Deep Reinforcement Learning”。这篇文章主要是提出了一个Molecule Deep Q-Networks (MolDQN)框架,通过结合化学领域知识和先进的强化学习技术来进行分子优化。作者采用直接对分子修改的方式,来保证100%的化学有效性;而且在任何数据集上都不进行预训练,以避免可能的偏差;最后通过与其他几种最近发表的分子优化算法对比,得出基于MolDQN框架的分子优化可以获得更好的性能。
多目标规划模型的求解方法 1.传统优化算法 1.1主要目标法 📷 1.2分层序列法 📷 📷 📷 1.3加权法 📷 1.4理想点法 📷 2.智能优化算法 遗传算法等… 例题实战:MATLAB中多目标遗传算法求解法 通用形式 📷 例1: 📷 matlab求解: Fun.m function y=Fun(x) y(1)=x(1)^4-10*x(1)^2+x(1)*x(2)+x(2)^4-x(1)^2*x(2)^2; y(2)=x(2)^4-x(1)^2*x(2)^2+x(1)^4+x(1)*x(2);
Chapter 2.8 Hybrid Algorithm: Neuroevolution
统计学中最令人震惊的结论之一是 Stein 悖论。Stein(1956)认为,若要估计高斯随机变量,最好是从所有样本中估计三个或三个以上变量的均值,而不是分别单独进行估计,即使这些高斯分布是相互独立的。Stein 悖论是探索多任务学习(MTL)(Caruana,1997)的早期动机。多任务学习是一种学习范式,其中来自多任务的数据被用来获得优于独立学习每个任务的性能。MTL 的潜在优势超出了 Stein 悖论的直接含义,因为即便是真实世界中看似无关的任务也因数据共享的过程而存在很强的依赖性。例如,尽管自动驾驶和目标操纵看似无关,但相同的光学规律、材料属性以及动力学都对基础数据产生了影响。这启发人们在学习系统中使用多任务作为归纳偏好。
转载自 https://www.researchgate.net/publication/323942977_jinhuasuanfaqiujieyueshuyouhuawentiyanjiujinzhan
论文地址:https://www.tandfonline.com/doi/full/10.1080/08839514.2023.2254048
今天给大家介绍的是北京大学来鲁华课题组在frontiers in Chemistry上发表的文章《LigBuilder V3: A Multi-Target de novo Drug Design Approach》。在文章中,作者提出了第一个从头多靶点药物设计程序LigBuilderV3,可用于设计靶向结合多个受体、一个受体的多个结合位点或一个受体的各种构象的配体。为了证明LigBuilderV3的实用性,作者使用LigBuilderV3,并用三种不同的策略,包括多目标从头设计,多目标增长,和多目标连接,设计了靶向HIV蛋白酶和HIV逆转录酶的双功能抑制剂。设计出的化合物经过MM/GBSA结合自由能估计被验证为计算上有效,有较高的作为HIV蛋白酶和HIV逆转录酶的多靶点药物的潜力。LigBuilderV3程序可以在“http://www.pkumdl.cn/ligbuilder3/”上下载。
短视频是当前互联网最热门的业务之一,聚集了巨大的互联网用户流量,也是各大公司争相发展的业务领域。作为主要营收业务方向,短视频方向的推荐算法也日新月异并驱动业务增长,本期我们看到的是爱奇艺的短视频频道下,推荐多任务算法应用实践路径与落地方案。
Non dominated sorting genetic algorithm -II NSGA-Ⅱ是目前最流行的多目标遗传算法之一,它降低了非劣排序遗传算法的复杂性,具有运行速度快,解集的收敛性好的优点,成为其他多目标优化算法性能的基准。 NSGA-Ⅱ就是在第一代非支配排序遗传算法的基础上改进而来,其改进主要是针对如上所述的三个方面: ①提出了快速非支配排序算法,一方面降低了计算的复杂度,另一方面它将父代种群跟子代种群进行合并,使得下一代的种群从双倍的空间中进行选取,从而保留了最为优秀的所有个体; ②引进精英策略,保证某些优良的种群个体在进化过程中不会被丢弃,从而提高了优化结果的精度; ③采用拥挤度和拥挤度比较算子,不但克服了NSGA中需要人为指定共享参数的缺陷,而且将其作为种群中个体间的比较标准,使得准Pareto域中的个体能均匀地扩展到整个Pareto域,保证了种群的多样性。
1. 基于膜计算模型的多目标优化算法研究 [1]李俊. 基于膜计算模型的多目标优化算法研究[D]. 安徽大学, 2016. 膜计算作为自然计算的一个分支,其目的是从生物活细胞、器官和组织中获得新的计算思想,设计出新的计算模型。膜计算模型主要有类细胞P系统、类组织P系统和类神经P系统。作为类细胞P系统是第一个被提出来的P系统。类细胞P系统将生物膜内的化学反应与膜间的物质流动抽象为计算过程:生物膜内的化学反应就是通常理解的计算过程,而物质在不同膜之间的流动则对应于通常意义计算系统中的消息传递,细胞或细胞器成
给定一个输入和输出值之间的转换,描述一个数学函数f,优化处理生成和选择一个最佳解决方案从一些组可用的替代方案,通过系统地选择输入值在一个允许集,计算的输出功能,录音过程中发现的最好的输出值。许多实际问题都可以用这种方法建模。例如,输入可以是电机的设计参数,输出可以是功耗,或者输入可以是业务选择,输出可以是获得的利润。
目标跟踪是机器视觉中一类被广为研究的重要问题,分为单目标跟踪与多目标跟踪。前者跟踪视频画面中的单个目标,后者则同时跟踪视频画面中的多个目标,得到这些目标的运动轨迹。
本文约1200字,建议阅读5分钟本文将聚焦 3D 打印材料开发,用四个具体案例对目前先进方法进行解读,以期让读者从整体上对机器学习在材料开发应用方面有认知和把握。 关键词:机器学习 材料开发 3D 打印 以 AlphaFold 为代表,机器学习在生物制药、蛋白质结构预测等领域,已经有了喜人的研究成果,尤其是几何深度学习 (Geometric deep learning) 在原子结构建模方面取得的巨大进展,有望为计算材料科学中开放性问题提供解决思路。 但是,与药物样分子 (drug-like molec
本文基于WWW-2021论文《Personalized Approximate Pareto-Efficient Recommendation》。
[21] A. Gupta, Y .-S. Ong, and L. Feng, “Multifactorial evolution: Toward evolutionary multitasking,” IEEE Trans. Evol. Comput., vol. 20, no. 3, pp. 343–357, Jun. 2016.
距笔者上次提出NFwFM点击率预估模型,并覆盖美图秀秀、美拍等推荐场景已经过去半年。算法钻研如逆水行舟,不进则退。用户和公司越来越高的期望也要求我们不断进步。
此部分学习内容适合工业工程,管理科学与工程,信息管理,物流管理,系统工程等相关专业的2021级(大一)本科生。只需要有C++,Java编程基础即可,不需要任何数学基础,也不需要运筹学基础,推文由简到难递进,适合自学!大一可以把这些文章掌握,你就真正入门决策优化算法这个领域了。 在朋友圈转发此推文,并且集齐20个赞,可被邀请加入数据魔术师2021级本科学习交流群,会有高年级本科生,硕士生、博士生和老师在群里提供指导和讨论。入群方式见文末! 干货 | 用模拟退火(SA, Simulated
1.预备知识 多目标优化的相关知识:https://blog.csdn.net/haha0332/article/details/88634378
今天跟大家分享一篇之前发表的文章,《基于稀疏化鲁棒LS-SVR与多目标优化的铁水硅含量软测量建模 》。 摘要: 针对高炉炼铁过程的关键工艺指标——铁水硅含量[Si]难以直接在线检测且化验过程滞后的问题,提出一种基于稀疏化鲁棒最小二乘支持向量机(R-S-LS-SVR)与多目标遗传参数优化的铁水[Si]动态软测量建模方法。首先,针对标准最小二乘支持向量机(LS-SVR)的拉格朗日乘子与误差项成正比导致最终解缺少稀疏性的问题,提取样本数据在特征空间映射集的极大无关组来实现训练样本集的稀疏化,降低建模的计算复杂度
本文列出的数学知识点已经写成了《机器学习的数学教程》,以后有机会的话可能会出版,以帮助大家学习。
在机器学习与深度学习中需要大量使用数学知识,这是给很多初学带来困难的主要原因之一。此前SIGAI的公众号已经写过“学好机器学习需要哪些数学知识”的文章,由于时间仓促,还不够完整。今天重新整理了机器学习与深度学习中的主要知识点,做到精准覆盖,内容最小化,以减轻学习的负担同时又保证学习的效果。这些知识点是笔者长期摸索总结出来的,相信弄懂了这些数学知识,数学将不再成为你学好机器学习和深度学习的障碍。
A Decision Variable Clustering-Based Evolutionary Algorithm for Large-Scale Many-Objective Optimization 此篇文章为 X. Zhang, Y. Tian, R. Cheng and Y. Jin, "A Decision Variable Clustering-Based Evolutionary Algorithm for Large-Scale Many-Objective Optimization,
AI领域顶会NeurIPS正在加拿大蒙特利尔举办。本文针对实验室关注的几个研究热点,模型压缩、自动机器学习、机器学习与最优化算法,选取23篇会议上入选的重点论文进行分析解读,与大家分享。Enjoy!
香港城市大学 张青富教授团队 博士后、研究助理及博士生招聘 张青富教授个人主页: https://www.cs.cityu.edu.hk/~qzhan7/index.html 研究方向 计算智能 启发式算法设计 最优化算法 多目标优化 机器学习 …… 及其他相关领域 基本要求|申请 1. 有强烈上进心和自律力,热爱科研,有团队合作精神。 2. 有数学基础和熟练的计算机编程能力。 3. 英文熟练,有写作能力。 团队目前招聘 1. 一般项目博士后研究助理及博士生 对毕业学校无特别要求
粒子群算法的发展过程。粒子群优化算法(Partical Swarm Optimization PSO),粒子群中的每一个粒子都代表一个问题的可能解,通过粒子个体的简单行为,群体内的信息交互实现问题求解的智能性.由于PSO操作简单、收敛速度快,因此在函数优化、 图像处理、大地测量等众多领域都得到了广泛的应用. 随着应用范围的扩大,PSO算法存在早熟收敛、维数灾难、易于陷入局部极值等问题需要解决,主要有以下几种发展方向。
自从去年我们发表论文“ 学习优化 ”以来,优化器学习领域受到越来越多的关注。在这篇文章中,我们介绍这一行的工作,分享我们对这个领域的机遇和挑战的看法。
导读:AI领域顶会NeurIPS正在加拿大蒙特利尔举办。本文针对实验室关注的几个研究热点,模型压缩、自动机器学习、机器学习与最优化算法,选取23篇会议上入选的重点论文进行分析解读,与大家分享。Enjoy! NeurIPS (Conference on Neural Information Processing Systems,神经信息处理系统进展大会)与ICML并称为神经计算和机器学习领域两大顶级学术会议。今年为第32届会议,将于 12月3日至8日在加拿大蒙特利尔举办。腾讯AI Lab第三次参加Ne
Optuna是一个开源的超参数优化框架,Optuna与框架无关,可以在任何机器学习或深度学习框架中使用它。本文将以表格数据为例,使用Optuna对PyTorch模型进行超参数调优。
论文研读-多目标多任务优化MOMFEA-II Cognizant Multitasking in Multi-Objective Multifactorial Evolution: MO-MFEA-II 此篇文章为 K.K. Bali, A. Gupta, Y.-S. Ong, P.S. Tan, Cognizant Multitasking in Multiobjective Multifactorial Evolution: MO-MFEA-II, IEEE Trans. Cybern. (2020)
选自 BAIR 机器之心编译 参与:路雪、李泽南、蒋思源 自从去年 UC Berkeley 论文《Learning to Optimize》发表以来,有关优化器学习(optimizer learning)的研究就引起了人们的重视。在本文中,BAIR 在读博士 Ke Li 将向我们介绍这一工作的进展,并分享这一领域的机遇和挑战。 近年来,机器学习已经取得了巨大的成功,它已被应用在了很多不同领域中。这种成功可以归功于由数据驱动的机器学习方法,该方法能在使用专业知识手动设计的系统上自动挖掘数据中的模式。 然而,目
合作协同进化(Cooperative Coevolution)是求解大规模优化算法一个有效的方法。将大规模问题分解为一组组较小的子问题。而合作协同进化的关键是分解策略。
基于深度学习的算法在图像和视频识别任务中取得了广泛的应用和突破性的进展。从图像分类问题到行人重识别问题,深度学习方法相比传统方法表现出极大的优势。与行人重识别问题紧密相关的是行人的多目标跟踪问题。
领取专属 10元无门槛券
手把手带您无忧上云