首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

每日论文速递 | Agent-FLAN: Agent指令训练让开源大模型Agent能力更进一步

摘要:开源的大型语言模型(LLM)在各种 NLP 任务中取得了巨大成功,但在作为代理时,它们仍然远远不如基于 API 的模型。如何将代理能力整合到开源 LLM 中成为一个关键而紧迫的问题。本文首先提出了三个关键观察结果:(1) 当前的代理训练语料与格式遵循和代理推理都纠缠在一起,与其训练前的数据分布有很大不同;(2) LLMs 对代理任务所需的能力表现出不同的学习速度;(3) 当前的方法在提高代理能力时会引入幻觉,从而产生副作用。基于上述发现,我们提出了 Agent-FLAN 来有效地微调代理的 LANguage 模型。通过对训练语料的仔细分解和重新设计,Agent-FLAN 使 Llama2-7B 在各种代理评估数据集上的表现比之前的最佳作品高出 3.5/%。通过全面构建负样本,Agent-FLAN 极大地缓解了基于我们既定评估基准的幻觉问题。此外,在扩大模型规模时,它还能持续提高 LLM 的代理能力,同时略微增强 LLM 的一般能力。

01
领券