首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

复旦卢暾:以人为中心的推荐系统--大模型驱动的Agent建模方法

本文整理自11月23日达观大讲堂上复旦大学计算机学院教授、博导,上海市数据科学重点实验室副主任,复旦大学社会计算研究中心主任卢暾教授《以人为中心的推荐系统模拟——大模型驱动的Agent建模方法》的主题分享。

随着互联网和数字化技术的迅猛发展,推荐系统已经成为了许多在线平台和应用程序中不可或缺的一部分。传统的推荐系统主要基于机器学习和协同过滤等方法,通过分析用户行为和项目特征来提供个性化的推荐。然而,随着数据规模和复杂性的增加,传统方法在面对大量用户和项目,特别满足用户良好推荐体验上,存在较大局限性。因此,以人为中心的推荐系统逐渐引起了研究者和工程师们的关注。大模型驱动的Agent建模方法是实现以人为中心的推荐系统的一种重要方式。这种方法借助于强大的大规模语言模型,如GPT等,构建智能代理(Agent)。其可以对用户的查询和上下文进行深入理解,并利用大规模数据和深度学习技术提供高质量的推荐结果。这种建模方法通过模拟人类决策和个性化需求,可以更好地理解用户的行为和意图,从而提供更加智能和贴近用户期望的推荐。并且,通过将用户放在推荐系统的核心位置,这种方法可以有效地解决传统推荐系统中的一些挑战,并提供更加个性化和满足用户需求的推荐体验。

面临的问题和挑战

1. 复杂交织的期望价值目标

推荐系统需要满足用户的多样化和动态化需求。用户的期望价值目标包括个性化、多样性、时效性等方面的要求。然而,这些目标之间可能存在冲突,如个性化推荐可能导致信息过滤的问题,多样性推荐又可能降低了个性化程度。因此,实现这些复杂交织的目标是一个巨大的挑战。

2. 数据主导与支配的机制算法

推荐系统的核心在于对海量数据的处理和分析。传统方法主要依赖于机器学习和协同过滤等技术,但这些方法容易受限于数据的稀疏性和冷启动问题。此外,数据主导的算法往往会优先考虑热门和流行的项目,导致长尾项目的推荐效果不佳。因此,如何设计有效的算法来平衡数据驱动和用户需求之间的关系,是推荐系统领域需要解决的难题。

3. 极化的正反馈闭环放大效应

推荐系统中的正反馈效应是一把双刃剑。当用户接收到与自己兴趣相符的推荐时,会更愿意进行交互和消费,进而形成正向的反馈循环。然而,这种正反馈循环也可能导致信息过滤和舆论偏见的问题,使用户陷入“信息茧房”。如何在推荐过程中平衡正反馈效应,增强推荐的多样性和广度,是推荐系统需要面对的挑战之一。

4. 多环节无处不在的各种偏差

推荐系统涉及多个环节,包括数据收集、特征提取、模型训练和结果展示等。每个环节都可能引入各种偏差,如数据采样偏差、特征选择偏差、算法偏差等。这些偏差可能导致推荐结果的不准确性和不公平性。解决这些偏差问题需要综合考虑数据质量、算法可解释性和结果评估等方面的因素。

基于大模型Agent 的微观推荐系统框架RAH

1.微观层面临的问题挑战

在微观层面上,以人为中心的推荐系统在个性化需求多样性、兴趣演化时效性、隐私保护和解释透明度等方面面临着诸多挑战。解决这些挑战需要结合用户行为研究、隐私保护技术和解释性算法等多个领域的知识。通过不断创新和改进,以人为中心的推荐系统将能够更好地满足用户的个性化需求,并提供具有良好用户体验的推荐服务。

2.解决方法与启示

以人为中心的推荐:对推荐系统进行改进,考虑用户的需求,提升用户的满意度

大语言模型增强的推荐系统:基于大模型构建推荐系统,利用世界知识理解物品特征,利用推理能力实现个性化筛选和精细排序

大语言模型驱动的智能体:明确大模型智能体的定义,提出设计框架,实现适配具体领域和场景的智能体

3.以人为中心的推荐框架RAH

RAH (Recsys-Assistant-Human) 是一个基于大模型Agent的推荐框架,旨在解决推荐系统中以人为中心的问题,例如降低用户负载、缓解推荐偏见、增强用户控制。RAH框架从人类用户的视角出发,核心思想就是增加个人助手Assistant,用于在推荐场景中协助人类用户。进一步说,在这个框架中,个人助手基于大语言模型的知识储备和推理能力,从用户行为中学习和理解用户的个性;然后,个人助手再根据用户的个性提供定制的操作。

在这个RAH框架下,个人助手能够代理用户并协助用户优化推荐系统、缓解偏见和增强用户对推荐结果和个人隐私的控制。每个助手都由几个基于LLM的智能体组成:

(1) 感知智能体:理解和解释推荐信息,包括Item特征和用户反馈的含义。

(2) 学习智能体:从用户行为中分析用户个性,并将它们存储在个性库中。

(3) 行动智能体:根据学到的个性执行操作,例如为用户过滤不喜欢的项目。

(4) 评判智能体:验证执行的操作是否与用户的偏好一致,并分析调整以减少差异。

(5) 反思智能体:审查和优化积累的个性,例如解决重复和冲突等问题。

此外,我们通过添加学习-行动-评判循环和反思机制来增强我们提出的助手与用户的一致性。在学习-行动-评判循环中,学习、行动和评判智能体合作处理用户操作,不断改进对用户个性的理解。这个迭代循环会一直持续下去,直到行动智能体准确地反映学到的个性。同时,反思机制使用反思智能体定期修订学到的个性,减少累计个性中存在的冗余和冲突。在我们的实验中,我们使用真实世界数据在三个推荐领域评估RAH框架。首先,我们发现学习-行动-评判循环和反思机制显著增强了个人助手与用户个性的对齐程度。第二个实验表明这些代理操作可以协助用户调优推荐系统,减少了用户的交互次数,降低用户的操作负担。此外,在第三部分实验,我们研究了使用经过对用户个性学习的助手来代理用户对低流行度Item的反馈,缓解选择偏见,从而减轻系统中的偏见。最后,我们研究发现了RAH框架在解决与用户控制相关的问题时的潜力,包括通过二次过滤来帮助用户控制推荐结果,以及调整推荐系统对用户敏感数据的可见性来控制个人隐私。

预训练大模型驱动的宏观模拟系统SimuLine

1.宏观层面临的问题挑战

以人为中心的推荐系统在宏观层面面临着社会影响、公平性、信息多样性和隐私安全等方面的挑战。解决这些挑战需要从技术、政策和法律等多个角度进行思考和创新。推荐系统的发展应注重用户的长期利益和社会效益,在个性化推荐的同时保持公平、多样和可持续的推荐环境。

2.解决方法与启示

基础工作:合成数据生成For Synthetic Data。学习数据分布,并面向特殊推荐场景或需求生成数据集

方向一:面向模型训练的模拟器For Model Training of RecSys。通过框架定义数据分布学习,将静态数据增强为动态生成的多轮交互数据,进而实现面向用户多轮交互效用的推荐算法优化

方向二:面向推荐系统社会影响的模拟器For Social Impact of RecSys。针对推荐系统长期交互过程中所产生的特定社会问题,基于Agent based Modeling 等建模方法设计有针对性的模拟框架,重现研究所关注的相关现象,并使用模拟数据予以解释

3.宏观模拟系统SimuLine

SimuLine是一个基于预训练大模型的推荐宏观模拟系统,旨在解决推荐系统中面临的问题和挑战,并提供更准确、全面和多样化的推荐体验。该系统通过强大的模拟能力和大规模数据驱动,为用户提供个性化、实时和多维度的推荐结果。其核心是一个预训练的大模型,具备深度学习技术和自然语言处理能力。这个模型经过大量数据的训练,能够理解和捕捉用户的兴趣偏好、行为模式和语义信息。它能够对用户进行精确建模,并从海量数据中挖掘潜在的关联和推荐机会。该系统还具备强大的模拟能力,可以模拟用户的兴趣演化和行为变化。SimuLine考虑到用户的兴趣和需求是动态变化的,可能受到季节性、时事热点或个人发展等因素的影响。因此,该系统能够模拟用户在不同场景和时间段的兴趣变化,及时调整推荐策略,提供与用户当前兴趣相关的推荐结果。此外,SimuLine注重推荐的多维度性。它不仅考虑用户的个人兴趣,还将其他因素融入推荐过程,如社交关系、地理位置、时效性需求等。这使得推荐结果更加全面和多样化,能够满足不同用户的个性化需求。SimuLine还关注隐私保护和用户参与。系统采取严格的隐私保护措施,对用户的个人信息和行为数据进行安全处理。同时,该系统提供用户参与推荐过程的机制,例如用户可以主动指定偏好、提供反馈和评价推荐结果,从而增强用户对推荐算法的参与感和信任度。

未来展望:技术发展与治理趋势

在大模型时代,复杂系统模拟的发展对于“以人为中心的推荐系统”变得更加重要。这是因为大模型不仅能够处理和分析海量数据,还能通过深度学习技术理解人类行为和需求,从而提供更准确、个性化的推荐服务。"以人为中心的推荐系统"的主题突出了用户体验和参与的重要性。随着大模型的兴起,可以更好地理解用户的兴趣、偏好和行为模式,从而根据个体的需求进行更精准的推荐。这种个性化的推荐有助于提高用户满意度,并增强他们对推荐系统的信任。此外,大模型可帮助推荐系统更好地理解和模拟人类行为的复杂性。它们能够捕捉到用户的动态兴趣演化、情感变化和社交互动等方面的特征。通过模拟复杂系统中的各种因素和相互作用,这些模型能够更准确地预测用户的行为和需求,为其提供更加个性化的推荐。然而,在利用大模型进行复杂系统模拟时,也需要注重“以人为中心”的原则。这意味着系统应该确保用户的隐私和数据安全,并提供可解释性的推荐结果。用户应该有权选择参与推荐过程,并对推荐结果进行反馈和调整。此外,公平性也是一个重要的考虑因素,推荐系统应该避免偏见和歧视,确保每个用户都能获得公正和中立的待遇。因此,在实现这些目标的同时,也需要关注用户体验、隐私保护、参与机制和公平性等方面,以确保推荐系统真正以人为中心,并提供积极的社会影响。

感谢上述两个工作的共同作者:张光平、舒钰博、张鹏、尚笠、顾宁(复旦),李东胜(MSRA)

相关论文:

[1] Yubo Shu, Haonan Zhang, Hansu Gu, Peng Zhang, Tun Lu, Dongsheng Li, Ning Gu. (2023) RAH! RecSys-Assistant-Human: A Human-Centered Recommendation Framework with LLM Agents, arXiv:2308.09904.

[2] Guangping Zhang, Dongsheng Li, Hansu Gu, Tun Lu, Li Shang. Ning Gu. (2023) Simulating News Recommendation Ecosystem for Fun and Profit. arXiv preprint arXiv:2305.14103.

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O7yclyVmnIYRYd4Hpauzq_5g0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券