浅谈工业级推荐系统 我于2020年8月受“第一届工业级推荐系统研讨会”的邀请，做了题为“工业级推荐系统最新的挑战和发展”的主题演讲。...工业级推荐系统及其生态系统 ---- 工业级推荐系统和学术研究中的推荐系统最大的一个区别，也是最容易忽视的一个区别在于，前者往往是某个产品中的一个环节，甚至有时候是一个很小的环节。...工业级推荐系统作为复杂的软件系统 ---- 这里要提到的最后一个工业级推荐系统的特性，也是推荐系统的学术研究往往会完全忽视的，那就是工业级推荐系统往往是一个复杂的软件系统。...从软件系统的角度来看，工业级推荐系统和推荐系统研究有着比较大的差别。...总结点评 ---- 我们在这一篇文章中为大家阐述了三个工业级推荐系统的重要特征。这三个特征都有别于推荐系统的主流学术研究，但都是推荐系统应用到工业界产品中所需要思考的问题。
一、前述 经过之前的训练数据的构建可以得到所有特征值为1的模型文件，本文将继续构建训练数据特征并构建模型。 二、详细流程 ?...将处理完成后的训练数据导出用做线下训练的源数据（可以用Spark_Sql对数据进行处理） insert overwrite local directory '/opt/data/traindata' row...这里是方便演示真正的生产环境是直接用脚本提交spark任务，从hdfs取数据结果仍然在hdfs，再用ETL工具将训练的模型结果文件输出到web项目的文件目录下，用来做新的模型，web项目设置了定时更新模型文件...//得到稀疏向量 val sam: RDD[SparseVector] = sample.map(sampleFeatures => { //index中保存的是，未来在构建训练集时...trainSet") // la.sample(true, 0.001).saveAsTextFile("testSet") // println("done") //逻辑回归训练
导读 目前的模型训练过程只获取用户的反馈作为标签，而没有考虑到之前推荐中的错误。本文为推荐系统构建一个自纠正学习循环（称为 ReLoop），从而从之前的推荐错误中学习知识。...构建自定义损失来鼓励每个新模型版本在训练期间减少对先前模型版本的预测误差。 核心：利用前一次训练的预测结果来约束当前轮次训练的性能不能差于前一次，简单有效。 2....方法 image.png 2.1 生产中的训练循环 推荐模型的训练循环如图 1(a) 所示。 首先，从用户对曝光商品的隐式反馈中收集训练数据，即点击商品作为正样本，未点击商品作为负样本。...最后，在线曝光和点击事件将被记录在用户行为日志中，进而触发新的一段时间的训练。 可以发现相邻训练程序之间的联系非常松散，因为每个程序都独立地训练自己的模型。...除了上述损失函数还需要正常的推荐模型训练，此处采用交叉熵损失， \mathcal{L}_{c e}=-y \log \hat{y}-(1-y) \log (1-\hat{y}) 因此总损失为 L=\
一、前述 根据前文中架构，本文我们讨论线下部分构建训练集部分。因为我们离线部分模型的选择是逻辑回归，所以我们数据必须有x和y. 二、具体流程 1.从数据库中分离出我们需要的数据。 ...2.构建训练集中的关联特征 ? 流程： ? 2.构建训练集中的基本特征 ? 总结：注意特征名离散化因为如果特征不离散化会造成数据之间有关系。...local inpath '/opt/sxt/recommender/script/sample.txt' into table dw_rcm_hitop_sample2learn_dm; 3、构建训练数据... STRING, pay_ability STRING )row format delimited fields terminated by '\t'; 最终保存训练集的表... STRING, features STRING )row format delimited fields terminated by '\t'; 3.2 训练数据预处理过程
由于近些年深度学习技术的飞速发展，大力加速推动了AI在互联网以及传统各个行业的商业化落地，其中，推荐系统、计算广告等领域彰显的尤为明显。...但是，这里存在几个问题，很多欲从事推荐系统的同学大多数学习的方式是自学，1、往往是学了很多的推荐算法模型，了解些推荐里常用的算法，如：协同过滤、FM、deepFM等，但是却不清楚这些模型在工业界推荐系统中是如何串联...范式二：多模型融合 范式三：联合训练、ESMM，MMOE框架，ESM2等 ESMM的实现 第四部分：实时召回策略与前沿推荐技术 Week12-13: 工业界新闻推荐系统中冷启动与热点文章实时召回 人群分桶...强化学习在推荐场景中的应用 Week15: 项目总结，部署以职业规划 工业界项目的部署 推荐系统岗位的面试要点 大厂的面试攻略 如何准备简历、包装自己 职业规划 课程其他的细节可以联系课程顾问来获取...新闻推荐项目 目前业界最主流的推荐系统使用 “多路召回 + 精排” 的方式，本项目中，带你掌握这种工业界最流行的推荐方式，你将使用MF、双塔等深度网络进算法对用户和物品进行表达，并基于ANN检索的方式实现召回
这篇论文是 GraphSage 一次成功的应用，也是 GCN 在大规模工业级网络中的一个经典案例，为基于 GCN 结构的新一代 Web 级推荐系统铺平了道路。...GCN 在工业中应用的主要挑战在于如何在数十亿节点和数百亿边的网络中高效完成训练，对此论文提出了以下几种改进措施： 「动态卷积」：通过对节点的领域进行采样构建计算图来执行高效局部卷积，从而减轻训练期间对整个图进行操作的需要...「多 GPU 训练」：为了能够在单台机器上充分利用多个 GPU 进行训练，作者以多塔（Mulit-tower）的方式训练前向和反向传播。...2.4 Efficient nearest-neighbor lookups 作者主要通过计算 query 和 item 的 Embedding 向量的 k-近邻来进行推荐。...除了保证高度可扩展性外，作者还引入 Importance Pooling 和 Curriculum Learning 的技术大大提高了模型的性能和收敛速度，从实验结果表明 PinSAGE 显著了提升了推荐系统的效果
整个网络是在度量学习(metric learning)的框架下进行训练，实验表明该方法可以在很大程度上改善序列化推荐的效果。接下来，我们就一探究竟。 1、为什么要用自注意力机制？...推荐系统中，很多情况下我们使用用户的历史交互数据进行推荐，比如点击数据、浏览数据、购买数据等等。...2.4 模型训练 综合短期兴趣和长期兴趣，模型的整体架构如下： 综合两部分，我们便可以得到用户对于某个物品的推荐分，这里推荐分越低，代表用户和物品越相近，用户越可能与该物品进行交互： 而模型采用pair-wise...的训练方法进行训练，即输入一个正例和一个负例，希望负例的得分至少比正例高γ，否则就发生损失。...由这篇论文也可以看出，自注意力机制、Transformer不仅仅在NLP领域得到应用，推荐系统领域也开始尝试，所以学好这个模型是十分必要的呀！
不过评测指标，是对我们推荐效果的评价，用于评估推荐效果的好坏，不用于指导我们模型的训练。因此在一般的基于深度学习的模型中，常常面临模型训练和评估时指标不一致的问题。...关于推荐系统评价指标更多的知识，可以看之前总结的两篇文章： 推荐系统遇上深度学习(九)--评价指标AUC原理及实践 推荐系统遇上深度学习(十六)--详解推荐系统中的常用评测指标 相关的代码实现在这里：...有关本论文的更多细节，参考文章：推荐系统遇上深度学习(十四)--强化学习与推荐系统的强强联合！...简单来说，是为了平衡推荐系统的准确性和多样性。...构建线上环境仿真器 在推荐系统上线之前，需要进行线下的训练和评估，训练和评估主要基于用户的历史行为数据，但是，我们只有ground-truth的数据和相应的反馈。
其实这篇文章所探讨的数据同步策略并不限于某两种固定的存储系统之间，而想去探讨一种通用的数据同步策略。...主要分为以下三个部分 (1)背景介绍 (2)双写缺点 (3)改良方案 基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序，支持...可是某a国际电商公司在产品韩的领导下，业务增长迅速，阿雄发现了数据库越来越慢，于是乎阿雄加入了一些缓存，如redis来缓存一些数据，提高系统的响应能力。...阿雄在网上发现，现在业内都用一些elasticsearch做一些全文检索的操作，于是乎阿雄将一些需要全文检索的数据放入elasticsearch,提高了系统的搜索能力！...那么，双写会带来什么坏处呢？OK，继续往下看！ 双写缺点 一致性问题打个比方我们现在有两个client，同时往两个DataSouce写数据。
制造业是中国工业化的源头，也是工业生产大国。任何一步的质量都可能影响生产过程的变化。表面缺陷不仅影响产品的美观和舒适性，还会对其性能产生不良影响。因此，制造商对产品的表面缺陷检测非常重视。...对于一些重要的按钮，尤其是停机和上下键安装错误，很容易导致严重事故，因此迫切需要使用人工智能检测手段，引入机器视觉检测，配合AI智能化算法，有效控制产品质量，从而消除或减少缺陷产品的产生，提高生产效率。...图片一、系统架构AI视觉检测系统主要通过光源和图像传感器(工业相机)获取产品的表面图像，利用图像处理算法提取图像的特征信息，然后根据特征信息对表面缺陷的定位、识别、分类等判定与统计，通过图像采集、图像校正...二、系统功能图像采集：500万像素8帧/秒定焦定高工业相机，由算法自动处理，面板高度不同带来的对焦可调整;图像预处理：预处理算法消除每个面板的长、宽、高均不相同，模板制作的好坏、视差的高低所带来的影响。...可扩展性：该系统可不仅仅局限于检修盒面板的检测，所有可以用模板匹配方法解决的问题，都可以无缝采用该软件系统。三、系统软件检验窗口：支持查看待检设备及模板图像、检验结果等，设置系统初始化配置。
今天的分享，主要包括三个部分： 首先介绍我们为什么需要做 AI 训练加速，也就是整体背景和出发点是什么； 第二部分我们会系统性的分析实际训练过程中的可能会遇到的性能瓶颈问题，然后针对这些问题，介绍目前主要的加速方案...为什么需要 AI 训练加速？ 在 AI 系统中，一个模型从生产到应用，一般包括离线训练和推理部署两大阶段。...、以及专为 AI 设计的高性能并行文件系统 PFS； AI 加速层，包括数据湖存储加速套件 RapidFS，AI 训练加速套件 AIAK-Training，AI 推理加速套件 AIAK-Inference...由上可知，数据并行相比单卡训练，主要增加了额外的通信开销。 通过前述分析，我们知道加速AI 训练不单是某一方面的工作，需要从数据加载、模型计算、分布式通信等系统维度综合考虑。...从存储系统上，我们可以使用更高性能的存储介质，或者基于这些高速存储介质组成的并行文件系统，或者说一些缓存加速系统。前面介绍到的，百度百舸也提供了相应的存储系统方案，比如 PFS、RapidFS 等。
本文利用信息论中的信息瓶颈（这边可以理解为互信息，文中用到的都是互信息）理论结合因果推断中的因果图，来对推荐系统进行纠偏。...纠偏的背景就不过多介绍了，简而言之就是，反馈和推荐之间关系，以及热门和冷门item对推荐的影响。具体案例可以看前几篇纠偏相关文章。...公式太长可以左右滑动 背景 如图所示，图a是常见的有偏推荐系统的因果图，其中Treatment表示推荐系统的干预，结合之前因果推断的相关知识，可以明显发现因果图中存在混杂因子。...而这里的混杂因子C就是表示推荐系统中常见的流行度偏差、位置偏差等。...如果可以将其拆分，那么可以得到r和z分别表示有偏和无偏embedding，在训练的时候都参与训练，而在预测的时候只用无偏的embedding（z）进行预测。
受到相关技术的启发，推荐系统最近两年也出现了一些学习用户通用表征的算法和深度模型，也就是，通过对用户行为进行某种程度预训练，然后adapt到一些下游任务中，这些下游任务包括，跨域推荐和用户画像预测，本文简要介绍几种代表性工作...该论文的一个贡献是建立了推荐系统和NLP、CV领域的桥梁，也是通用用户表征比较早期的做法，对后续工作很有启发，同时，作者也发布了一套开源代码和数据集（短视频场景），可以用于预训练、迁移学习、表征学习、画像预测等重要的推荐系统任务...关于表征的迁移效果，论文做了一些ablation study主要是关于推荐系统场景。...500倍，ShopperBERT的60倍以上，有望成为推荐系统领域大模型预训练的里程碑工作。...由于微信公众号试行乱序推送，您可能不再能准时收到AI科技评论的推送。为了第一时间收到AI科技评论的报道， 请将“AI科技评论”设为星标账号，以及常点文末右下角的“在看”。
背景介绍 互联网用户会训练大量在线产品和服务，因此很难区分什么对它们更有兴趣。为了减小信息过载，并满足用户的多样性需求，个性化推荐系统扮演着重要的角色。...精准的个性化推荐系统有利于包括publisher和platform在内的需求侧和供给侧。 CTR预测是为了估计一个用户在特定context上、在某个推荐item上的概率。...因此，许多工业界公司都会在它们的推荐系统上部署deep ctr模型，比如：google play的Wide&Deep、Huawei AppGallery的DeepFM/PIN，Taobao的DIN和DIEN...因此，如何提升Deep CTR模型的训练效率并且不伤害它的效果是在推荐系统中的一个必要问题。...然而，工业界推荐系统的大多数deep models是以batch模式进行训练的，它会使用一个fixed-size window的训练数据来迭代训练模型。
文章作者：梁超 腾讯 高级工程师 编辑整理：Hoh Xil 内容来源：DataFun AI Talk 出品社区：DataFun 导读：本次分享的主题为推荐系统中模型训练及使用流程的标准化。...我们就需要一个很好的系统来管理所有的特征和模型。 2. 推荐系统流程 ? 简单回顾下推荐系统的流程，整个推荐系统需要从数以百万计的内容池中筛选出数以十计的文章推荐给最终的用户。...常用的推荐模型有 LR、FM、DNN、W&D、DeepFM、DIN 等模型，对于推荐系统，无论使用哪种模型，都需要以下几个模块： 样本搜集：训练模型离不开大量的训练样本，所以需要进行样本 ( 特征和标签...推荐系统中模型迭代的痛点 与研究中给定的数据集不同，推荐系统中的模型需要不断地迭代调优。在日常的工作中，我们常常需要在保证现有模型服务稳定的前提下，不断地增加新的特征，训练新的模型。...模型训练所需的特征需要和在线预测时的特征完全一致。在工业界中，一般会将在线特征 dump 到日志中，训练时结合标签生成完整的训练样本，从而保证在线、离线特征的一致性。
2 大规模训练优化挑战 2.1 业务迭代带来的挑战 随着美团业务的发展，推荐系统模型的规模和复杂度也在快速增长，具体表现如下： 训练数据：训练样本从到百亿增长到千亿，增长了近10倍。...图2 自动化实验框架 2.2.2 业务视角的负载分析 在推荐系统场景中，我们使用了TensorFlow Parameter Server[3]（简称PS）异步训练模式来支持业务分布式训练需求。...然后我们会暂停训练的进程，启动Allocator的构造过程，包括MR的创建以及通信双端的信息同步。...5 总结与展望 TensorFlow在大规模推荐系统中被广泛使用，但由于缺乏大规模稀疏的大规模分布式训练能力，阻碍了业务的发展。...美团推荐系统场景的模型训练，目前主要运行在CPU上，但随着业务的发展，有些模型变得越来越复杂，CPU上已经很难有优化空间（优化后的Worker CPU使用率在90%以上）。
Mini-batch Aware Regularization：为了防止过拟合，我们通常会采用L1，L2等正则项方式，但是以L2正则为例，L2正则项是不区分样本的，每一个mini-batch训练后都要更新所有参数..._{j}}\left\|\boldsymbol{w}_{j}\right\|_{2}^{2} DICE：作者认为PReLU，ReLU这类就好函数的突变点都在0，且固定不变，这对于输入分布在不断变化的训练数据是不适用的...，因此引入了类似于BN的均值和方差来重新设计了DICE，公式如下，在测试阶段，均值和方差的确定和BN一样也是利用之前训练时计算的移动平均值。...right) \sigma\left(x_1,x_2 \right)=\frac{1}{1+exp\left(-[x_1,x_2]\right)} 这里的[]表示内积将这部分损失和最终的损失合起来一起训练...这也比较好理解，举个极端点的例子，加入这个用户在一段时间里不是很活跃，可能在1月份的时候逛了淘宝，然后直到双十一才再次打开淘宝，有点击和购买行为，那么这两段时间中的行为之间其实会有很大差别。
因为大部分用户是沉默的用户，并不会明确给系统反馈“我对这个物品的偏好值是多少”。因此，推荐系统可以根据大量的隐性反馈来推断用户的偏好值。...评估方案：为了评价项目推荐的性能，论文采用了leave-one-out方法评估，即：对于每个用户，我们将其最近的一次交互作为测试集（数据集一般都有时间戳），并利用余下的培训作为训练集。...： 推荐系统遇上深度学习系列： 推荐系统遇上深度学习(一)--FM模型理论和实践 推荐系统遇上深度学习(二)--FFM模型理论和实践 推荐系统遇上深度学习(三)--DeepFM模型理论和实践 推荐系统遇上深度学习...(四)--多值离散特征的embedding解决方案 推荐系统遇上深度学习(五)--Deep&Cross Network模型理论和实践 推荐系统遇上深度学习(六)--PNN模型理论和实践 推荐系统遇上深度学习...(七)--NFM模型理论和实践 推荐系统遇上深度学习(八)--AFM模型理论和实践 推荐系统遇上深度学习(九)--评价指标AUC原理及实践 推荐系统遇上深度学习(十)--GBDT+LR融合方案实战
Networks for Session-based Recommendations》 论文下载地址为：https://arxiv.org/abs/1606.08117 本文仍然使用RNN做基于会话的推荐...因此啊，我们可以定义一个近期的时间节点，比如近半年之内，只用这部分数据去训练模型。但是呢，这样会造成训练数据太少。 所以文中使用预训练的方法。...即用所有的数据先预训练模型，然后只用近期的数据进行模型的进一步训练。...具体做法上，先使用privileged information训练一个模型，作为teacher模型，然后训练一个student模型，即我们实际想要学习的模型。...比如，我们将所有的训练集按照时间先后排序，-8即代表使用最近的1/256的数据集进行训练，-6代表使用最近的1/64的数据集进行训练，0就是使用所有的训练集进行训练。
袁泉和龙海涛其人 袁泉，离职前担任阿里认知计算实验室负责人、资深总监，是手机淘宝、手机天猫推荐算法团队缔造者，2013年到2016年期间率队打造了“千人千面”的手淘推荐系统，因此还拿下了当年双11的CEO...加入阿里前，袁泉是IBM中国研究院的研究员，从事推荐等智能决策算法的研究，是IBM2011年全球银行业FOAK创新项目发起人。...在2013-2017年期间，龙海涛在阿里巴巴负责搜索广告业务的架构设计，主导了其核心的离线系统、在线引擎和索引内核的升级换代，并因此获得了阿里妈妈“最佳团队奖”、“最佳项目奖”和“双十一个人创新特别奖”...即便狭隘一些，DeepMind、OpenAI等知名组织也都希望从星际、DOTA2这样的游戏中寻得AI突破，腾讯则还用AI+游戏进行模型算法研发、训练。 那为啥启元世界也选择《星际争霸》？...当然，更长远未来，从《星际争霸》中学习训练的AI，还会进入各行各业，从工业机器人的生产与操控，到自动化农业，智能交通、物联网领域，都不缺乏应用场景。 作者系网易新闻·网易号“各有态度”签约作者
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
云直播
