首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

E-BERT,电商领域语言模型优化实践

方法 论文的创新方法主要有两个:Adaptive Hybrid Masking(AHM,自适应混合掩码)和Neighbor Product Reconstruction(NPR,相似商品重构)。 ?...E-BERT总览 AHM 第一个方法AHM其实是对已有掩码方式的改进。原始版本的BERT采用的是随机mask,这个大家应该都比较清楚。...AHM总体的流程如下图所示。对于一句输入,首先用两种方式进行mask,左边是常规word mask,右边是phrase mask,然后输入到BERT,分别得到MLM的loss,Lw和Lp。...AHM总体流程 NPR NPR是个比较有意思的部分,直观的解释是希望能通过一个商品重建出另一个相似商品的隐空间表示。...实验组是各种配置的E-Bert,包括只使用phrase masking的E-Bert-DP,使用AHM的E-Bert-AHMAHM+NPR的E-Bert。

1.3K20
您找到你想要的搜索结果了吗?
是的
没有找到

安装 TensorFlow安装 TensorFlow

安装 TensorFlow 我们已在如下配置的 64 位笔记本电脑/台式机操作系统中构建并测试过 TensorFlow: MacOS X 10.11 (El Capitan) 或更高版本 Ubuntu...16.04 或更高版本 Windows 7 或更高版本 也许您能在其他笔记本电脑或台式机系统上安装 TensorFlow,但我们只支持上述配置(且只会修复这些配置中的问题)。...下列指南介绍了如何安装让您可以使用 Python 编写应用的 TensorFlow 版本: 在 Ubuntu 上安装 TensorFlow 在 macOS 上安装 TensorFlow 在 Windows...上安装 TensorFlow 从源代码安装 TensorFlow Python TensorFlow API 的许多方面都已从版本 0.n 升级为 1.0。...安装适用于 Java 的 TensorFlow 安装适用于 C 的 TensorFlow 安装适用于 Go 的 TensorFlow

4.5K20
领券