专栏首页arxiv.org翻译专栏通过实例和本体概念的联合嵌入来实现知识库的通用表示学习(CS DB)

通过实例和本体概念的联合嵌入来实现知识库的通用表示学习(CS DB)

许多大型知识库同时表示知识图(KG)的两个视图:抽象和常识概念的本体视图,以及从本体概念实例化的特定实体的实例视图。但是,现有的KG嵌入模型仅专注于仅表示两个视图之一。在本文中,我们提出了一种新颖的两视图KG嵌入模型JOIE,目的是产生更好的知识嵌入并启用依赖于多视图知识的新应用程序。 JOIE采用了跨视图和视图内建模,可以在知识库的多个方面进行学习。学习跨视图关联模型来桥接本体概念及其对应的实例视图实体的嵌入。视图内模型经过训练,可以在单独的嵌入空间中捕获实例视图和本体视图的结构化知识,并为具有层次结构的本体启用了层次结构感知编码技术。我们探索了两个模型组件的多种表示技术,并研究了JOIE的九种变体。我们的模型是在大规模知识库上训练的,该知识库由大量实例及其相应的本体概念组成,这些本体实例通过一组(较小的)交叉视图链接连接。在公共数据集上的实验结果表明,JOIE的最佳变体明显优于以前的实例视图三重预测任务模型以及本体试图 KG上的本体种群。此外,我们的模型成功地将KG嵌入的使用扩展到了具有良好性能的实体类型。

原文题目:Universal Representation Learning of Knowledge Bases by Jointly Embedding Instances and Ontological Concepts

原文:Many large-scale knowledge bases simultaneously represent two views of knowledge graphs (KGs): an ontology view for abstract and commonsense concepts, and an instance view for specific entities that are instantiated from ontological concepts. Existing KG embedding models, however, merely focus on representing one of the two views alone. In this paper, we propose a novel two-view KG embedding model, JOIE, with the goal to produce better knowledge embedding and enable new applications that rely on multi-view knowledge. JOIE employs both cross-view and intra-view modeling that learn on multiple facets of the knowledge base. The cross-view association model is learned to bridge the embeddings of ontological concepts and their corresponding instance-view entities. The intra-view models are trained to capture the structured knowledge of instance and ontology views in separate embedding spaces, with a hierarchy-aware encoding technique enabled for ontologies with hierarchies. We explore multiple representation techniques for the two model components and investigate with nine variants of JOIE. Our model is trained on large-scale knowledge bases that consist of massive instances and their corresponding ontological concepts connected via a (small) set of cross-view links. Experimental results on public datasets show that the best variant of JOIE significantly outperforms previous models on instance-view triple prediction task as well as ontology population on ontologyview KG. In addition, our model successfully extends the use of KG embeddings to entity typing with promising performance.

原文链接:https://arxiv.org/abs/2103.08115

原文作者:Junheng Hao, Muhao Chen, Wenchao Yu, Yizhou Sun, Wei Wang

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 亮剑.NET的系列文章之初识三层架构

    最近在学习三层结构,通过上网找各种资料,初步学习了一些三层的知识跟大家分享一下。先跟大家介绍一下三层的来源,为什么叫三层?

    程序猿小亮
  • DDD领域驱动设计实战(四)-理解值对象

    应该尽量使用值对象建模而非实体对象。即便一个领域概念必须建模成实体,在设计时也应更偏向于将其作为值对象容器,而非子实体容器。因为可以非常容易对值对象进行创建、测...

    JavaEdge
  • Nodejs和Mongodb的连接器Mongoose

    今天我们将学习Mongoose,什么是Mongoose呢,它于MongoDB又是什么关系呢,它可以用来做什么呢,介绍Mongoose之前,我们先简单了解一下Mo...

    笔阁
  • 嵌入式驱动工程师学习路线【建议收藏】

    网上看了很多的嵌入式学习路线,有的比较片面,有的为了博人眼球东拼西凑,几乎把整个行业用得着用不着的技术都写上去了,没有侧重点,简直是劝退指南,还有的纯粹是打广告...

    Jasonangel
  • 神经网络图的简介(基本概念,DeepWalk以及GraphSage算法)

    近来,图神经网络(GNN)在各个领域广受关注,比如社交网络,知识图谱,推荐系统以及生命科学。GNN在对图节点之间依赖关系进行建模的强大功能使得与图分析相关的研究...

    AI研习社
  • 数据库概论

    SuperHeroes
  • 从ACL 2020看知识图谱研究进展

    国际计算语言学协会年会 ACL 2020 按照原定时间已经于 7 月 5 日至 10 日召开,受到疫情影响,本次会议全部改为线上会议。ACL 2020 共收到了...

    机器之心
  • 知识图谱综述论文阅读

    论文为A Survey on Knowledge Graphs: Representation, Acquisition and Applications,发表...

    里克贝斯
  • UC Berkeley EECS系是如何培养计算机学生的

    加州大学伯克利分校电子工程和计算机科学系(EECS)是世界知名的院系,计算机领域在2020 USNews排名第一[1]。EECS的使命是教育、创新和服务社会。自...

    陆道峰
  • ACL-BioNLP 2020 | 耶鲁大学实践成果:生物医药知识图谱嵌入模型基准测试

    今天给大家介绍的是耶鲁大学医学信息学中心主任Brandt教授实验室和爱丁堡大学的博士生联合发表在ACL-BioNLP 2020发表的文章“Benchmark a...

    DrugAI
  • 专访 | 潜心30年,知网知识系统如何从概念层次上计算自然语言

    机器之心
  • 【赛尔原创】如何自动地向知识图谱中添加属性?

    摘要:属性是实体的重要组成部分,因此如何自动获取实体的属性一直为知识图谱领域的研究者所关注。由哈尔滨工业大学社会计算与信息检索研究中心推出的开放域中文知识图谱《...

    zenRRan
  • 知识图谱前沿跟进,看这篇就够了,Philip S. Yu 团队发布权威综述,六大开放问题函待解决!

    2019 年年底,图灵奖获得者 Bengio 曾指出,我们正处于从以感知智能为代表的深度学习“系统一”,向以认知智能为代表的深度学习 “系统二”过渡的时期。

    AI科技评论
  • Bioinformatics|基于知识图谱嵌入的药物靶标发现

    药物靶点的预测对于早期药物分子的成药性评价和老药新用等领域都具有重大意义,但由于通量、精度和费用的限制,实验手段的应用难以广泛开展。作为一类快速而低成本的方法,...

    DrugAI
  • MongoDB 是什么 ? 能干嘛 ?

    最近在回顾mongodb的相关知识,输出一篇文章做为MongoDB知识点的总结。 总结的目的在于回顾MongoDB的相关知识点,明确MongoDB在企业级应用中...

    芋道源码
  • 资源 | 知网(HowNet)知识库的简单调用指南

    机器之心整理 参与:蒋思源 机器之心曾采访过语知科技的董强先生,在那一篇文章中,我们详细讨论了基于知网知识库的 NLP 解决方案。虽然我们已经了解了这种方法的潜...

    机器之心
  • 学习java需要会哪些知识才能够去应聘工作?

    Java基础 | 数据库 | Android | 学习视频 | 学习资料下载 按照我去培训机构的学习经历,给初学还有自学Java 的同学一个基本的学习脉络,希望...

    Java学习
  • 学习java需要会哪些知识才能够去应聘工作?

    按照我去培训机构的学习经历,给初学还有自学Java 的同学一个基本的学习脉络,希望对大家有帮助。 不建议找到一本书死啃,没啥用,不要有这一页看不明白我就不往下看...

    Java学习
  • 自然语言处理中的预训练模型(上)

    本文是最近比较火的一篇关于预训练模型的综述 「Pre-trained Models for Natural Language Processing: A Sur...

    口仆

扫码关注云+社区

领取腾讯云代金券