首页
学习
活动
专区
工具
TVP
发布

机器之心

专栏作者
8931
文章
6284682
阅读量
277
订阅数
有效融合语言模型、图神经网络,文本图训练框架GLEM实现新SOTA
图是一种普遍的数据结构,建模了节点之间的结构关系。在现实生活中,许多节点包含丰富的文本特征,这种图被称为文本图 (text-attributed graph [2])。例如,论文引用网络中包含了论文的文本和论文之间的引用关系;社交网络中包含了用户的文本描述和用户直接的交互关系。在文本图上的表示学习模型,可以应用于节点分类、链路预测等任务中,具有广泛的应用价值。
机器之心
2022-12-16
5650
NeurIPS 2022 | 准确建模多智能体系统,斯坦福提出隐空间多层图模型
对多智能体系统 (multi-agent systems) 的建模在很多领域和应用中起到重要作用,包括但不限于自动驾驶,移动机器人导航,以及人机协作。由于个体的行为会受到不同类型社会性交互 (social interactions) 的影响,多智能体系统的动力学建模面临着极高的挑战。
机器之心
2022-12-16
3470
Mila唐建团队开源大分子机器学习平台TorchProtein:分析蛋白质序列及结构数据,仅需一两行代码
机器之心专栏 机器之心编辑部 继药物研发机器学习平台 TorchDrug 之后,时隔一年,Mila 唐建团队开源了新的蛋白质机器学习平台 TorchProtein,这是目前第一个专门针对蛋白质研究的开源机器学习库。 蛋白质是生物体的重要组成成分。理解蛋白质的结构与生化性质,对于药物研发和人类健康有着不可估量的意义。传统基于生物实验的蛋白质研究不仅周期漫长,而且开销巨大。相比之下,机器学习技术则能大幅降低蛋白质研究的周期和开销,为新药的研发带来革命性的影响。然而,基于机器学习的蛋白质研究,涉及到生物领域知识、
机器之心
2022-09-20
7710
7 Papers & Radios | 首个用于工业开发的自动代码生成系统;多模态图像合成与编辑综述
机器之心 & ArXiv Weekly Radiostation 参与:杜伟、楚航、罗若天 本周主要论文包括首个用于工业开发的自动代码生成系统,精巧高效还入选了顶会;英伟达 & 斯坦福做出了超轻薄 VR 眼镜。 目录 Incorporating Domain Knowledge through Task Augmentation for Front-End JavaScript Code Generation Ferroelectric/paraelectric superlattices for ener
机器之心
2022-08-29
4340
ECCV 2022|全场景图生成PSG:追求「最全面」的场景理解
机器之心专栏 作者:MMLab@NTU 本文提出基于全景分割的全场景图生成(panoptic scene graph generation,即PSG)任务。相比于传统基于检测框的场景图生成任务,PSG任务要求全面地输出图像中的所有关系(包括物体与物体间关系,物体与背景间关系,背景与背景间关系),并用准确的分割块来定位物体。PSG任务旨在推动计算机视觉模型对场景最全面的理解和感知,用全面的识别结果更好地支撑场景描述、视觉推理等下游任务。同时PSG数据集提供的关系标注和全景分割也为解决当前图像生成领域对关系不敏
机器之心
2022-08-26
1.1K0
KDD 2022奖项出炉:华人学者摘创新奖、博士论文奖、新星奖等多个奖项
机器之心报道 机器之心编辑部 KDD 2022 已经公布时间检验奖、博士论文奖、创新奖等重磅奖项。 最近几天,一年一度的 KDD 大会正在美国华盛顿特区举办。 本届大会包含 Research 和 Applied Data Science 两个 track。前段时间,大会公布了论文接收结果:Research track 共收到 1695 篇投稿,其中 254 篇被接收,接收率为 14.9%,和去年 Research track(1541 篇投稿,238 篇接收,接收率 15.4%)差别不大;Applied
机器之心
2022-08-25
6130
7 Papers & Radios | 联邦图机器学习综述;基于知识图谱和分子图的药物筛选模型
机器之心 & ArXiv Weekly Radiostation 参与:杜伟、楚航、罗若天 本周重要论文包括普林斯顿大学的研究人员应用人工智能来预测过冷水中冰核的形成速率;湖大等开发药物筛选新模型等研究。 目录: Homogeneous ice nucleation in an ab initio machine-learning model of water KG-MTL: Knowledge Graph Enhanced Multi-Task Learning for Molecular Interac
机器之心
2022-08-25
2570
SIGIR 2022|邻域建模Graph-Masked Transformer提高微信视频点击率预测
机器之心专栏 腾讯 AI Lab 和微信公众平台 本文介绍的是腾讯 AI Lab 和微信公众平台共同研发的一种最新的在异质图上基于邻域交互的点击预测新模型。论文题目为《Neighbour Interaction based Click-Through Rate Prediction via Graph-masked Transformer》,论文已被 SIGIR2022 录用。并且在实际线上场景部署 A/B 测试中获得很好的效果。 论文地址:https://dl.acm.org/doi/abs/10.11
机器之心
2022-07-26
3660
图神经网络作CV骨干模型,来听听华为诺亚是怎么做的
在计算机视觉领域,骨干网络一直是特征提取的重要部件。从 AlexNet 到 ResNet,卷积网络 CNN 在很长一段时间内一直是视觉任务的标配。近年来,基于注意力机制的 Transformer 和以全连接层为主的 MLP 网络也开始在计算机视觉领域崭露头角。与现有主流 CNN 模型相比,基于 Transformer 或 MLP 的模型在视觉任务上也显示出了良好的性能。 直到现在,关于谁是更好的视觉骨干网络还是一个仍在探索和颇具争议的课题。传统的卷积网络将图像视作一个矩阵或网格,通过滑动窗口对邻域像素点或
机器之心
2022-06-27
7190
编写完10万行代码,我发了篇长文吐槽Rust
选自bunniestudios 机器之心编译 机器之心编辑部 存在一种完美的编程语言吗? Rust 语言因其并发安全性而深受众多开发者的喜爱,曾在多个榜单上获评最受欢迎编程语言。然而,现在有人花费大量时间编写 10 万行 Rust 代码之后,撰写博客阐明 Rust 语言的一系列缺点,以下是博客的主要内容。 我深入研究 Rust 是为了改进由 Xobs 编写的 Xous 操作系统。Xous 是一个用纯 Rust 编写的微内核消息传递操作系统,是为了轻量级 (IoT / 嵌入式规模) 的安全优先平台(例如 P
机器之心
2022-06-27
7320
ACL 2022 | 提升支付宝搜索体验,蚂蚁、北大提出基于层次化对比学习的文本生成框架
机器之心专栏 作者:支付宝搜索团队 来自蚂蚁集团、北大等机构的研究者提出了一种多粒度对比生成方法,设计了层次化对比结构。 文本生成任务通常采用 teacher forcing 的方式进行训练,这种训练方式使得模型在训练过程中只能见到正样本。然而生成目标与输入之间通常会存在某些约束,这些约束通常由句子中的关键元素体现,例如在 query 改写任务中,“麦当劳点餐” 不能改成 “肯德基点餐”,这里面起到约束作用的关键元素是品牌关键词。通过引入对比学习给生成的过程中加入负样本的模式使得模型能够有效地学习到这些约束
机器之心
2022-05-27
3300
WWW 2022最佳论文出炉:北京大学团队获唯一最佳学生论文奖
机器之心专栏 北京大学DAIR实验室、腾讯机器学习平台部Angel Graph团队 来自北京大学 DAIR 实验室与腾讯机器学习平台部 Angel Graph 团队共同完成的研究斩获WWW 2022 唯一最佳学生论文奖(Best Student Paper Award)。 4 月 29 日晚,国际万维网顶会 WWW-2022(The Web Conference,简称 WWW)公布了本届会议的最佳论文。以北京大学计算机学院崔斌教授博士生张文涛为第一作者的论文 《可扩展的图神经结构搜索系统 (PaSca: a
机器之心
2022-05-05
7870
兼容PyTorch,25倍性能加速,国产框架OneFlow「超速」了
机器之心发布 机器之心编辑部 要想炼丹爽得飞起,就要选择一个顺手的炉子。作为 AI 工程师日常必不可缺的「炼丹炉」,「PyTorch 还是 TensorFlow?」已成为知乎、Reddit 等炼丹师出没之地每年都会讨论的热门话题。 业界流传一种说法:PyTorch 适合学术界,TensorFlow 适合工业界。毕竟,PyTorch 是用户最喜欢的框架,API 非常友好,Eager 模式让模型搭建和调试过程变得更加容易,不过,它的静态图编译和部署体验还不令人满意。TensorFlow 恰恰相反,静态编译和部
机器之心
2022-04-27
8470
上海交通大学王宇光:几何深度学习和图神经网络的研究进展和趋势
机器之心报道 机器之心编辑部 3 月 23 日,在机器之心 AI 科技年会上,上海交通大学自然科学研究院和数学科学学院副教授、上海人工智能实验室成员王宇光老师发表了主题演讲《几何深度学习和图神经网络的
机器之心
2022-04-11
9190
GNN落地不再难,一文总结高效GNN和可扩展图表示学习最新进展
选自Github 作者:Chaitanya K. Joshi 机器之心编译 机器之心编辑部 图神经网络在应用到现实世界时会面临很多挑战,比如内存限制、硬件限制、可靠性限制等。在这篇文章中,剑桥大学在读博士生 Chaitanya K. Joshi 从数据准备、高效架构和学习范式三个方向综述了研究者们在克服这些问题时取得的进展。 用于高效和可扩展的图形表示学习的工具箱。 本文旨在概述关于高效图神经网络和可扩展图表示学习的关键思想,并将介绍数据准备、GNN 架构和学习范式方面的关键进展,这些最新进展让图神经网
机器之心
2022-04-06
5440
3D芯片技术颠覆计算的三种方式:AMD、Graphcore、英特尔各放大招
机器之心报道 机器之心编辑部 AMD、Graphcore 和英特尔 3D 芯片技术颠覆计算的方式。 高性能处理器研究表明,延续摩尔定律的新方向即将到来。每一代处理器都需要比上一代性能更好,这也意味着需要将更多的逻辑电路集成到硅片上。但是目前在芯片制造领域存在两个问题:一是我们缩小晶体管及其构成逻辑和内存块的能力正在放缓;另一个是芯片已经达到了尺寸极限。 摩尔定律。图源:wikipedia 光刻工具只能刻印大约 850 平方毫米的区域,大约是顶级 Nvidia GPU 的大小。 近几年,片上系统开发人员
机器之心
2022-04-02
3090
活久见!像素随机打乱的手写字体图像竟能被非监督学习方法全新重建?
北京时间2月24日,本篇工作作者申万祥博士将带来线上分享,介绍如何通过增强数据的表征和利用卷积神经网络来提高生物医学数据的学习效果。更多详情见文末。 决定 AI 模型识别能力的主要因素是数据和算法,长久以来 AI 领域重点关注在算法来提升性能,但对数据的探索程度远不及算法的开发。以数据为中心的 AI 方法(data-centric AI)基于高质量的数据构建 AI 系统,主要是确保数据表征能够清晰地展示 AI 所须学习的内涵特征。 特别是对于生物医药领域具有高维度而无序特征的小样本数据(比如疾病组学数据),
机器之心
2022-03-04
5410
7 Papers & Radios | DeepMind强化学习控制核聚变登Nature;华为诺亚方舟实验室开源中文多模态数据集
机器之心 & ArXiv Weekly Radiostation参与:杜伟、楚航、罗若天 本周论文包括:DeepMind 和瑞士洛桑联邦理工学院 EPFL 的研究者用强化学习控制核聚变反应堆内过热的等离子体,获得成功。 目录 Magnetic control of tokamak plasmas through deep reinforcement learning Red Teaming Language Models with Language Models  PICO: CONTRASTIVE LAB
机器之心
2022-03-04
1K0
TensorFlow 2.8.0正式上线,修复众多Bug,发布50多个漏洞补丁
近日 TensorFlow 官方发布了 2.8.0 正式版,距离上次 2.7 版本的更新过去没多久,新版本提供了更多的 bug 修复和功能改进,此外新版本还针对漏洞发布了补丁。
机器之心
2022-02-23
7480
7 Papers & Radios | Meta AI首个多模态自监督算法;牛津、谷歌等撰文综述AutoRL
论文 1:data2vec: A General Framework for Self-supervised Learning in Speech, Vision and Language
机器之心
2022-02-23
6480
点击加载更多
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档