首页
学习
活动
专区
工具
TVP
发布

新智元

专栏作者
8286
文章
5732894
阅读量
203
订阅数
Transformer全新里程碑!诞生6年,开山之作被引近8万,没夺下NeurIPS最佳论文,却彻底改变AI界
2017年6月12日,Attention is All You Need,一声炸雷,大名鼎鼎的Transformer横空出世。
新智元
2023-08-05
2210
十年让70+种语言无障碍沟通?他们决心用系统性创新攻克业内公认难题
---- 新智元报道   编辑:Emil、小匀 【新智元导读】数据稀缺以及开发成本高,多语种识别和翻译被认为是机器翻译技术难以跨越的难题。但随着国际交流日益频繁,跨地域、跨文化间的无障碍沟通成为不断增长的刚性需求。近期科大讯飞表示,通过系统性创新,他们将在10年内让机器在70+语言之间实现互通。 下一个十年,人工智能会从「黑盒」变「白盒」吗? 下一个十年,人机共存时代会真正到来吗? 下一个十年,哪个学科又会与人工智能深入交叉,引发颠覆式的革新呢? 人工智能核心技术的逐渐成熟推动智能产品的落地,以语
新智元
2023-05-22
2970
Transformer全靠数据堆?那没有数据怎么办?LUT告诉你「冇问题」|AAAI 2021
---- 新智元报道   作者:叶蓉 编辑:好困 【新智元导读】我们有一个梦想,那就是有一天看剧能有实时翻译字幕。然而级联模型复杂冗长,还容易出现传播错误,端到端模型又缺少标记数据去训练。于是全新的语音翻译模型LUT诞生了,不仅翻译速度快,而且就算听错也能翻译对。 你是否曾遇到这样的场景:在陌⽣的国家旅游因为听不懂当地⼈说话只能咿咿呀呀、⼿语⽐划、连蒙带猜? 因为不懂⼩语种,⼤热悬疑泰剧《禁忌⼥孩》、年度狗⾎韩剧《顶楼》只能煎熬到翌⽇字幕组的熟⾁放送? 每每遇此,我都会想,如果计算机能帮我们⾃动把语⾳
新智元
2023-05-22
1820
83岁巨星陨落!北大计算语言学家俞士汶去世,清华孙茂松献「七绝」缅怀
---- 新智元报道   编辑:David 桃子 【新智元导读】中国NLP领域一代宗师、计算语言学家、北大信息科学技术学院教授俞士汶先生去世,享年83岁。消息传来,多位产业界和学术界人士通过社交媒体深切悼念。清华孙茂松教授更在深夜赋「七绝」一首寄托哀思。 又一位巨星陨落! 11月4日下午5时9分,著名计算语言学家、北京大学信息科学技术学院教授、计算语言学研究所学术指导委员会主席俞士汶先生去世,享年83岁。 路漫漫其修远兮,吾将上下而求索 先生的座右铭是「路漫漫其修远兮,吾将上下而求索。」 俞士汶,1
新智元
2023-05-22
1970
字节跳动技术沙龙免费报名:机器翻译技术如何助力字节跳动产品全球化?
---- 新智元报道   编辑:QQ 【新智元导读】 10月30日,字节跳动技术社区ByteTech将主办对外技术沙龙,大咖分享,圆桌论坛,等你围观参与! 字节跳动在全球推出了多款有影响力的产品,包括今日头条、抖音、西瓜视频、飞书,等等,产品和服务覆盖全球150个国家和地区。截至2021年6月,抖音日活跃用户数已经突破6亿,字节跳动旗下全线产品总MAU(月活跃用户)超过19亿。 一款全球化的产品,该如何冲破语言阻碍?将产品信息快速传达给不同语言背景的用户,提升产品价值?这是产品全球化过程中需要解决的
新智元
2023-05-22
2800
谷歌开源首个「方言」数据集:让机器翻译更地道
---- 新智元报道   编辑:LRS 【新智元导读】数据集包含葡萄牙语和汉语普通话。 虽然全中国的人都在说汉语,但具体到各地的方言却略有不同,比如同样是小巷的意思,「胡同」一开口就知道是老北京了,而到了南方则叫「弄」。 这种细微的地域性差异反应在「机器翻译」任务上,就会显得翻译结果不够「地道」,而目前几乎所有的机器翻译系统都没有考虑地区性语言(即方言)的影响。 而在世界范围内也存在这种现象,比如巴西的官方语言是葡萄牙语,跟欧洲的葡萄牙语之间也有一些地域性差异。 最近谷歌发布了一个全新的,可用于Fe
新智元
2023-02-28
7770
ACL 2022选举结果公布!中科院自动化所宗成庆当选新一届副主席
近日,国际计算语言学学会(Association for Computational Linguistics, 简称ACL)发布消息,中科院自动化所宗成庆研究员当选新一届ACL候任副主席(Vice-President-elect),将于2023年1月1日正式履职。
新智元
2023-01-07
5890
小扎亲自演示首个「闽南语」翻译系统!主攻3000种无文字的语言
到目前为止,虽然机器翻译无法完全做到「信、达、雅」,但翻译结果的准确性对于一般应用场景来说已经足够。
新智元
2023-01-07
9670
全能不如专精!微软发布Z-code++屠榜文本摘要,参数量仅为PaLM的1/600
---- 新智元报道   编辑:LRS 好困 【新智元导读】超大规模预训练模型混战之后,NLP模型该走向何方? Google发布5400亿参数量的PaLM模型后,NLP预训练似乎走上了海纳百川的路线,即以大量的NLP任务进行训练,以达到全知全能,进而实现解决few-shot任务的能力。 性能是提高了,但对平民玩家来说太不友好了;而且要是用不到多任务的功能,海量参数实际上都是闲置的,性价比超低。 最近,微软的黄学东带队,和第一作者贺鹏程等人共同发表了一项重大的研究成果——全新预训练模型Z-Code++。
新智元
2022-08-26
3380
超越Transformer,清华、字节大幅刷新并行文本生成SoTA性能|ICML 2022
---- 新智元报道   编辑:好困 【新智元导读】清华&字节联合提出的DA-Transformer摆脱了传统并行模型依赖知识蒸馏的问题,在翻译任务中大幅超越了之前所有并行生成模型,最高提升 4.57 BLEU。同时也首次达到、甚至超越了自回归 Transformer 的性能,在最高提升 0.6 BLEU 的同时,能够降低7倍的解码延迟。|还在纠结会不会错过元宇宙和web3浪潮?清华大学科学史系副教授胡翌霖,这次给你讲个透! 并行文本生成模型(非自回归模型)是一种新的文本生成范式。与传统自回归模型中的
新智元
2022-07-19
6690
10岁是个分水岭!根治英语头疼病,这支笔了解一下
---- 新智元报道   编辑:David 好困 【新智元导读】大热天的,别整天抱着单词本不放了,找个新朋友陪读陪聊陪作业,它不香么? 大家先来猜猜,这个「赛马场巨头」是什么? 没错,是「The Lord of the Rings」指环王。 显然,「赛马场巨头」主要是错误地理解了「Ring」的含义。其实,稍有常识的人都知道,Ring是指拳击台,所以「正确」的译名是:拳皇。(开个玩笑) 不过讲道理,你不太能苛求一个上世纪90年代的翻译。 但是在互联网发达的现在……烧烤「丈夫」就不太合适了吧。 以及,
新智元
2022-06-27
7.9K0
谷歌I/O大会首秀AR眼镜!最贫的搞笑AI机器人亮相
---- 新智元报道   编辑:编辑部 【新智元导读】时隔2年,谷歌I/O开发者大会回归线下。 北京时间今天凌晨,谷歌2022年度全球开发者大会正式开幕! 首先我们有请谷歌CEO,桑达尔·皮查伊。 (此处应有掌声) 言归正传,本次大会谷歌可谓是「批发式」更新。 硬件方面,从对拼Meta的AR眼镜、到对打苹果的首款智能手表,从高端耳机Pixel Buds Pro,到平价版的新款Pixel手机,还有造型一言难尽的首款平板电脑Pixel Tablet,都在大会上亮相。 软件方面,Android 13操作系
新智元
2022-05-12
7250
Bengio,58岁生日快乐!
---- 新智元报道   编辑:David 【新智元导读】3月5日是图灵奖得主,深度学习三巨头之一Yoshua Bengio的58岁生日,祝他生日快乐! 3月5日,是AI先驱、2018年图灵奖得主之一Yoshua Bengio 58岁生日,ACM官推发文祝福他生日快乐,并回顾了他获奖和研究生涯以来的重大成就。 2018年,有「深度学习三巨头」之称的Yoshua Bengio、Geoffrey Hinton、Yann LeCun因概念和工程上的突破性贡献,使深度神经网络成为计算的关键组成部分,获得当年
新智元
2022-03-09
5110
千层Transformer问世!多语种机器翻译水准刷新多项SOTA
---- 新智元报道   编辑:David 拉燕 【新智元导读】近日,微软研究院的研究人员搞出了一个1000层的Transformer,在多语种机器翻译任务上刷新多项SOTA 近年来,追求大规模的Transformer模型成为了一种潮流。 从一开始的百万级的模型参数,到十亿级,再到万亿级,参数规模极大增加。大规模的模型可以在大量任务中可以有更棒的表现,在小样本和零样本学习的情况下也展现出了出色的能力。尽管参数的数量越来越大,参数的深度却一直在被Transformer训练的不稳定性所局限。2019年,科
新智元
2022-03-09
3980
સુપ્રભાત!懂「印度方言」的多语言机翻模型挑战0资源翻译,论文已被ACL2021接收
《圣经·旧约·创世记》中记载着「巴别塔」的传说:人类联合起来兴建能通往天堂的高塔。
新智元
2021-07-06
4630
比seq2seq模型快90倍!Google推出全新文本编辑模型FELIX
序列到序列(seq2seq)模型已经成为处理自然语言生成任务的有效方法,其应用范围从机器翻译到单语言生成任务,如摘要、句子融合、文本简化和机器翻译的译后编辑。
新智元
2021-05-28
5180
并非里程碑! Facebook的100种语言互译模型夸大宣传遭质疑
昨天,Facebook刚刚宣布其机器翻译取得里程碑式进展,可在100种语言之间实现互译,并且不依赖英语这个「中介」,今天reddit网友就来掀车了。
新智元
2020-10-29
3640
150亿参数大杀器!Facebook开源机器翻译新模型,同传人员或失业
当把中文翻译成法文时,以前最好的多语种模型的方式是把中文翻译成英文,把英文翻译成法文,因为英语的训练数据是最多的。
新智元
2020-10-29
1.1K0
Facebook AI 用深度学习实现编程语言转换,代码库迁移不再困难!
从旧式编程语言(例如COBOL)到现代语言(例如Java或C ++)的代码库迁移是一项艰巨的任务,需要源语言和目标语言方面的专业知识。
新智元
2020-07-28
1.4K0
MIT发出「算力」警告:深度学习正在逼近计算极限
近日,MIT却发出警告:深度学习正在接近计算极限,必须转变现有技术「大幅」提高计算效率。
新智元
2020-07-21
3830
点击加载更多
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档