首页
学习
活动
专区
工具
TVP
发布

AI科技评论

专栏作者
4079
文章
3324782
阅读量
184
订阅数
复旦邱锡鹏团队发布类 ChatGPT 模型 MOSS,现已暂停内测
百亿规模参数,MOSS 的英文回答水平较中文更高。 作者 | 黄楠 编辑 | 陈彩娴 2月20日,复旦大学自然语言处理实验室发布对话式大型语言模型 MOSS,该模型由邱锡鹏教授带队完成发布,上海人工智能实验室提供有力支持。 作为一个语言模型,MOSS 可执行对话生成、编程、事实问答等系列任务,比如让它回答关于“AI 取代人类工作”的问题: 也可以通过列举具体的指令,请它帮忙推荐电影: 或者是生成一段 Python 代码实现快速排序: 可以看到,MOSS 回答流畅,在不同场景上都有不凡的表现。 MOSS
AI科技评论
2023-02-23
3610
PyTorch 转入 Linux 基金会,对 AI 研究将产生重大影响
作者 | 黄楠 编辑 | 陈彩娴 近日,PyTorch 创始人 Soumith Chintala 在PyTorch官网宣布称,PyTorch 作为一个顶级项目,将正式转移到 Linux 基金会(LF),名称为 PyTorch 基金会。 PyTorch 诞生于 2017 年 1 月,由 Facebook 人工智能研究院(FAIR)推出,是一个基于 Torch 的 Python 开源机器学习库,可用于自然语言处理等应用程序。作为最受欢迎的机器学习框架之一,PyTorch 目前已拥有超过 2400 名贡献者,以
AI科技评论
2022-09-15
5880
特斯拉、微软、谷歌、Meta等大厂传裁员;AMD与英特尔CPU被曝恐存在内核内存漏洞,缓解措施将增加12%-28%的计算成本
AMD与英特尔被爆CPU恐存在内核内存漏洞,缓解措施将增加12%-28%的计算成本 近日,苏黎世联邦理工学院研究人员发现,英特尔和AMD 的部分微处理器易受新发现的推测性执行攻击,从而泄露密码数据和其他敏感材料。该攻击被命名为Retbleed,源于2018年推出的一个减轻推测性执行攻击的retpoline 软件防御机制。 Retbleed 的原理在于,使用基本上毒化 CPU 赖以进行猜测的分支预测单元代码。当 CPU 遇到直接或间接指令分支时,推测性执行攻击会预测其将收到的下一条指令地址,并在预测被确认之前
AI科技评论
2022-07-19
5060
OpenAI 研究员:数据不足时,如何实现监督学习
作者丨Lilian Weng 编译丨丛末 编辑丨陈彩娴 现实应用中,数据易得,而有标签的数据少有。 一般而言,当监督学习任务面临标签数据不足问题时,可以考虑以下四种解决办法: 1.预训练+微调:首先在一个大规模无监督数据语料库上对一个强大的任务无关模型进行预训练(例如通过自监督学习在自由文本上对语言模型进行预训练,或者在无标签图像上对视觉模型进行预训练),之后再使用一小组标签样本在下游任务上对该模型进行微调。 2.半监督学习:同时从标签样本和无标签样本中学习,研究者使用该方法在视觉任务上进行了大量研究。
AI科技评论
2022-07-19
6900
Meta 首席运营官 Sheryl Sandberg 宣布辞职
作者|李梅 编辑|陈彩娴 今日,Sheryl Sandberg在她的Facebook主页发帖称:即将辞去长达14年的Meta首席运营官一职。 至于离职原因,Sandberg在接受外媒CNBC的采访时表示,她希望未来更专注于自己的慈善工作。辞职并不是因为公司面临的监管压力,也不是因为目前广告投放的放缓。 据现任和前任高管透露,与Facebook早期阶段相比,Sandberg近年来在Meta广告业务的具体细节方面的参与减少了,不过她仍在公司财报电话会议上为该业务发出公开声音。Sandberg 将于今年秋季正式离
AI科技评论
2022-06-02
4700
开放代码又如何?成本昂贵、资源集中,大规模语言模型的民主化越来越难
5月初,Meta发布了一个可以执行多个不同任务的大型语言模型:Open pretraining Transformer (OPT-175B)。在过去几年里,大型语言模型(large language model,LLM)已经成为人工智能研究的热点之一。
AI科技评论
2022-05-18
3290
“菲尔兹奖”首位华人得主丘成桐将全职任教清华
丘成桐先生致辞 图源清华大学新闻网 作者 | 王玥 编辑 | 陈彩娴 清华大学宣布,“菲尔兹奖”首位华人得主丘成桐受聘清华大学讲席教授。 这则消息简直重磅得不能再重磅。 丘成桐有着“数学国王”的美名。他于1966年入读香港中文大学数学系,大三时获推荐前往美国加州大学伯克利分校深造,师从陈省身,两年(1971年)即获得博士学位。 他的执教之路更可谓一路生辉: 1974年(博士毕业仅三年),成为斯坦福大学副教授; 1979年以教授身份回到普林斯顿高等数学研究所; 1984年至1987年担任加州大学圣地亚哥分校教
AI科技评论
2022-04-22
4700
2022年考研「怪」象:国家分数线全面上升,部分院校的计算机类复试线却不增反降?
今年,你上岸了吗? 作者 | 郑宇宏 编辑 | 陈彩娴 我们知道,不久前2022年研考国家分数线公布,各学科全面上涨,引来众多考生的一片哀嚎。在微博上,“#考研将有300万人落榜#”的话题更是冲上了热搜榜。 无疑,内卷在加剧。一位微博网友感叹: 与此同时,中科大软件学院复试线335分、比去年低于53分的话题又冲上了知乎热榜。 计算机、金融等专业历年受到高校考研学生的欢迎。但据调查,今年虽然国家基本分数线全面上涨,但多所知名 985 高校的计算机专业复试线却有一定的下降趋势。 今年的互联网裁员大潮惹得人心
AI科技评论
2022-03-24
4180
扎克伯格最新专访:美国人“恨”我们,但我们在做正确的事情
编译丨维克多编辑丨岑峰 社会分裂,非左即右。 这是最近扎克伯格对美国现状的最新评价。他认为这种状态是他和他的公司在美国得到恶意评价的最重要原因。 “我们惹怒了两个党派。我们不追随任何一方,只是以一种有原则的方式‘驾驭’这个两极分化的国家,因此非常具有挑战性。”在接受MIT的AI科学家Lex Fridman专访时,小扎如此说道。 除此之外,将扎克伯格推上风口浪尖的事情就是元宇宙,有人认为它是世纪骗局。而他带领Facebook (Meta)押注元宇宙,并预测在未来人们可以在虚拟世界中工作、社交和娱乐,这一环境将
AI科技评论
2022-03-08
2450
参数量翻了10倍!Meta AI 祭出100亿参数的“新SEER”,为元宇宙铺路
作者 | 陈彩娴 编辑 | 岑峰 不久前,Meta AI 宣称,其于去年3月提出的10亿参数自监督模型 SEER (SElf-supERvised)又取得了新突破:新的 SEER 参数量翻了10倍,达到了100亿参数,可以取得更优秀、更公平的性能表现! 以下我们暂且称新的 SEER 模型为“SEER 10B”(一个牛逼不足以形容 Meta AI 在行动上落实自监督的野心,手动狗头)。 根据 Meta AI 的团队介绍,他们将 SEER 10B 模型在50+个基准与多个不同未标记数据集上进行了测试。其中,SE
AI科技评论
2022-03-03
6520
WSDM 2022 | 中科院、腾讯、北航提出:跨领域推荐中的个性化迁移用户兴趣偏好
冷启动推荐一直是推荐系统中一个极具挑战的问题。跨领域推荐系统使用源领域中的交互数据来帮助目标领域的冷启动推荐。这篇文章提出了一种个性化迁移用户兴趣偏好的跨领域推荐的方法,给目标领域冷启动用户进行更精准的推荐。
AI科技评论
2021-11-05
6970
中科院、腾讯、北航合作:基于元学习实现更好的冷启动推荐 | SIGIR 2021
导言:近年来,向量嵌入(embedding)的技术在推荐系统领域取得了广泛的应用。然而向量嵌入技术需要大量数据训练,并且面临严重的冷启动问题。特别是只有极少数交互的冷启动物品,很难训练一个合理的物品ID embedding,称作冷启动ID embedding。这篇文章针对冷启动ID embedding提出了一种基于元学习的方法,探索如何预热冷启动物品ID embedding。
AI科技评论
2021-07-02
9120
别再用假任务做小样本学习实验了!快来试试全新小样本基准数据集FewJoint~
NLP小样本研究往往使用人为构造的N分类任务来评价模型性能。然而,一方面,这些人造的简单任务不能反映真实世界NLP问题的复杂性;另一方面,现有NLP小样本研究缺乏一个统一的benchmark,导致实验效率低下。
AI科技评论
2020-10-27
1.4K0
神经元一定要激活吗?马宁宁、孙剑、张祥雨对此表示怀疑
现代神经网络的激活层都要使用到非线性函数来激活神经元,而现代神经网络往往层数都动不动上百层,那某一层的激活函数对这一层的所有神经元都要激活吗?
AI科技评论
2020-10-09
8280
如何提高强化学习效果?内在奖励和辅助任务
这是美国密西根大学教授Satinder Singh长期以来致力于解决的问题。在2020北京智源大会上,Satinder Singh教授对这个问题进行了深度阐释,他通过Meta-Gradient方法来学习发现以往强化学习智能体中需要手动设置的参数:内在奖励和辅助任务问题。
AI科技评论
2020-09-04
1.7K0
CVPR 2020 | 元学习人脸识别框架详解
本文介绍的是CVPR2020 oral论文《Learning Meta FaceRecognition in Unseen Domains(MFG[1])》,作者来自明略科技集团明略科学院与中科院自动化研究所。
AI科技评论
2020-05-25
1.1K0
ICLR 2020 | 告别死记硬背,元学习才能学会学习
本文介绍的是 ICLR 2020 spotlight 论文《Meta-Learning without Memorization》(无记忆的元学习),来自德克萨斯大学奥斯汀分校在读博士生殷明章。
AI科技评论
2020-04-20
6110
数字视网膜演化简史
一位学者在学术领域开山立派,最显著的一个标志就是某个学术概念能够与该学者划等号,例如当提起相对论必然会联想到爱因斯坦。
AI科技评论
2020-04-07
8440
数据挖掘领头人韩家炜教授:如何从无结构文本到有用的知识?
这几日,对于许多数据挖掘领域的研究者来说,北京是一个关注的焦点,原因无他,作为数据挖掘领域的两大顶会CIKM 2019和ICDM 2019相继在北京召开,甚至连开会地点(国家会议中心)都没有变化。
AI科技评论
2019-11-09
1.8K0
动态 | 再无需从头训练迁移学习模型!亚马逊开源迁移学习数据库 Xfer
Xfer 是一款针对 MXNet 的迁移学习,为适那些希望达到以下目的的从业者与研究人员而设计:
AI科技评论
2019-11-01
5550
点击加载更多
社区活动
Python精品学习库
代码在线跑,知识轻松学
【玩转EdgeOne】征文进行中
限时免费体验,发文即有奖~
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品·最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档