首页
学习
活动
专区
工具
TVP
发布

AI科技评论

专栏作者
4098
文章
3389913
阅读量
184
订阅数
做大模型时代的「Linux」, ChatGPT 仅是开端
大模型只是中间状态,开源的大模型技术生态才是未来。 作者 | 李梅 编辑 | 岑峰 一代人的时间里总会有几次这样的时刻:一种产品的出现将一项技术从昏暗的工程系地下室、臭气熏天的书呆子们的卧室和业余爱好者们孤独的洞穴中弹射出来,变成了连你的祖母都知道如何使用的东西。 《财富》杂志的这段话,捕捉了1994年网景浏览器和2007年iPhone的历史意义,也描述了今天ChatGPT为人工智能领域带来的变化。 它们都是一个生态体系的开端。ChatGPT的背后是AI大模型,但智能时代的未来不会仅仅是大模型本身,而将是大
AI科技评论
2023-04-04
2290
一段尘封的中国 Linux 往事
章文嵩、利启诚、方汉、谢华刚、苏哲、魏永明,他们的黄金时代。 作者 | 林觉民 张进 编辑 | 王亚峰 人活着,总要有一些可以固执坚守的信仰。 1 从爱好者到贡献者 不疯魔不成佛 1995年的一天,长沙电信局局长正在听取一个汇报,这是一个关于长沙信息港建设的项目,汇报者是一个身材瘦削、娃娃脸的男生,看起来可能才刚过20岁。 这位局长脸色一变,直接问了句:“你们公司没人了吗,怎么派一个小孩来汇报?” 这里不能怪局长看不起小孩子,实在是那个项目太大了,预算的经费在2700万元左右,如果按照实际购买力计算,可能相
AI科技评论
2023-02-23
1.2K0
PyTorch 转入 Linux 基金会,对 AI 研究将产生重大影响
作者 | 黄楠 编辑 | 陈彩娴 近日,PyTorch 创始人 Soumith Chintala 在PyTorch官网宣布称,PyTorch 作为一个顶级项目,将正式转移到 Linux 基金会(LF),名称为 PyTorch 基金会。 PyTorch 诞生于 2017 年 1 月,由 Facebook 人工智能研究院(FAIR)推出,是一个基于 Torch 的 Python 开源机器学习库,可用于自然语言处理等应用程序。作为最受欢迎的机器学习框架之一,PyTorch 目前已拥有超过 2400 名贡献者,以
AI科技评论
2022-09-15
6090
征稿通知丨Pattern Recognition图机器学习踊跃投稿中!
《Pattern Recognition》是人工智能领域的国际知名期刊(中科院一区Top、CCF B类期刊),影响因子为8.518; 其现有专刊“Graph Machine Learning for Pattern Recognition on Complex Graphs”征稿, 欢迎大家踊跃投稿! 1. Aim and Scope Existing works on graph machine learning, especially on graph neural network (GNN), are
AI科技评论
2022-08-26
5990
OpenAI 研究员:数据不足时,如何实现监督学习
作者丨Lilian Weng 编译丨丛末 编辑丨陈彩娴 现实应用中,数据易得,而有标签的数据少有。 一般而言,当监督学习任务面临标签数据不足问题时,可以考虑以下四种解决办法: 1.预训练+微调:首先在一个大规模无监督数据语料库上对一个强大的任务无关模型进行预训练(例如通过自监督学习在自由文本上对语言模型进行预训练,或者在无标签图像上对视觉模型进行预训练),之后再使用一小组标签样本在下游任务上对该模型进行微调。 2.半监督学习:同时从标签样本和无标签样本中学习,研究者使用该方法在视觉任务上进行了大量研究。
AI科技评论
2022-07-19
7160
直播预告丨阿里巴巴CVPR 2022分享会,今晚6:30不见不散
CVPR 2022已经放榜,AI科技评论邀请阿里巴巴的小伙伴来分享他们在CVPR 2022的收获,第一场直播将30号(周三)晚18:30开始,敬请期待。 时间 3月30日 18:30 活动流程 18:30-19:00 分享嘉宾:徐渊鸿 分享主题:Unsupervised Visual Representation Learning by Online Constrained K-Means 19:00-19:30 分享嘉宾:张士伟 分享主题:Learning from Untrimmed Videos: S
AI科技评论
2022-03-31
5280
参数量翻了10倍!Meta AI 祭出100亿参数的“新SEER”,为元宇宙铺路
作者 | 陈彩娴 编辑 | 岑峰 不久前,Meta AI 宣称,其于去年3月提出的10亿参数自监督模型 SEER (SElf-supERvised)又取得了新突破:新的 SEER 参数量翻了10倍,达到了100亿参数,可以取得更优秀、更公平的性能表现! 以下我们暂且称新的 SEER 模型为“SEER 10B”(一个牛逼不足以形容 Meta AI 在行动上落实自监督的野心,手动狗头)。 根据 Meta AI 的团队介绍,他们将 SEER 10B 模型在50+个基准与多个不同未标记数据集上进行了测试。其中,SE
AI科技评论
2022-03-03
6660
AAAI 2022 oral | 复旦x字节等提出:基于无监督编辑的反事实故事改写
作者丨陈江捷 1 前言 如何根据一个新的条件来改写一个故事的结局?这个问题的自动解决需要机器具备反事实推理能力,即根据原故事和新条件来想象新的故事结局的能力。故事改写任务的核心问题在于:我们能否只对原始结局进行最少的编辑就能产生一个新的合理的故事结局?更重要的是,我们如何在无监督的情况下想象未来的可能性? 本文介绍了复旦大学、字节跳动人工智能实验室等机构的研究者的最新工作EDUCAT,相关工作已经被AAAI 2022录用 (oral)。EDUCAT采用了基于MCMC采样的文本编辑框架来改写反事实故事结局,并
AI科技评论
2022-03-03
5880
国产开源芯片“香山”终于调试成功!中科院包云岗记下背后的故事
2021年6月底,中国科学院计算所研究员包云岗在首届 RISC-V 中国峰会上发布了国产开源高性能 RISC-V 处理器核心——香山,受到了广泛关注。 香山是由中科院计算所、鹏城实验室支持,通过中国开放指令生态(RISC-V)联盟联合业界企业一起开发的一款开源高性能 RISC-V 处理器核。它的架构代号以湖命名,第一代为“雁栖湖”,第二代为“南湖”。原先,“雁栖湖”计划于去年7月流片,但受到全球芯片产能的影响,研发受阻,结果迟迟未出,香山也逐渐退出大众视野。 但就在昨天,也就是虎年元宵节,香山项目的主要负责
AI科技评论
2022-03-03
1.2K0
NeurIPS 2021 | 旷视提出:空间集成 ——一种新颖的模型平滑机制
论文链接:https://arxiv.org/pdf/2110.01253.pdf
AI科技评论
2021-11-23
3080
CMU 刘鹏飞:NLP的第四范式
近两年,基于预训练+精调的研究范式,迅速席卷了整个 NLP 领域。这种研究范式被大家普遍认同为是 NLP 研究的革命性范式,在此之前则有“专家系统”、“统计模型”和“神经网络模型”等。
AI科技评论
2021-10-11
7730
自监督学习新思路!基于蒸馏损失的自监督学习算法 | CVPR 2021
AI 科技评论 今天给大家介绍一篇被 CVPR 2021 收录的关于自监督的文章——S2-BNN [1],论文作者来自 CMU,HKUST 和 IIAI。
AI科技评论
2021-07-27
7410
防噪音的深度度量学习:一种样本选择方法 | CVPR 2021
现实世界的数据中标签噪音是广泛存在的,训练集的标签噪音会降低深度学习模型的性能。大量研究工作聚焦于改善分类任务对标签噪音的鲁棒性,很少有研究工作致力于使深度度量学习(Deep Metric Learning)(DML)能够处理错误的标签。
AI科技评论
2021-05-19
1.2K0
明尼苏达大学华人教授故意向Linux提交漏洞代码来做研究!整所大学被Linux列入黑名单......
Linux内核是现代历史上最大的软件项目之一,已经拥有超过2800万行代码,来自世界各地和不同领域的贡献者每天都会向Linux内核维护者提交大量补丁,以便他们在正式合并到Linux内核树之前得到审查。这些补丁可以帮助修复内核中的bug或小问题,或者引入新特性。
AI科技评论
2021-04-29
6740
组监督学习: 通过可控的解耦表征学习模拟人脑想象力! ICLR 2021
本文主要介绍一篇被 ICLR 2021 会议录用的一篇论文:《Zero-shot Synthesis with Group-Supervised Learning》。
AI科技评论
2021-04-29
8810
把因果干预用到弱监督语义分割上!这篇NeurIPS 2020 oral论文不简单
《 Causal Intervention for Weakly-Supervised Semantic Segmentation》
AI科技评论
2020-10-27
1.4K0
扩展图神经网络:暴力堆叠模型深度并不可取
目前,阻碍图神经网络在业界大规模应用的挑战之一是:图神经网络很难被扩展到 Twitter 的用户关注关系图这类大型图上。
AI科技评论
2020-10-27
8080
融合自训练和自监督方法,让文本丝般顺滑!|EMNLP 2020
文本顺滑(Disfluency Detection)的目的是删除自动语音识别(ASR)结果中的不顺滑的词,从而得到更自然和通顺的句子。
AI科技评论
2020-10-27
1.1K0
对比自监督学习浪潮迅猛来袭,你准备好了吗?
近年来,自监督学习逐渐成为了备受人们关注的应对标注缺乏问题的热门解决方案,科研人员在基于对比学习的自监督方法方面进行了大量研究。本文是 PyTorch Lightning 创始人 William Falcon 的对比学习综述,对自监督学习、对比学习等基础概念进行了简要的回顾,介绍了 CPC、AMDIM、BYOL、SimCLR、Swav等最近较为著名的对比学习方法,并提出了一种名为 YADIM 的新型对比学习算法。
AI科技评论
2020-10-09
1.1K0
强化学习的两大话题之一,仍有极大探索空间
探索 VS 利用,这是强化学习中至关重要的话题。我们希望强化学习中的智能体尽快找到最佳策略。然而,在没有充分探索的情况下就盲目地选择某个策略会带来一定的问题,因为这会导致模型陷入局部最优甚至完全不收敛。目前的强化学习算法朝着回报值最大化的方向优化,而探索仍然更像是一个开放性话题。
AI科技评论
2020-08-28
1.4K0
点击加载更多
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档