新智元报道
编辑:桃子
今天,斯坦福发布了2023年AI指数报告。
值得注意的是,斯坦福AI指数报告列出了「AI论文发表量」世界前十的机构,9所全部来自中国,纷纷赶超MIT。
它们分别是:中国科学院、清华大学、中国科学院大学、上海交通大学、浙江大学、哈尔滨工业大学、北京航空航天大学、电子科技大学、北京大学、以及MIT。
今年的报告主要分为八大节:研究与发展,技术表现,人工智能技术伦理,经济,教育,政策和治理,多样性,以及公众观点。
以下内容提取了报告几项要点。
中美论文合作全球居首
从2010年-2021年,尽管AI论文跨国合作的步伐已经放缓,但是自2010年以来,美国和中国的人工智能研究合作数量增加了大约4倍,比中国和英国合作总数多2.5倍。
然而,从2020年-2021年,中美合作的总数仅增长了2.1%,是自2010年以来的最小同比增长率。
此外,人工智能论文的总数自2010年以来翻了一番以上。从2010年的20万篇增长到2021年的近50万篇(49601)。
就AI论文发表的类型来看, 2021 年,所有已发表的AI论文中有60%是期刊文章,17%是会议论文,13%来自存储库。
虽然在过去12年中期刊和储存库论文分别增长了3倍和26.6倍,但会议论文的数量自2019年以来有所下降。
模式识别、机器学习和计算机视觉依旧是人工智能领域研究的热门话题。
中国在期刊、会议和储存库论文总量方面依旧处于领先地位。
美国在人工智能会议和储存库引用方面仍然领先,但这些领先优势正被慢慢削弱。尽管如此,世界上大多数的大型语言模型和多模态模型(2022年54%)是由美国机构产生的。
中国霸榜AI顶会,但引用量低于美国
AI期刊论文的发表,中国始终保持领先地位,2021年为39.8%,其次是欧盟和英国(15.1%),然后是美国(10.0%)。
自2010年以来,中国人工智能期刊论文被引频次占比逐步上升,欧盟、英国、美国均有所下降。中国、欧盟和英国、美国占全球总引用量的65.7%。
那么,世界顶会论文发表的情况又如何?
2021年,中国以26.15%的比例在全球AI顶会发表的论文数所占份额最大,而欧盟和英国以20.29%紧随其后,美国以17.23%位居第三。
从顶会论文引用量来看,中国虽然高产,但引用量相较于美国来说较低。美国顶会论文引用量23.9%,中国为22.02%。
从侧面可以看出,中国论文发表数量最多,但质量不如美国高。
在AI论文储存库提交方面,美国在世界居首,23.48%。中国最低,11.87%。
中国9所机构,AI论文发表赶超MIT
2021年,发表论文总量世界前十机构中,中国占了9所,不同机构发表的论文总数如下图,MIT位列第十,发表论文1745。
就计算机视觉领域(CV)来看,中国的十所机构位居世界前十,它们分别是,中国科学院、上海交通大学、中国科学院大学、清华大学、浙江大学、北京航空航天大学、武汉大学、北京理工大学、哈尔滨工业大学,以及天津大学。
在自然语言处理(NLP)领域,就有所不同了。
世界前十的机构/公司有:中国科学院、卡内基梅隆大学、微软、清华大学、卡内基梅隆大学-澳大利亚分校、谷歌、北京大学、中国科学院大学、阿里、亚马逊。
语音识别领域排名如下:
工业界领先学术界
在2022年发布的重要人工智能机器学习系统中,语言系统占最多,有23个,是多模态系统数量的6倍。
在论文产量上,工业界领先于学术界。
直到2014年,大多数重要的模型都是由学术界发布的。从那时起,工业界便逆袭翻身。到2022年,32个重要的机器学习模型都诞生在工业界,而学术界仅有3个。
由此可见,与非营利组织和学术界相比,构建最先进的人工智能系统越来越需要大量的数据、计算机能力和资金资源,而行业参与者固然有更多的资金资源去做这件事情。
2022年,美国产生了数量最多的重要机器学习系统,有16个,其次是英国(8个)和中国(3个)。
此外,自2002年以来,就创建的重要机器学习系统总数而言,美国已经超过了英国和欧盟、中国
再来看做出这些重要AI系统背后研究者国分布,美国有最多的研究者,285人,是英国的2倍多,是中国的近6倍。
LLM越来越大,算力越贵
大型语言和多模态模型,有时称为基础模型,是当前一种新兴且日益流行的AI模型类型,它在大量数据上进行训练并适用于各种下游应用程序。
ChatGPT、DALL-E 2和MakeA-Video等大型语言和多模态模型已经展示了令人印象深刻的功能,并开始在现实世界中广泛部署。
通过对这些模型作者的国家隶属关系进行了分析,这些研究人员中的大多数来自美国机构(54.2%)。
斯坦福AI指数报告还列出了大型语言和多模态模型发布的时间表。
大型语言模型正变得越来越大,也越来越昂贵。
第一个大型语言模型GPT-2于2019年发布,有15亿参数,训练成本约50000美元。谷歌PaLM是2022年推出的大型语言模型之一,有5400亿参数,成本高达800万美元。
从参数和训练成本来看,PalM比GPT-2大360倍,成本高出160倍。
不仅仅是 PalM,从整体上看,大型语言和多模态模型变得越来越大和昂贵。
例如,DeepMind于2022年5月推出的大型语言模型Chinchilla估计耗资210万美元,而BLOOM的训练大约耗资230 万美元。
随着时间的推移,GAN在人脸生成方面的进展,最后一个图像由Diffusion-GAN生成,这一模型在STL-10上取得了最新的SOTA。
去年,随着OpenAI的DALL-E 2、Stability AI的Stable Diffusion、Midjourney、Meta的Make-AScene,以及谷歌的 Imagen等模型的发布,文本到图像生成模型逐渐走进大众视野。
如下,输入相同的提示,「一只熊猫在温暖的巴黎夜晚弹钢琴」,分别由DALL-E 2、Stable Diffusion和Midjourney这三个可公开访问的 AI 文本到图像系统生成的图像。
在最近发布的所有文本到图像生成模型中,谷歌的Imagen在COCO基准测试中表现最好。
今年,创建Imagen的谷歌研究人员还发布了一个更难的文本到图像基准测试 DrawBench,旨在挑战功能越来越强大的文本到图像模型。
此外,报告还介绍了当前生成式AI模型存在一些偏见,比如给DELLE-2提示CEO时,每个人似乎都采取了交叉双臂自信的姿势。
在Midjourney中,当提示生成「有影响力的人」时,它会生成4张看起来年长的白人男性图像。
完整报告内容请参见:
https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index_Report_2023.pdf