【研报分享】AI训练成本将持续年降70％

温馨提示

本文为止于至善投资研究员孙嘉宝翻译，全文仅供分享交流，不作为投资建议，请自担风险。

女版巴菲特Cathie Wood （凯瑟琳·伍德）名下方舟投资基金（ARK Invest）发布了年度报告BIG IDEAS 2023。报告中对颠覆性创新领域及趋势作了较为详细的阐述。我们把内容分拆成不同篇章，此文覆盖ARK在人工智能领域的观点。

2022年是生成式人工智能之年。程序员的工作效率在有人工智能编程助手的情况下提高了约两倍。

AI可以在几分钟内设计图案，并且成本只需0.08美元，比150美元的人力成本相比低很多。

人工智能训练成本继续以每年70%的速度下降，将一个大型语言模型训练到GPT-3水平的成本，从2020年的460万美元，下降到2022年的45万美元，两年前的10%。ARK预计，到2030年之前，成本都将继续以70%的速度下降。

人工智能正在创造对训练数据的爆炸性需求。生成式人工智能算法依赖于大规模训练数据。为了利用实时创建的数据和新内容，还需要自动化。ARK 的研究指出，2020年训练最先进的GPT-3的成本为460万美元。根据Ark的建模，训练一个比GPT-3多57倍参数和720倍语言符号的AI模型的成本，将从今天的170亿美元下降到2030年的60万美元。

从这个角度来看，如今维基百科的42亿个单词大约代表56亿个语言符号。到2030年，训练一个包含162万亿单词或216万亿语言符号的模型应该是可能的。在低成本计算的世界里，数据将成为主要的约束。有了足够的训练数据，人工智能算法加上自动化和实时分析，编码效率可以提高10倍。成本的下降应该会使复杂的人工智能聊天机器人得以大规模采用。

专有数据可以创造护城河。高质量的特定领域AI训练数据可能会在垂直应用程序中产生赢家通吃的结果。比如特斯拉、Replit、Twilio这些公司。

人工智能可以使编程生产力提高10倍。基于训练成本和反馈循环成本每年下降70%，到2030年，像Copilot这样的AI编码助手可以将软件工程师的产出提高约10倍。

成本下降使得大规模采用复杂的人工智能聊天机器人被大规模使用。ChatGPT由OpenAI于2022年11月发布，使用大语言模型生成文本以响应用户需求。上线后五天内，用户数量达到了100万。虽然大规模运行模型的推理成本约为每次查询0.01美元，但怀特定律表明，到2030 年，ChatGPT样式的应用程序是使用规模将和Google搜索相似，每天处理85亿次搜索。这样，每十亿次的处理成本将从1000万美元下降到650美元。

到2030年，人工智能将使知识工作者的生产力提高四倍以上。在100%采用人工智能的情况下，41万亿美元的人工智能支出可以提高200万亿美元的劳动生产率，使知识工作者约32万亿美元的工资相形见绌，并可与目前对2030年全球GDP的预测相媲美。如果供应商能够获得其产品所创造价值的10%，人工智能软件将在2030年产生高达14 万亿美元的收入和90万亿美元的企业价值。