FinGPT——为金融领域的大模型应用提供了更多的可能

前言

在ChatGPT引领的AI浪潮下，涌现了一大批优秀的AI应用，AI正在不断地重塑一个又一个行业，今天介绍的这个AI项目是跑进github前三甲的金融领域的代表：FinGPT。

这里引申一篇笔者之前整理的金融领域自动量化交易的AI应用：Qbot——一款可自动量化交易的AI应用

面向开放金融的数据中心化 FinGPT：开源项目[1]

让我们不要期待华尔街将大型语言模型（LLM）或开放API开源。

我们在 FinNLP[6] 和 FinNLP 网站[7] 上将互联网规模的数据民主化，用于金融大型语言模型（FinLLM）

FinGPT 的蓝图[8]

免责声明：我们分享的代码是为了教育目的，基于 MIT 教育许可。本文中没有任何财务建议，也不是推荐进行真实货币交易的建议。请使用常识，进行交易或投资前始终首先咨询专业人士。

为什么选择FinGPT？

1). 金融市场动态性强。BloombergGPT[9]使用金融和通用数据源的混合数据集重新训练LLM，这非常昂贵（130万GPU小时，成本约为5M）。每个月或每周重新训练一次LLM模型的成本很高，因此金融领域更倾向于轻量级的适应性。与每次金融环境发生重大变化时都需要从头开始花费大量时间和金钱重新训练模型的做法相比，FinGPT可以迅速地进行微调以适应新数据（适应性成本大幅降低，估计每次训练的成本不到300）。

2). 民主化的互联网规模的金融数据至关重要，这应该允许使用自动化的数据策划流程进行及时的更新（每月或每周的更新）。然而，BloombergGPT有特权数据访问和API。FinGPT提供了一个更容易获取的替代方案。它优先考虑轻量级适应性，利用一些最好的开源LLM的优点，然后用金融数据进行喂养，并进行金融语言建模的微调。

3). 关键技术是"RLHF（来自人类反馈的强化学习）"，这在BloombergGPT中是缺失的。RLHF使LLM模型能够学习个体的偏好（风险厌恶级别、投资习惯、个性化的robo-advisor等），这是ChatGPT和GPT4的"秘密"成分。

FinGPT演示

•FinGPT V1[10]•让我们用ChatGLM和LoRA（低秩适应）在中国金融市场上训练我们自己的FinGPT•FinGPT V2[11]•让我们用LLaMA和LoRA（低秩适应）在美国金融市场上训练我们自己的FinGPT

新闻

•哥伦比亚大学对ChatGPT的观点[12]•[麻省理工科技评论] ChatGPT即将改变经济。我们需要决定它的样子[13]•[BloombergGPT] BloombergGPT：面向金融领域的大型语言模型[14]•[Finextra] ChatGPT和Bing AI将作为金融科技会议的座谈嘉宾[15]

什么是FinNLP

•FinNLP为所有对语言模型和金融自然语言处理感兴趣的人提供了一个平台。在这里，我们为金融领域的语言模型训练和微调提供了完整的流程。完整的架构如下图所示。详细的代码和介绍可以在这里[16]找到。或者你可以参考维基[17]

AI4Finance的ChatGPT

•[YouTube视频] 我用ChatGPT构建了一个交易机器人[18]，结合了ChatGPT和FinRL。•嘿，ChatGPT！解释一下FinRL的代码给我听！[19]•ChatGPT Robo Advisor v2[20]•ChatGPT Robo Advisor v1[21]•使用ChatGPT构建一个Robo Advisor的演示•ChatGPT Trading Agent V2[22]•使用ChatGPT后面的大型语言模型，像ChatGPT一样智能地进行交易的FinRL代理•ChatGPT Trading Agent V1[23]•根据ChatGPT提供的建议进行交易•ChatGPT将技术指标加入到FinRL中

介绍

•人工通用智能的火花：GPT-4的早期实验[24]•[GPT-4] GPT-4技术报告[25]•[InstructGPT] 使用人类反馈来训练遵循指令的语言模型[26] NeurIPS 2022.

Open AI GPT模型之旅[27]。解析GPT模型。Open AI的GPT-1、GPT-2、GPT-3。

•[GPT-3] 语言模型是少样本学习器[28] NeurIPS 2020.•[GPT-2] 语言模型是无监督多任务学习器[29]•[GPT-1] 通过生成式预训练提高语言理解[30]•[Transformer] Attention is All you Need[31] NeurIPS 2017.

（金融）大数据

•[BloombergGPT] BloombergGPT：面向金融领域的大型语言模型[32]•我的AI是什么组成？[33] 对用于训练GPT-1、GPT-2、GPT-3、GPT-NeoX-20B、Megatron-11B、MT-NLG和Gopher的数据集进行了全面分析。•FinRL-Meta Repo[34]和论文FinRL-Meta：用于数据驱动金融强化学习的市场环境和基准[35]。Advances in Neural Information Processing Systems, 2022.•[AI4Finance] FinNLP[36] 使互联网规模的金融数据变得民主化。

有趣的演示

•GPT-3创意小说[37] 由OpenAI的GPT-3模型进行

金融科技中的ChatGPT

ChatGPT交易机器人

•[YouTube视频] 我用ChatGPT构建了一个交易机器人[38] 结合了ChatGPT和FinRL。•[YouTube视频] ChatGPT交易策略获得20097%的回报[39]•[YouTube视频] ChatGPT编码 - 五分钟内制定一个盈利的交易策略！[40]•[YouTube视频] 使用ChatGPT轻松自动化实时交易（无需操作）[41]•[YouTube视频] ChatGPT交易策略获得893%的回报[42]•[YouTube视频] ChatGPT 1000万交易策略[43]•[YouTube视频] ChatGPT：您的加密货币助手[44]•[YouTube视频] 使用ChatGPT和TradingView生成疯狂的交易回报[45]•[YouTube视频] 这个AI外汇交易策略会让您变富有吗？（Chat GPT）[46]

（快速准确的）情感分析

GPT-3可以帮助研究客户调查、来自客户/用户的社交媒体推文。

推文

•推文分类器[47]•高级推文分类器[48]

金融新闻

•使用情感分析进行新闻文章的算法交易[49]•使用Python访问历史金融新闻头条[50]

PromptNet 类比于ImageNet和WordNet，构建PromptNet非常重要。

•计算机视觉中的精选Prompting论文[51]•OpenPrompt[52]•promptsource[53]

Robo-advisor（机器人顾问）

编码导师

•嘿，ChatGPT！向我解释FinRL代码！[54]

关于金融科技的ChatGPT博客

ChatGPT API

Prompting作为一种新的编程范式！

•[Towards Data Science] GPT-3: NLP的创造潜力[55]•[YouTube视频] OpenAI GPT-3 - 金融NLP的提示工程[56]•[YouTube视频] 高级ChatGPT提示工程[57]•OpenAI GPT-3的API文档[58]•ChatGPT-wrapper: python and shell[59]•OpenAI示例库[60]•GPT-3 Sandbox (Github)[61] 允许用户使用OpenAI GPT-3 API创建酷炫的Web演示。•探索ChatGPT API的功能：初学者指南[62]•ChatGPT API的逆向工程[63]

提示式编程

ChatGPT的相关模型：

许多LLM的发布时间线[64]。

PaLM[65]

Chincella[66]

有趣的评估：

•预训练的RLHF[67]•比较ChatGPT与GPT3.5[68]•ChatGPT是一个好的翻译器吗？初步研究[69]•关于ChatGPT在推理、幻觉和互动性方面的多任务、多语言、多模态评估[70]

[YouTube] 物理问题解决：ChatGPT vs. Google[71]

链接

•LLM调查[72]•Awesome GPT-3示例[73]

声明

文章翻译整理自：GitHub - AI4Finance-Foundation/FinGPT: Data-Centric FinGPT. Open-source for open finance! Revolutionize 🔥 We'll soon release the trained model.[74]

References

[1] 面向开放金融的数据中心化 FinGPT：开源项目: https://github.com/AI4Finance-Foundation/FinGPT [2] : https://pepy.tech/project/fingpt [3] : https://pepy.tech/project/fingpt [4] : https://www.python.org/downloads/release/python-360/ [5] : https://pypi.org/project/fingpt/ [6] FinNLP: https://github.com/AI4Finance-Foundation/FinNLP [7] FinNLP 网站: https://ai4finance-foundation.github.io/FinNLP/ [8] FinGPT 的蓝图: https://arxiv.org/abs/2306.06031 [9] BloombergGPT: https://arxiv.org/abs/2303.17564 [10] FinGPT V1: ./fingpt [11] FinGPT V2: ./fingpt [12] 哥伦比亚大学对ChatGPT的观点: https://datascience.columbia.edu/news/2023/columbia-perspectives-on-chatgpt/?utm_source=sendinblue&utm_campaign=DSI%20Newsletter%20April%202023&utm_medium=email [13] ChatGPT即将改变经济。我们需要决定它的样子: https://www.technologyreview.com/2023/03/25/1070275/chatgpt-revolutionize-economy-decide-what-looks-like/ [14] BloombergGPT：面向金融领域的大型语言模型: https://arxiv.org/abs/2303.17564 [15] ChatGPT和Bing AI将作为金融科技会议的座谈嘉宾: https://www.finextra.com/newsarticle/41973/chatgpt-and-bing-ai-to-sit-as-panellists-at-fintech-conference [16] 这里: https://github.com/AI4Finance-Foundation/FinNLP [17] 维基: https://ai4finance-foundation.github.io/FinNLP/ [18] 我用ChatGPT构建了一个交易机器人: https://www.youtube.com/watch?v=fhBw3j_O9LE [19] 嘿，ChatGPT！解释一下FinRL的代码给我听！: https://medium.com/@ai4finance/hey-chatgpt-explain-finrl-code-to-me-6a91d612296f [20] ChatGPT Robo Advisor v2: ./fingpt [21] ChatGPT Robo Advisor v1: ./demos [22] ChatGPT Trading Agent V2: ./fingpt [23] ChatGPT Trading Agent V1: ./fingpt [24] 人工通用智能的火花：GPT-4的早期实验: https://arxiv.org/abs/2303.12712 [25] GPT-4技术报告: https://arxiv.org/abs/2303.08774 [26] 使用人类反馈来训练遵循指令的语言模型: https://openreview.net/forum?id=TG8KACxEON [27] Open AI GPT模型之旅: https://medium.com/walmartglobaltech/the-journey-of-open-ai-gpt-models-32d95b7b7fb2 [28] 语言模型是少样本学习器: https://proceedings.neurips.cc/paper/2020/hash/1457c0d6bfcb4967418bfb8ac142f64a-Abstract.html [29] 语言模型是无监督多任务学习器: https://cdn.openai.com/better-language-models/language_models_are_unsupervised_multitask_learners.pdf [30] 通过生成式预训练提高语言理解: https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf [31] Attention is All you Need: https://proceedings.neurips.cc/paper/2017/hash/3f5ee243547dee91fbd053c1c4a845aa-Abstract.html [32] BloombergGPT：面向金融领域的大型语言模型: https://arxiv.org/abs/2303.17564 [33] 我的AI是什么组成？: https://lifearchitect.ai/whats-in-my-ai/ [34] FinRL-Meta Repo: https://github.com/AI4Finance-Foundation/FinRL-Meta [35] FinRL-Meta：用于数据驱动金融强化学习的市场环境和基准: https://proceedings.neurips.cc/paper_files/paper/2022/hash/0bf54b80686d2c4dc0808c2e98d430f7-Abstract-Datasets_and_Benchmarks.html [36] FinNLP: https://github.com/AI4Finance-Foundation/FinNLP [37] GPT-3创意小说: https://gwern.net/gpt-3#prompts-as-programming [38] 我用ChatGPT构建了一个交易机器人: https://www.youtube.com/watch?v=fhBw3j_O9LE [39] ChatGPT交易策略获得20097%的回报: https://www.youtube.com/watch?v=unsa_gXPAJ4 [40] ChatGPT编码 - 五分钟内制定一个盈利的交易策略！: https://www.youtube.com/watch?v=4SG2884RcDY [41] 使用ChatGPT轻松自动化实时交易（无需操作）: https://www.youtube.com/watch?v=dIEZVPVOZPQ [42] ChatGPT交易策略获得893%的回报: https://www.youtube.com/watch?v=YxjvjK5AD2M [43] ChatGPT 1000万交易策略: https://www.youtube.com/watch?v=9VPfd08uU4Q [44] ChatGPT：您的加密货币助手: https://www.youtube.com/watch?v=LpzeshX6s2w [45] 使用ChatGPT和TradingView生成疯狂的交易回报: https://www.youtube.com/watch?v=ekz6ugJE1h0&t=3s [46] 这个AI外汇交易策略会让您变富有吗？（Chat GPT）: https://www.youtube.com/watch?v=rCNz6OX6Niw [47] 推文分类器: https://platform.openai.com/playground/p/default-tweet-classifier?model=text-davinci-003 [48] 高级推文分类器: https://platform.openai.com/playground/p/default-adv-tweet-classifier?model=text-davinci-003 [49] 使用情感分析进行新闻文章的算法交易: https://towardsdatascience.com/https-towardsdatascience-com-algorithmic-trading-using-sentiment-analysis-on-news-articles-83db77966704 [50] 使用Python访问历史金融新闻头条: https://python.plainenglish.io/access-historical-financial-news-headlines-with-python-be1b8faaea9f [51] 计算机视觉中的精选Prompting论文: https://github.com/ttengwang/Awesome_Prompting_Papers_in_Computer_Vision [52] OpenPrompt: https://github.com/thunlp/OpenPrompt [53] promptsource: https://github.com/bigscience-workshop/promptsource [54] 嘿，ChatGPT！向我解释FinRL代码！: https://medium.com/@ai4finance/hey-chatgpt-explain-finrl-code-to-me-6a91d612296f [55] GPT-3: NLP的创造潜力: https://towardsdatascience.com/gpt-3-creative-potential-of-nlp-d5ccae16c1ab [56] OpenAI GPT-3 - 金融NLP的提示工程: https://www.youtube.com/watch?v=Nl2Cdbao5Ws [57] 高级ChatGPT提示工程: https://www.youtube.com/watch?v=bBiTR_1sEmI [58] OpenAI GPT-3的API文档: https://platform.openai.com/docs/models/gpt-3 [59] ChatGPT-wrapper: python and shell: https://github.com/mmabrouk/chatgpt-wrapper [60] OpenAI示例库: https://platform.openai.com/examples [61] GPT-3 Sandbox (Github): https://github.com/shreyashankar/gpt3-sandbox [62] 探索ChatGPT API的功能：初学者指南: https://levelup.gitconnected.com/exploring-the-capabilities-of-the-chatgpt-api-a-beginners-guide-e9089d49961f [63] ChatGPT API的逆向工程: https://github.com/acheong08/ChatGPT [64] 许多LLM的发布时间线: https://github.com/osanseviero/ml_timeline [65] PaLM: https://arxiv.org/abs/2204.02311 [66] Chincella: https://arxiv.org/abs/2203.15556 [67] 预训练的RLHF: https://arxiv.org/abs/2302.08582 [68] 比较ChatGPT与GPT3.5: https://arxiv.org/pdf/2302.06476.pdf [69] ChatGPT是一个好的翻译器吗？初步研究: https://arxiv.org/pdf/2301.08745.pdf [70] 关于ChatGPT在推理、幻觉和互动性方面的多任务、多语言、多模态评估: https://arxiv.org/pdf/2302.04023.pdf [71] 物理问题解决：ChatGPT vs. Google: https://www.youtube.com/watch?v=x4dIx9VYQoM [72] LLM调查: https://github.com/RUCAIBox/LLMSurvey [73] Awesome GPT-3示例: https://github.com/elyase/awesome-gpt3 [74] GitHub - AI4Finance-Foundation/FinGPT: Data-Centric FinGPT. Open-source for open finance! Revolutionize 🔥 We'll soon release the trained model.: https://github.com/AI4Finance-Foundation/FinGPT