话说,前两天我不是看到一个MetaGPT这样一个神奇的库吗,毕竟我以后去验证一些自己的小想法,就像靠它帮我做一些程序 demo 了,但是考虑到手头确实拮据(实际上你也懂,肯定不是这个原因),我就想着有没有免费的 GPT-4o 的 API 可以用呢?
这不,就发现了这个宝藏项目:
https://github.com/deanxv/coze-discord-proxy ,嗯,目前 3.2K Star,上线才不过几个月,这个已经很牛皮了。
他的原理我大概说下:
首先,我们知道某节的 coze https://www.coze.com
,不是可以免费使用 gpt-4,gemini-Pro 这些目前最最牛皮的模型吗?如果你不知道,那你可得赶紧补补课,因为我已经在上面体验快一年多了,真的是太香了。
其次,我们知道 coze 他是可以发布机器人的,其中就有一个能力,可以把机器人发布到 discord 上,这样我们就可以在 discord 上使用 coze 的能力了。
最后,通过这个项目,我们进而将 discord 的能力代理为一组 API,这样我们就可以在任何地方使用 coze 的能力了。这也就意味着,我们可以愉快的使用 GPT-4o 了。
文档可以参考这里 https://cdp-docs.pages.dev/page/quick-deploy.html
这里面提醒一下,注意将 discord 上面机器人的一些 id 和 token 记录在一个小本本上,等会下面的 docker 配置会用到。
根据我的操作,我大概花了 10 分钟把整个过程配置完毕,但毕竟因为我可能很熟悉部署机器人这套动作,所以你可能需要花费更多的时间,预计 30 分钟左右。
version: '3.4'
services:
coze-discord-proxy:
image: deanxv/coze-discord-proxy:latest
container_name: coze-discord-proxy
restart: always
ports:
- "7077:7077"
volumes:
- ./data:/app/coze-discord-proxy/data
environment:
- USER_AUTHORIZATION=MTA5OTg5N************aXUBHVI # discord用户的鉴权参数(多个请以,分隔)
- BOT_TOKEN=MTE5OT************UrUWNbG63w # 监听消息的Bot-Token
- GUILD_ID=11************96 # 两个机器人所在的服务器ID
- COZE_BOT_ID=11************97 # 由coze托管的机器人ID
- PROXY_SECRET=123456¥#%# # [可选]接口密钥-请求头校验的值(多个请以,分隔) [作为API Key使用]
- TZ=Asia/Shanghai
docker-compose pull && docker-compose up -d
启动后,Docker logs 里面可以看到如下信息,这说明你应配置 ok 了,成功的将 coze 的GPT-4通过 discord 机器人最终代理为了一组 API。
首先配置我们的 api 服务
然后嗨起来,看看,识别图片一点问题都没有。
修改配置文件 config/config2.yml,将 url 改为你的 API 地址,然后就可以愉快的使用了。
llm:
api_type: "openai" # or azure / ollama / groq etc.
model: "gpt-4-turbo" # or gpt-3.5-turbo
base_url: "http://127.0.0.1:7077/v1" # or forward url / other llm url ,
api_key: "123456¥#%#" # 上面配置的 PROXY_SECRET
注意,base_url 里面有 v1 后缀,然后就可以愉快的使用了,比如我这样:
metagpt "Write a cli snake game"
不一会儿,你就可以在控制台玩到贪吃蛇了。
当然,api 的次数肯定不是无限次的,作者也大概提供了一个范围:
目前的coze对每个discord用户做了标识,在discord中每个用户对不同的模型的调用有次数限制,具体如下:
GPT-4 Turbo (128k) - 50次/天
GPT-4 (8k) - 100次/天
GPT-3.5 (16k) - 500次/天
这意味着,个人的研究使用,完全够用了,除非,你拿去卖 api 赚钱,那可能就得在想点歪办法,但是我劝你做个人吧。
关注 老码沉思录 ,第一时间获取我最新的分享 。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。