大家好,我是冰河~~
没错,经过一年多的沉淀,在深入研究了多家OpenAI大模型的底层原理与核心算法,并且没日没夜的训练和纠正了多个OpenAI大模型的错误回答后(大半年纠正的错误回答近100个,这着实让人很有成就感),冰河正式入局OpenAI大模型,或许有小伙伴会问:别人早就入局了,你现在才入局是不是晚了点?
冰河想说的是:深入理解OpenAI大模型之后入局,从使用OpenAI大模型,到基于OpenAI大模型进行开发,再到训练OpenAI大模型,甚至为开源的OpenAI大模型和对应的开源组件提交Issues和代码,总比带着你照本宣科的只会使用好吧?这也是我为什么花了一年多先深入积累和沉淀后,再入局的原因。
不怕入局晚,入局后不只是带着大家学会如何使用OpenAI大模型,而是从使用、开发、训练到提交Issues和代码等多个方面彻底理解OpenAI大模型,让大家从根本上更具实力和竞争力。
说了这么多,冰河入局OpenAI大模型后的第一站,就是带着大家一起设计和开发OpenAI大模型接入服务,将分布式IM即时通讯系统接入OpenAI大模型,让分布式IM即时通讯系统具备OpenAI大模型的基础能力。
分布式IM即时通讯系统本质上就是对线上聊天和用户的管理,针对聊天本身来说,最核心的需求就是:发送文字、表情、图片、文件、语音、视频、消息缓存、消息存储、消息未读、已读、撤回,离线消息、历史消息、单聊、群聊,多端同步,以及其他一些需求。
对用户管理来说,存在的需求包含:添加好友、查看还有列表、删除好友、查看好友信息、创建群聊、加入群聊、查看群成员信息、退出群聊、修改群昵称、拉人进群、踢人出群、解散群聊、填写群公告、修改群备注以及其他用户相关的需求等。
分布式IM即时通讯系统目前已经实现的核心功能总体如下图所示。
点击手指滑动看大图
目前,我们已经实现了分布式IM即时通讯系统的所有常规功能,用户可以在分布式IM即时通讯系统中发送文字消息、表情消息、图片消息、文件消息和语音消息,也能够在分布式IM即时通讯系统中实现双向视频通话。
不仅可以与好友进行一对一单聊,也能够在群组中进行群聊,并且还能够在群组中@指定的群成员发送消息。可以这么说,目前我们已经实现了IM即时通讯的所有常规功能。
接下来,就从单聊消息和群聊消息两个角度,跟大家聊聊分布式IM即时通讯系统接入OpenAI大模型的总体流程。
在分布式IM即时通讯系统中,我们会为单聊消息接入OpenAI大模型,单聊消息接入OpenAI大模型的流程如下图所示。
点击手指滑动看大图
图中红色部分就是单聊消息接入OpenAI大模型后加入的消息流转过程:用户在分布式IM即时通讯系统中选择OpenAI大模型进行对话,向OpenAI大模型发送消息,消息由大后端平台调用OpenAI大模型接入服务的接口,由OpenAI大模型接入服务调用OpenAI大模型。OpenAI大模型返回的结果也是由OpenAI大模型接入服务返回到大后端平台。随后,分布式IM即时通讯系统就会按照单聊消息的流程向用户推送OpenAI大模型的结果数据。
注意:单聊消息的整体流程参见视频:https://t.zsxq.com/184SWUMPi,也可通过视频查看对应的文章,这里不再赘述。
群聊消息如何接入OpenAI大模型呢?在群聊的设计中,当用户创建群组时,我们会在群组中默认加入一个对接OpenAI大模型的用户。当某个用户在群组中@OpenAI大模型用户向其发送消息时,就会触发群聊消息接入OpenAI大模型的流程,整体如下图所示。
点击手指滑动看大图
图中红色部分就是群聊消息接入OpenAI大模型后接入的消息流转过程:用户向群组发送消息@OpenAI大模型用户时,会触发向OpenAI发送消息的流程。
此时,大后端平台会调用OpenAI大模型接入服务的接口,由OpenAI大模型接入服务调用OpenAI大模型。OpenAI大模型返回的结果也是由OpenAI大模型接入服务返回到大后端平台。随后,就会按照发送群聊消息的流程,向群组中发送OpenAI大模型的响应结果。
注意:群聊消息的整体流程参见视频:https://t.zsxq.com/184SWUMPi,也可通过视频查看对应的文章,这里不再赘述。
最后,最近有不少小伙伴咨询我分布式IM即时通讯系统的群聊@功能的实现效果跟微信效果一样吗?这里,我就再贴几个图让大家看看群聊@功能的原型草稿和实现效果吧。
用户登录分布式IM即时通讯系统后,可以在群聊的输入框中输入@符号,此时会自动弹出群成员列表,可以任意@某些群成员发送消息,如果是群主的话,还可以@全体成员。在群聊输入框输入@功能的原型草稿如下图所示。
发出@消息后,消息的接收方会在消息会话列表上显示消息未读数量,并且会显示[有人@我]字样,原型草稿如下图所示。
用户在群聊的输入框中输入@符号,会自动弹出群成员列表,可以任意@某些群成员发送消息,如果是群主的话,还可以@全体成员。在群聊输入框输入@功能的实现效果如下图所示。
用户接收到@消息时,会显示[有人@我]字样,实现效果如下图所示。
分布式IM即时通讯系统不仅可以用在真实的聊天场景中、还能接入多种真实的消息推送场景。这些真实场景的项目设计与落地实现,在冰河的知识星球除了分布式IM即时通讯系统外,还有其他5个项目,像Sekill分布式秒杀系统、手写RPC、简易商城系统等等,这些项目的需求、方案、架构、落地等均来自互联网真实业务场景,让你真正学到互联网大厂的业务与技术落地方案,并将其有效转化为自己的知识储备。