# 《分布式IM系统》OpenAI接入服务-第05节-单聊消息对接OpenAI大模型
作者:冰河
星球:http://m6z.cn/6aeFbs (opens new window)
博客:https://binghe.gitcode.host (opens new window)
文章汇总:https://binghe.gitcode.host/md/all/all.html (opens new window)
源码获取地址:https://t.zsxq.com/0dhvFs5oR (opens new window)
课程视频:https://t.zsxq.com/QIZGa (opens new window)
沉淀,成长,突破,帮助他人,成就自我。
- 本节难度:★★☆☆☆
- 本节重点:对分布式IM即时通讯系统的单聊消息流程对接OpenAI大模型,掌握对接OpenAI大模型的流程与方案,理解对接OpenAI大模型的抽象接口设计,结合自身实际项目进行思考,将其灵活应用到自身实际项目中。
大家好,我是冰河~~
在分布式IM即时通讯系统中,我们完全实现了单聊消息和群聊消息的完整流程,说起大模型,其中一个重要的特征就是能够交互式对话,如果将OpenAI大模型接入到分布式IM即时通讯系统,那无疑会对大家理解大模型的实际应用有所帮助,并且还能在我们自己写的分布式IM即时通讯系统中与大模型进行“对话”,何乐而不为呢?
# 一、前言
在前面的章节中,我们已经对OpenAI接入服务的总体对接流程、总体框架和领域模型与核心接口进行了设计,从总体上了解了整个OpenAI接入服务的设计。在OpenAI接入服务的整体项目层面,我们也对OpenAI接入服务的整体项目结构进行了搭建,根据核心接口的设计原则,对OpenAI接入服务对外提供的HTTP接口、RPC接口以及领域层通用的OpenAI大模型接入接口进行了设计,并定义了具体的接口。同时,对分布式IM即时通讯系统如何接入OpenAI大模型进行了简单的设计和实现。
接下来,我们就对单聊消息的流程如何对接OpenAI大模型进行具体的实现。
# 二、本节诉求
对分布式IM即时通讯系统的单聊消息流程对接OpenAI大模型,掌握对接OpenAI大模型的流程与方案,理解对接OpenAI大模型的抽象接口设计,结合自身实际项目进行思考,将其灵活应用到自身实际项目中。
# 三、接入流程
在正式实现单聊消息接入OpenAI大模型之前,我们再来回顾下单聊消息对接OpenAI大模型的流程,如图5-1所示。
图中红色部分就是单聊消息接入OpenAI大模型后加入的消息流转过程:用户在分布式IM即时通讯系统中选择OpenAI大模型进行对话,向OpenAI大模型发送消息,消息由大后端平台调用OpenAI大模型接入服务的接口,由OpenAI大模型接入服务调用OpenAI大模型。OpenAI大模型返回的结果也是由OpenAI大模型接入服务返回到大后端平台。随后,分布式IM即时通讯系统就会按照单聊消息的流程向用户推送OpenAI大模型的结果数据。
注意:单聊消息的整体流程参见视频:《需求设计-第04节:分布式IM即时通讯系统技术流程梳理 (opens new window)》,也可通过视频查看对应的文章,这里不再赘述。
# 四、编码实现
# 查看完整文章
加入冰河技术 (opens new window)知识星球,解锁完整技术文章与完整代码