《分布式IM系统》OpenAI接入服务-第07节-扩展实现对接多种OpenAI大模型

作者：冰河
星球：http://m6z.cn/6aeFbs (opens new window)
博客：https://binghe.gitcode.host (opens new window)
文章汇总：https://binghe.gitcode.host/md/all/all.html (opens new window)
源码获取地址：https://t.zsxq.com/0dhvFs5oR (opens new window)

沉淀，成长，突破，帮助他人，成就自我。

• 本节难度：★★☆☆☆
• 本节重点：扩展分布式IM即时通讯系统对接多种OpenAI大模型的接口设计和实现，掌握对接OpenAI大模型的流程与方案，理解对接OpenAI大模型的抽象接口设计，结合自身实际项目进行思考，将其灵活应用到自身实际项目中。

大家好，我是冰河~~

在分布式IM即时通讯系统中，我们完全实现了单聊消息和群聊消息的完整流程，并且已经实现了在单聊消息和群聊消息的流程中接入OpenAI大模型，至此，大家不仅可以在分布式IM即时通讯系统中与自己的好友单聊，在群内与其他群成员群聊，也能够与OpenAI大模型进行“畅聊”了。

一、前言

目前，我们已经实现了分布式IM即时通讯系统的所有常规功能，用户可以在分布式IM即时通讯系统中发送文字消息、表情消息、图片消息、文件消息和语音消息，也能够在分布式IM即时通讯系统中实现双向视频通话。不仅可以与好友进行一对一单聊，也能够在群组中进行群聊，并且还能够在群组中@指定的群成员发送消息。可以这么说，目前我们已经实现了IM即时通讯的所有常规功能。

同时，我们也已经在分布式IM即时通讯系统的单聊消息流程和群聊消息流程中接入了OpenAI大模型，大家可以在分布式IM即时通讯系统中与OpenAI大模型“畅聊”了。另外，还有一个重要的点就是在对接大模型的设计上，我们的目标是通过一个抽象的接口，来实现对接多种大模型，那这个又是怎么实现的呢？接下来，就对扩展对接多种OpenAI大模型进行设计。

二、本节诉求

扩展分布式IM即时通讯系统对接多种OpenAI大模型的接口设计和实现，掌握对接OpenAI大模型的流程与方案，理解对接OpenAI大模型的抽象接口设计，结合自身实际项目进行思考，将其灵活应用到自身实际项目中。

三、扩展设计

对于对接多种OpenAI大模型的扩展设计和实现来说，OpenAI大模型接入服务对外提供统一的HTTP/RPC接口，大后端平台的消息微服务调用OpenAI接入服务对外提供的接口即可，不必关心OpenAI接入服务的内部具体实现细节，并且在OpenAI大模型接入服务内部会扩展实现对接多种大模型，如图7-1所示。

整个扩展设计还是比较简单的，映射到代码层面，我们可以在领域层定义一个通用的领域接口，在基础设施层来扩展实现对接每种具体的大模型。

四、编码实现

查看完整文章

加入冰河技术 (opens new window)知识星球，解锁完整技术文章与完整代码