# 《分布式IM系统》OpenAI接入服务-第04节-OpenAI大模型对接设计和实现

作者:冰河
星球:http://m6z.cn/6aeFbs (opens new window)
博客:https://binghe.gitcode.host (opens new window)
文章汇总:https://binghe.gitcode.host/md/all/all.html (opens new window)
源码获取地址:https://t.zsxq.com/0dhvFs5oR (opens new window)

沉淀,成长,突破,帮助他人,成就自我。

  • 本节难度:★★☆☆☆
  • 本节重点:对OpenAI接入服务的对接OpenAI大模型进行设计和实现,掌握对接OpenAI大模型的流程与方案,理解对接OpenAI大模型的抽象接口设计,结合自身实际项目进行思考,将其灵活应用到自身实际项目中。

大家好,我是冰河~~

目前市面上有多种大模型,对接每种大模型的具体数据模型和参数不同,每种大模型可能返回的数据模型和具体结果不同,这就需要我们在实现对接每种具体的大模型时,以高内聚、低耦合的设计原则来实现。也就是说,具体对接每一种大模型的内部逻辑是高度内聚的,而对接每种大模型之间的逻辑是低耦合的,这种设计方式也方便我们随时扩展对接其他的大模型。

# 一、前言

在前面的章节中,我们已经对OpenAI接入服务的总体对接流程、总体框架和领域模型与核心接口进行了设计,从总体上了解了整个OpenAI接入服务的设计。同时,我们也对OpenAI接入服务的整体项目结构进行了搭建,根据核心接口的设计原则,对OpenAI接入服务对外提供的HTTP接口、RPC接口以及领域层通用的OpenAI大模型接入接口进行了设计,并定义了具体的接口。接下来,我们就对如何对接OpenAI大模型进行具体的实现。

# 二、本节诉求

对OpenAI接入服务的对接OpenAI大模型进行设计和实现,掌握对接OpenAI大模型的流程与方案,理解对接OpenAI大模型的抽象接口设计,结合自身实际项目进行思考,将其灵活应用到自身实际项目中。

# 三、接口交互流程设计

OpenAI整体上是以DDD的架构模式进行设计,整体接口数据的交互流程如图4-1所示。


可以看到,OpenAI接入服务会对外提供HTTP接口和Dubbo接口,无论是HTTP接口还是Dubbo接口,最终都会调用领域层提供的对接大模型的通用接口,而对接大模型的通用接口的具体实现则是在基础设施层,也就是说,基础设施层会封装对接各种大模型的具体实现,通过调用各种大模型的接口,实现与各种大模型之前的交互。

# 四、对接ChatGPT的实现

# 查看完整文章

加入冰河技术 (opens new window)知识星球,解锁完整技术文章与完整代码