# 《分布式IM系统》OpenAI接入服务-第03节-OpenAI领域模型与核心接口设计

作者:冰河
星球:http://m6z.cn/6aeFbs (opens new window)
博客:https://binghe.gitcode.host (opens new window)
文章汇总:https://binghe.gitcode.host/md/all/all.html (opens new window)
源码获取地址:https://t.zsxq.com/0dhvFs5oR (opens new window)

沉淀,成长,突破,帮助他人,成就自我。

  • 本节难度:★★☆☆☆
  • 本节重点:对OpenAI接入服务的领域模型与核心接口进行设计,掌握对接OpenAI大模型的流程与方案,理解对接OpenAI大模型的抽象接口设计,结合自身实际项目进行思考,将其灵活应用到自身实际项目中。

大家好,我是冰河~~

我们自己开发的系统该如何对接OpenAI大模型呢?其实,OpenAI大模型对外提供了对应的接口来供其他业务接入。对分布式IM即时通讯系统也是如此,我们会在OpenAI接入服务中实现对接OpenAI大模型的核心逻辑,并对外屏蔽掉实现的技术细节,其他系统如果想对接OpenAI大模型,则只需要简单的调用OpenAI接入服务的接口即可。

# 一、前言

最近,阿里内部迎来了第一位AI“同事”,一位可以帮助你快速编程的编码助手,工号为AI001,相信后面会带来更大的技术创新。回到分布式IM即时通讯系统,我们已经对OpenAI大模型的总体对接流程和OpenAI接入服务的总体框架进行了设计,接下来,就对OpenAI接入服务的领域模型与核心接口进行简单的设计。

# 二、本节诉求

对OpenAI接入服务的领域模型与核心接口进行设计,掌握对接OpenAI大模型的流程与方案,理解对接OpenAI大模型的抽象接口设计,结合自身实际项目进行思考,将其灵活应用到自身实际项目中。

# 三、模型设计

对于OpenAI接入服务来说,不管是其他系统、其他SDK或者客户端应用程序调用OpenAI接入服务的接口,还是OpenAI接入服务调用OpenAI大模型的接口,在数据交互层面,都需要设计对应的数据交互模型,这样才能在整个流程中完美的传输数据。


业务系统、其他SDK和客户端程序调用OpenAI接入服务的接口,这部分交互的数据模型是完全可以由我们自己设计的,这部分数据交互模型可以称之为业务模型,也就是可以根据我们自身业务的需要来设计的数据模型。而OpenAI接入服务调用大模型的接口时,具体要传输什么样的数据,数据模型又该如何设计,这部分更多的是取决于大模型对外提供的接口,并且每种大模型对外提供的接口,参数以及交互的数据模型都可能不同,所以,这部分可以称之为数据模型。

在数据模型的设计上,业务系统、其他SDK或者客户端程序调用OpenAI接入服务,这部分数据模型的设计比较简单,我们可以简单的设计一个字符串来接收传输过来的数据,在OpenAI接入服务内部根据实际需要进行解析即可。

OpenAI接入服务调用大模型的接口传输的数据模型,就需要我们根据大模型提供的接口来设计了,以调用ChatGPT接口为例,我们传输的数据模型如下。

# 查看完整文章

加入冰河技术 (opens new window)知识星球,解锁完整技术文章与完整代码