冰河技术
导读
♻学习路线
  • 面试必问系列

    • 面试必问
  • 架构与模式

    • Java极简设计模式
    • 实战高并发设计模式
  • Java核心技术

    • Java8新特性
    • IOC核心技术
    • JVM调优技术
  • 容器化核心技术

    • Dockek核心技术
  • 分布式存储

    • Mycat核心技术
  • 数据库核心技术

    • MySQL基础篇
  • 服务器核心技术

    • Nginx核心技术
  • 渗透核心技术

    • 渗透实战技术
  • 底层技术
  • 源码分析
  • 基础案例
  • 实战案例
  • 面试
  • 系统架构
  • Spring6核心技术
  • 分布式事务

    • 分布式事务系列视频
  • SpringBoot
  • SpringCloudAlibaba
  • 🔥AI大模型项目

    • 一站式AI智能平台
    • AI智能客服系统
    • AI智能问答系统
    • 实战AI大模型
  • 中间件项目

    • 手写高性能Redis组件
    • 手写高性能脱敏组件
    • 手写线程池项目
    • 手写高性能SQL引擎
    • 手写高性能Polaris网关
    • 手写高性能RPC项目
  • 高并发项目

    • 分布式IM即时通讯系统(新)
    • 分布式Seckill秒杀系统
    • 实战高并发设计模式
  • 微服务项目

    • 简易电商脚手架项目
  • 手撕源码

    • 手撕Spring6源码
🌍知识星球
  • 总览

    • 《书籍汇总》
  • 出版图书

    • 《深入理解高并发编程:核心原理与案例实战》
    • 《深入理解高并发编程:JDK核心技术》
    • 《深入高平行開發:深度原理&專案實戰》
    • 《深入理解分布式事务:原理与实战》
    • 《MySQL技术大全:开发、优化与运维实战》
    • 《海量数据处理与大数据技术实战》
  • 电子书籍

    • 《实战高并发设计模式》
    • 《深入理解高并发编程(第2版)》
    • 《深入理解高并发编程(第1版)》
    • 《从零开始手写RPC框架(基础篇)》
    • 《SpringCloud Alibaba实战》
    • 《冰河的渗透实战笔记》
    • 《MySQL核心知识手册》
    • 《Spring IOC核心技术》
  • 关于自己
  • 关于学习
  • 关于职场
B站
Github
导读
♻学习路线
  • 面试必问系列

    • 面试必问
  • 架构与模式

    • Java极简设计模式
    • 实战高并发设计模式
  • Java核心技术

    • Java8新特性
    • IOC核心技术
    • JVM调优技术
  • 容器化核心技术

    • Dockek核心技术
  • 分布式存储

    • Mycat核心技术
  • 数据库核心技术

    • MySQL基础篇
  • 服务器核心技术

    • Nginx核心技术
  • 渗透核心技术

    • 渗透实战技术
  • 底层技术
  • 源码分析
  • 基础案例
  • 实战案例
  • 面试
  • 系统架构
  • Spring6核心技术
  • 分布式事务

    • 分布式事务系列视频
  • SpringBoot
  • SpringCloudAlibaba
  • 🔥AI大模型项目

    • 一站式AI智能平台
    • AI智能客服系统
    • AI智能问答系统
    • 实战AI大模型
  • 中间件项目

    • 手写高性能Redis组件
    • 手写高性能脱敏组件
    • 手写线程池项目
    • 手写高性能SQL引擎
    • 手写高性能Polaris网关
    • 手写高性能RPC项目
  • 高并发项目

    • 分布式IM即时通讯系统(新)
    • 分布式Seckill秒杀系统
    • 实战高并发设计模式
  • 微服务项目

    • 简易电商脚手架项目
  • 手撕源码

    • 手撕Spring6源码
🌍知识星球
  • 总览

    • 《书籍汇总》
  • 出版图书

    • 《深入理解高并发编程:核心原理与案例实战》
    • 《深入理解高并发编程:JDK核心技术》
    • 《深入高平行開發:深度原理&專案實戰》
    • 《深入理解分布式事务:原理与实战》
    • 《MySQL技术大全:开发、优化与运维实战》
    • 《海量数据处理与大数据技术实战》
  • 电子书籍

    • 《实战高并发设计模式》
    • 《深入理解高并发编程(第2版)》
    • 《深入理解高并发编程(第1版)》
    • 《从零开始手写RPC框架(基础篇)》
    • 《SpringCloud Alibaba实战》
    • 《冰河的渗透实战笔记》
    • 《MySQL核心知识手册》
    • 《Spring IOC核心技术》
  • 关于自己
  • 关于学习
  • 关于职场
B站
Github
  • 专栏介绍

    • 开篇:分布式高性能网关项目正式启动
    • 造轮子:大厂为何都要自研API网关
  • 第01部分:需求设计

    • 第01节:为何要学习高性能Polaris网关
    • 第02节:高性能Polaris网关的目标与挑战
    • 第03节:高性能Polaris网关需求与流程梳理
    • 第04节:高性能Polaris网关技术流程梳理
  • 第02部分:总体架构设计

    • 第01节:高性能Polaris网关总体方案目标与架构设计
    • 第02节:高性能Polaris网关数据模型设计
  • 第03部分:环境搭建

    • 第01节:高性能Polaris网关研发环境搭建
    • 第02节:高性能Polaris网关项目工程搭建
    • 第03节:高性能Polaris网关Maven私服搭建
  • 第04部分:通用模型设计

    • 第01节:请求与响应模型的顶层接口设计
    • 第02节:请求模型的顶层接口实现类设计
    • 第03节:响应模型的顶层接口实现类设计
    • 第04节:调用链路顶层接口与抽象类设计
    • 第05节:调用链路顶层接口的实现类设计
    • 第06节:网关配置规则模型实现类设计
    • 第07节:服务定义与实例模型实现类设计
    • 第08节:服务配置缓存接口与实现类模型设计
    • 第09节:网关上下文属性顶层接口与抽象类设计
    • 第10节:网关上下文属性工厂与实现类设计
    • 第11节:网关上下文顶层抽象接口设计
    • 第12节:网关上下文顶层抽象类设计
    • 第13节:网关上下文核心实现类设计
  • 第05部分:通用过滤器设计

    • 第01节:网关顶级核心过滤器接口设计
    • 第02节:网关请求与响应核心工厂类的设计与实现
    • 第03节:网关过滤器两大顶级抽象类设计与实现
    • 第04节:网关通用抽象过滤器链的设计与实现
    • 第05节:网关过滤器通用工厂类的设计与实现
    • 第06节:网关过滤器适配自定义SPI提高扩展性
    • 第07节:基于自定义SPI实现负载均衡过滤器
    • 第08节:基于自定义SPI实现超时配置过滤器
    • 第09节:基于自定义SPI实现HTTP过滤器
    • 第10节:基于自定义SPI实现RPC过滤器
    • 第11节:基于自定义SPI实现指标分析过滤器
    • 第12节:基于自定义SPI实现Mock过滤器
    • 第13节:基于自定义SPI实现灰度过滤器
    • 第14节:基于自定义SPI实现错误处理过滤器
  • 第06部分:通用处理器设计

    • 第01节:通用核心处理器的设计与实现
    • 第02节:基于disruptor设计和实现BatchEvent模式Holder
    • 第03节:基于disruptor设计和实现BatchEvent模式缓冲队列
    • 第04节:MPMC模式缓冲队列Condition接口和ThreadWait类的设计与实现
    • 第05节:MPMC模式缓冲队列自定义抽象Condition类的设计和实现
    • 第06节:MPMC模式缓冲队列自定义抽象自旋Condition的设计和实现
    • 第07节:MPMC模式缓冲队列自定义抽象等待Condition的设计和实现
    • 第08节:MPMC模式缓冲队列自定义AtomicLong的设计和实现
    • 第09节:MPMC模式缓冲队列自定义队列容量的设计和实现
    • 第10节:MPMC模式缓冲队列核心并发队列接口的设计和实现
    • 第11节:MPMC模式缓冲队列自定义并发环形队列的设计和实现
    • 第12节:MPMC模式缓冲队列自定义并发阻塞队列的设计和实现
    • 第13节:基于自定义SPI扩展实现BatchEvent模式处理器
    • 第14节:基于自定义SPI扩展实现MPMC模式处理器
  • 第07部分:核心容器设计

    • 第01节:HTTP处理器核心接口的设计与实现
    • 第02节:服务端核心处理器的设计与实现
    • 第03节:服务端连接管理器的设计与实现
    • 第04节:基于Netty的服务端整体设计与实现
    • 第05节:基于Netty的客户端整体设计与实现
  • 第08部分:核心启动流程

    • 第01节:核心启动容器类的设计与实现
    • 第02节:核心启动加载流程的设计与实现
  • 第09部分:牛刀小试

    • 第01节:实战通过高性能Polaris网关访问后端服务
  • 第10部分:注册中心

    • 第01节:注册中心通用SPI接口的设计与定义
    • 第02节:基于自定义SPI扩展实现Nacos注册中心
    • 第03节:基于自定义SPI扩展实现Zookeeper注册中心
    • 第04节:基于自定义SPI扩展实现Etcd注册中心(作业篇)
    • 第05节:基于自定义SPI扩展实现Consul注册中心(作业篇)
    • 第06节:网关启动容器整合注册中心实现服务注册与发现
  • 第11部分:负载均衡

    • 第01节:负载均衡通用SPI接口与顶级抽象类的设计与实现
    • 第02节:基于SPI扩展随机算法负载均衡策略
    • 第03节:基于SPI扩展加权随机算法负载均衡策略
    • 第04节:基于SPI扩展轮询算法负载均衡策略
    • 第05节:基于SPI扩展加权轮询算法负载均衡策略
    • 第06节:基于SPI扩展哈希算法负载均衡策略
    • 第07节:基于SPI扩展加权哈希算法负载均衡策略
    • 第08节:基于SPI扩展源IP地址哈希算法负载均衡策略
    • 第09节:基于SPI扩展源IP地址加权哈希算法负载均衡策略
    • 第10节:基于SPI扩展一致性Hash算法负载均衡策略
  • 第12部分:增强型负载均衡

    • 第01节:基于SPI扩展增强型加权随机算法负载均衡策略
    • 第02节:基于SPI扩展增强型加权轮询算法负载均衡策略
    • 第03节:基于SPI扩展增强型加权哈希算法负载均衡策略
    • 第04节:基于SPI扩展增强型源IP哈希算法负载均衡策略
    • 第05节:基于SPI扩展增强型一致性哈希算法负载均衡策略
  • 第13部分:实战负载均衡

    • 第01节:实战通过SPI加载负载均衡策略访问后端服务
  • 第14部分:配置中心

    • 第01节:配置中心通用SPI接口的设计与定义
    • 第02节:基于SPI扩展实现Nacos配置中心
    • 第03节:基于SPI扩展实现Zookeeper配置中心
    • 第04节:基于SPI扩展实现Etcd配置中心
    • 第05节:基于SPI扩展实现Consul配置中心
    • 第06节:网关启动容器整合配置中心实现服务配置
  • 第15部分:热插拔插件

    • 第01节:网关热插拔插件SPI接口与核心工厂类设计与实现
    • 第02节:网关启动容器整合热插拔插件的设计与实现
  • 第16部分:客户端SDK

    • 第01节:网关客户端SDK注解与协议的设计与定义
    • 第02节:网关客户端扫描器与抽象注册中心实现类设计
    • 第03节:网关客户端HTTP协议SDK的设计和实现
    • 第04节:网关客户端RPC协议SDK的设计和实现
    • 第05节:网关客户端WebSocket协议SDK的设计和实现
  • 第17部分:完整实战实例

    • 第01节:网关访问后端服务HTTP接口完整案例
    • 第02节:网关访问后端服务RPC接口完整案例
  • 第18部分:专栏总结

    • 高性能Polaris网关整体专栏总结

《高性能Polaris网关》总体架构-第01节:高性能Polaris网关总体方案目标与架构设计

作者:冰河
星球:http://m6z.cn/6aeFbs
博客:https://binghe.site
文章汇总:https://binghe.site/md/all/all.html
源码获取地址:https://t.zsxq.com/0dhvFs5oR
课程视频:https://t.zsxq.com/m06Cx

沉淀,成长,突破,帮助他人,成就自我。

  • 本章难度:★★☆☆☆
  • 本节重点:梳理高性能Polaris网关的总体方案目标、技术选型与架构设计,从总体上理解高性能Polaris网关的方案目标、技术选型和架构设计,并从全局视角了解高性能Polaris网关的设计和架构思想,并能够将其灵活应用到自身实际项目中。
  • 课程视频:https://t.zsxq.com/m06Cx

大家好,我是冰河~~

在前面的文章中,我们梳理了高性能Polaris网关的需求和业务流程,并且对高性能Polaris网关的技术流程进行了梳理和总结。所以,不管是从业务角度,还是从技术角度,我们都大致了解了高性能Polaris网关的执行流程。接下来,就可以对高性能Polaris网关制定方案目标和进行总体架构设计了。

一、前言

相信很多有一定工作经验的小伙伴都有这样的体会,接到新的任务后,如果不做全面的需求分析、系统分析和架构设计,一上来就开始干代码,十有八九会在开发中途发现自己写的代码功能不太符合实际需求,或者突然发现某个功能有更好的实现方式,只是自己一开始没完全搞懂需求,根本没想到会有更好的实现方式。

更多的时候,想将原有的代码推倒重来,按照更优的方案来完成相应的需求任务开发,但是,此时发现时间根本来不及了,只能在原有的代码上苦苦支撑。最终,原本设想的功能完善、支持高并发、高性能、高可用和高可扩展的代码,却变成了一坨坨“屎山”。

二、本节诉求

作为系统架构师和研发人员,在充分了解网关需求,业务流程和技术流程后,就需要为网关设定方案目标,对技术方案进行选型,对网关进行总体架构设计和分层架构设计。从全局视角充分理解高性能Polaris网关的方案目标、技术选型、总体架构设计,以指导后续高性能Polaris网关的具体实现。

三、方案目标

在进行技术选型与总体架构设计之前,需要明确一个事项,就是网关无论采用哪种方案,采用哪种架构设计都需要明确这种方案的业务目标、技术目标和架构目标,并在研发过程中不断评估网关的总体性能表现,发现系统瓶颈并不断进行优化。

总体上,我们自主设计和研发的高性能Polaris网关,需要满足如下方案目标。

  • 业务目标:满足需求设计篇章中的各类需求场景。
  • 技术目标:在8c16g,千兆带宽机器下,QPS达百万级别,引入网关后,QPS和TPS的总体损耗不得高于3%,
  • 架构目标:高并发、高性能、高可用、可监控、可预警、可伸缩。

四、技术选型

在技术选型上,网关的核心部分实现不会选择Spring、SpringBoot等框架,因为我们对网关的性能要求极高,引入这些框架会影响网关的性能。对于Polaris网关来说,具体的技术选型如下所示。

  • 高性能组件:Netty、Disruptor
  • 异步交互:asynchttpclient
  • 缓存:caffeine、guava
  • 序列化:protobuf、json
  • 注册中心:Etcd、Nacos、Zookeeper

可以看到,这次网关项目的技术选型非常简单。对网关的核心实现来说,我们会选择性能非常高的组件来实现。

五、总体架构设计

高性能Polaris网关的性能之所以很高,除了核心部分不会基于Spring、SpringBoot等框架实现外,另一个重要的原因就是高性能Polaris网关有着良好的架构设计,Polaris网关的整体架构设计如图1-1所示。


在高性能Polaris网关中,我们采用微内核、插件化的架构设计,每一部分都是以插件的形式提供服务,整个网关会内置核心插件,并提供标准的SPI机制,供使用方根据自己的实际需求,可自定义需要的其他插件。

六、网关内部执行流程

查看完整文章

加入冰河技术知识星球,解锁完整技术文章、小册、视频与完整代码

在 GitHub 上编辑此页
上次更新: 2026/4/29 16:18
Contributors: binghe001
Next
第02节:高性能Polaris网关数据模型设计
阅读全文
×

扫码或搜索:冰河技术
发送:290992
即可立即永久解锁本站全部文章

星球会员
跳转链接