冰河技术
导读
♻学习路线
  • 面试必问系列

    • 面试必问
  • 架构与模式

    • Java极简设计模式
    • 实战高并发设计模式
  • Java核心技术

    • Java8新特性
    • IOC核心技术
    • JVM调优技术
  • 容器化核心技术

    • Dockek核心技术
  • 分布式存储

    • Mycat核心技术
  • 数据库核心技术

    • MySQL基础篇
  • 服务器核心技术

    • Nginx核心技术
  • 渗透核心技术

    • 渗透实战技术
  • 底层技术
  • 源码分析
  • 基础案例
  • 实战案例
  • 面试
  • 系统架构
  • Spring6核心技术
  • 分布式事务

    • 分布式事务系列视频
  • SpringBoot
  • SpringCloudAlibaba
  • 🔥AI大模型项目

    • 一站式AI智能平台
    • AI智能客服系统
    • AI智能问答系统
    • 实战AI大模型
  • 中间件项目

    • 手写高性能Redis组件
    • 手写高性能脱敏组件
    • 手写线程池项目
    • 手写高性能SQL引擎
    • 手写高性能Polaris网关
    • 手写高性能RPC项目
  • 高并发项目

    • 分布式IM即时通讯系统(新)
    • 分布式Seckill秒杀系统
    • 实战高并发设计模式
  • 微服务项目

    • 简易电商脚手架项目
  • 手撕源码

    • 手撕Spring6源码
🌍知识星球
  • 总览

    • 《书籍汇总》
  • 出版图书

    • 《深入理解高并发编程:核心原理与案例实战》
    • 《深入理解高并发编程:JDK核心技术》
    • 《深入高平行開發:深度原理&專案實戰》
    • 《深入理解分布式事务:原理与实战》
    • 《MySQL技术大全:开发、优化与运维实战》
    • 《海量数据处理与大数据技术实战》
  • 电子书籍

    • 《实战高并发设计模式》
    • 《深入理解高并发编程(第2版)》
    • 《深入理解高并发编程(第1版)》
    • 《从零开始手写RPC框架(基础篇)》
    • 《SpringCloud Alibaba实战》
    • 《冰河的渗透实战笔记》
    • 《MySQL核心知识手册》
    • 《Spring IOC核心技术》
  • 关于自己
  • 关于学习
  • 关于职场
B站
Github
导读
♻学习路线
  • 面试必问系列

    • 面试必问
  • 架构与模式

    • Java极简设计模式
    • 实战高并发设计模式
  • Java核心技术

    • Java8新特性
    • IOC核心技术
    • JVM调优技术
  • 容器化核心技术

    • Dockek核心技术
  • 分布式存储

    • Mycat核心技术
  • 数据库核心技术

    • MySQL基础篇
  • 服务器核心技术

    • Nginx核心技术
  • 渗透核心技术

    • 渗透实战技术
  • 底层技术
  • 源码分析
  • 基础案例
  • 实战案例
  • 面试
  • 系统架构
  • Spring6核心技术
  • 分布式事务

    • 分布式事务系列视频
  • SpringBoot
  • SpringCloudAlibaba
  • 🔥AI大模型项目

    • 一站式AI智能平台
    • AI智能客服系统
    • AI智能问答系统
    • 实战AI大模型
  • 中间件项目

    • 手写高性能Redis组件
    • 手写高性能脱敏组件
    • 手写线程池项目
    • 手写高性能SQL引擎
    • 手写高性能Polaris网关
    • 手写高性能RPC项目
  • 高并发项目

    • 分布式IM即时通讯系统(新)
    • 分布式Seckill秒杀系统
    • 实战高并发设计模式
  • 微服务项目

    • 简易电商脚手架项目
  • 手撕源码

    • 手撕Spring6源码
🌍知识星球
  • 总览

    • 《书籍汇总》
  • 出版图书

    • 《深入理解高并发编程:核心原理与案例实战》
    • 《深入理解高并发编程:JDK核心技术》
    • 《深入高平行開發:深度原理&專案實戰》
    • 《深入理解分布式事务:原理与实战》
    • 《MySQL技术大全:开发、优化与运维实战》
    • 《海量数据处理与大数据技术实战》
  • 电子书籍

    • 《实战高并发设计模式》
    • 《深入理解高并发编程(第2版)》
    • 《深入理解高并发编程(第1版)》
    • 《从零开始手写RPC框架(基础篇)》
    • 《SpringCloud Alibaba实战》
    • 《冰河的渗透实战笔记》
    • 《MySQL核心知识手册》
    • 《Spring IOC核心技术》
  • 关于自己
  • 关于学习
  • 关于职场
B站
Github
  • 专栏介绍

    • 开篇:分布式高性能网关项目正式启动
    • 造轮子:大厂为何都要自研API网关
  • 第01部分:需求设计

    • 第01节:为何要学习高性能Polaris网关
    • 第02节:高性能Polaris网关的目标与挑战
    • 第03节:高性能Polaris网关需求与流程梳理
    • 第04节:高性能Polaris网关技术流程梳理
  • 第02部分:总体架构设计

    • 第01节:高性能Polaris网关总体方案目标与架构设计
    • 第02节:高性能Polaris网关数据模型设计
  • 第03部分:环境搭建

    • 第01节:高性能Polaris网关研发环境搭建
    • 第02节:高性能Polaris网关项目工程搭建
    • 第03节:高性能Polaris网关Maven私服搭建
  • 第04部分:通用模型设计

    • 第01节:请求与响应模型的顶层接口设计
    • 第02节:请求模型的顶层接口实现类设计
    • 第03节:响应模型的顶层接口实现类设计
    • 第04节:调用链路顶层接口与抽象类设计
    • 第05节:调用链路顶层接口的实现类设计
    • 第06节:网关配置规则模型实现类设计
    • 第07节:服务定义与实例模型实现类设计
    • 第08节:服务配置缓存接口与实现类模型设计
    • 第09节:网关上下文属性顶层接口与抽象类设计
    • 第10节:网关上下文属性工厂与实现类设计
    • 第11节:网关上下文顶层抽象接口设计
    • 第12节:网关上下文顶层抽象类设计
    • 第13节:网关上下文核心实现类设计
  • 第05部分:通用过滤器设计

    • 第01节:网关顶级核心过滤器接口设计
    • 第02节:网关请求与响应核心工厂类的设计与实现
    • 第03节:网关过滤器两大顶级抽象类设计与实现
    • 第04节:网关通用抽象过滤器链的设计与实现
    • 第05节:网关过滤器通用工厂类的设计与实现
    • 第06节:网关过滤器适配自定义SPI提高扩展性
    • 第07节:基于自定义SPI实现负载均衡过滤器
    • 第08节:基于自定义SPI实现超时配置过滤器
    • 第09节:基于自定义SPI实现HTTP过滤器
    • 第10节:基于自定义SPI实现RPC过滤器
    • 第11节:基于自定义SPI实现指标分析过滤器
    • 第12节:基于自定义SPI实现Mock过滤器
    • 第13节:基于自定义SPI实现灰度过滤器
    • 第14节:基于自定义SPI实现错误处理过滤器
  • 第06部分:通用处理器设计

    • 第01节:通用核心处理器的设计与实现
    • 第02节:基于disruptor设计和实现BatchEvent模式Holder
    • 第03节:基于disruptor设计和实现BatchEvent模式缓冲队列
    • 第04节:MPMC模式缓冲队列Condition接口和ThreadWait类的设计与实现
    • 第05节:MPMC模式缓冲队列自定义抽象Condition类的设计和实现
    • 第06节:MPMC模式缓冲队列自定义抽象自旋Condition的设计和实现
    • 第07节:MPMC模式缓冲队列自定义抽象等待Condition的设计和实现
    • 第08节:MPMC模式缓冲队列自定义AtomicLong的设计和实现
    • 第09节:MPMC模式缓冲队列自定义队列容量的设计和实现
    • 第10节:MPMC模式缓冲队列核心并发队列接口的设计和实现
    • 第11节:MPMC模式缓冲队列自定义并发环形队列的设计和实现
    • 第12节:MPMC模式缓冲队列自定义并发阻塞队列的设计和实现
    • 第13节:基于自定义SPI扩展实现BatchEvent模式处理器
    • 第14节:基于自定义SPI扩展实现MPMC模式处理器
  • 第07部分:核心容器设计

    • 第01节:HTTP处理器核心接口的设计与实现
    • 第02节:服务端核心处理器的设计与实现
    • 第03节:服务端连接管理器的设计与实现
    • 第04节:基于Netty的服务端整体设计与实现
    • 第05节:基于Netty的客户端整体设计与实现
  • 第08部分:核心启动流程

    • 第01节:核心启动容器类的设计与实现
    • 第02节:核心启动加载流程的设计与实现
  • 第09部分:牛刀小试

    • 第01节:实战通过高性能Polaris网关访问后端服务
  • 第10部分:注册中心

    • 第01节:注册中心通用SPI接口的设计与定义
    • 第02节:基于自定义SPI扩展实现Nacos注册中心
    • 第03节:基于自定义SPI扩展实现Zookeeper注册中心
    • 第04节:基于自定义SPI扩展实现Etcd注册中心(作业篇)
    • 第05节:基于自定义SPI扩展实现Consul注册中心(作业篇)
    • 第06节:网关启动容器整合注册中心实现服务注册与发现
  • 第11部分:负载均衡

    • 第01节:负载均衡通用SPI接口与顶级抽象类的设计与实现
    • 第02节:基于SPI扩展随机算法负载均衡策略
    • 第03节:基于SPI扩展加权随机算法负载均衡策略
    • 第04节:基于SPI扩展轮询算法负载均衡策略
    • 第05节:基于SPI扩展加权轮询算法负载均衡策略
    • 第06节:基于SPI扩展哈希算法负载均衡策略
    • 第07节:基于SPI扩展加权哈希算法负载均衡策略
    • 第08节:基于SPI扩展源IP地址哈希算法负载均衡策略
    • 第09节:基于SPI扩展源IP地址加权哈希算法负载均衡策略
    • 第10节:基于SPI扩展一致性Hash算法负载均衡策略
  • 第12部分:增强型负载均衡

    • 第01节:基于SPI扩展增强型加权随机算法负载均衡策略
    • 第02节:基于SPI扩展增强型加权轮询算法负载均衡策略
    • 第03节:基于SPI扩展增强型加权哈希算法负载均衡策略
    • 第04节:基于SPI扩展增强型源IP哈希算法负载均衡策略
    • 第05节:基于SPI扩展增强型一致性哈希算法负载均衡策略
  • 第13部分:实战负载均衡

    • 第01节:实战通过SPI加载负载均衡策略访问后端服务
  • 第14部分:配置中心

    • 第01节:配置中心通用SPI接口的设计与定义
    • 第02节:基于SPI扩展实现Nacos配置中心
    • 第03节:基于SPI扩展实现Zookeeper配置中心
    • 第04节:基于SPI扩展实现Etcd配置中心
    • 第05节:基于SPI扩展实现Consul配置中心
    • 第06节:网关启动容器整合配置中心实现服务配置
  • 第15部分:热插拔插件

    • 第01节:网关热插拔插件SPI接口与核心工厂类设计与实现
    • 第02节:网关启动容器整合热插拔插件的设计与实现
  • 第16部分:客户端SDK

    • 第01节:网关客户端SDK注解与协议的设计与定义
    • 第02节:网关客户端扫描器与抽象注册中心实现类设计
    • 第03节:网关客户端HTTP协议SDK的设计和实现
    • 第04节:网关客户端RPC协议SDK的设计和实现
    • 第05节:网关客户端WebSocket协议SDK的设计和实现
  • 第17部分:完整实战实例

    • 第01节:网关访问后端服务HTTP接口完整案例
    • 第02节:网关访问后端服务RPC接口完整案例
  • 第18部分:专栏总结

    • 高性能Polaris网关整体专栏总结

《高性能Polaris网关》通用处理器-第09节:MPMC模式缓冲队列自定义队列容量的设计和实现

作者:冰河
星球:http://m6z.cn/6aeFbs
博客:https://binghe.site
文章汇总:https://binghe.site/md/all/all.html
源码获取地址:https://t.zsxq.com/0dhvFs5oR

沉淀,成长,突破,帮助他人,成就自我。

  • 本节难度:★★☆☆☆
  • 本节重点:对MPMC模式缓冲队列自定义队列容量进行设计与实现,结合JDK中的队列容量设计理解高性能网关的队列容量设计。重点掌握整体调用链路的设计思路和设计方法,并能够将其灵活应用到自身实际项目中。

在网关的整体架构设计中,在基于MPMC实现缓冲队列时,为了更好的提升网关的性能,我们对缓存行进行了自定义处理,为此,专门设计了自定义的AtomicLong类。为了更好的提升网关MPMC模式队列的性能,接下来,会对网关的队列容量进行单独的设计和实现。

有JDK中各种队列相关的知识,大家可以阅读冰河出版的《深入理解高并发编程:核心原理与案例实战》和《深入理解高并发编程:JDK核心技术》。

一、背景

在网关的整个架构设计中,我们引入了处理器,由处理器来驱动过滤器链的执行,也对网关处理器的顶层接口和核心实现类进行了设计和实现。同时,基于disruptor和Holder模式对BatchEvent模式的缓冲队列进行了设计和实现。但对于一个可以实际投入使用的网关来说,只是实现了BatchEvent模式的缓冲队列是远远不够的。所以,我们着手设计和实现MPMC模式的缓冲队列。

在设计和实现MPMC缓冲队列的过程中,已经对MPMC模式缓冲队列的Condition接口和ThreadWait类进行了设计和实现,并且对抽象Condition类和抽象自旋与等待Condition类进行了设计和实现。为了更好的提升网关的性能,我们又结合网关对自定义的AtomicLong进行了设计实现。接下来,为了更好的提升网关MPMC模式队列的性能,对网关的队列容量进行单独的设计和实现。

二、本节重点

对MPMC模式缓冲队列自定义队列容量进行设计与实现,结合JDK中的队列容量设计理解高性能网关的队列容量设计。重点掌握整体调用链路的设计思路和设计方法,并能够将其灵活应用到自身实际项目中。

三、核心类设计

自定义队列容量类的类图如图9-1所示。


可以看到,自定义队列容量主要由QueueCapacity类实现。

注意:这里重点给大家展示通用核心处理器,其他代码的实现细节,大家可以自行到本节对应的源码分支进行查看,这里不再赘述。

四、编码实现

本节,就对MPMC模式缓冲队列自定义队列容量类进行编码实现,其他代码的实现细节,大家可以自行到本节对应的源码分支进行查看,这里不再赘述。

QueueCapacity类是实现的自定义队列容量类,在自定义队列容量类QueueCapacity中,主要提供获取队列容量的方法,同时,会对队列的容量做一定的限制条件,也就是队列的容量需要是2的倍数。这样,能够更好的使用缓存行提升性能,同时,队列扩容时也能提升一定的性能。

源码详见:polaris-processor-api工程下的io.binghe.polaris.processor.api.concurrent.queue.mpmc.capacity.QueueCapacity。

查看完整文章

加入冰河技术知识星球,解锁完整技术文章、小册、视频与完整代码

在 GitHub 上编辑此页
上次更新: 2026/4/29 16:18
Contributors: binghe001
Prev
第08节:MPMC模式缓冲队列自定义AtomicLong的设计和实现
Next
第10节:MPMC模式缓冲队列核心并发队列接口的设计和实现
阅读全文
×

扫码或搜索:冰河技术
发送:290992
即可立即永久解锁本站全部文章

星球会员
跳转链接