冰河技术
导读
♻学习路线
  • 面试必问系列

    • 面试必问
  • 架构与模式

    • Java极简设计模式
    • 实战高并发设计模式
  • Java核心技术

    • Java8新特性
    • IOC核心技术
    • JVM调优技术
  • 容器化核心技术

    • Dockek核心技术
  • 分布式存储

    • Mycat核心技术
  • 数据库核心技术

    • MySQL基础篇
  • 服务器核心技术

    • Nginx核心技术
  • 渗透核心技术

    • 渗透实战技术
  • 底层技术
  • 源码分析
  • 基础案例
  • 实战案例
  • 面试
  • 系统架构
  • Spring6核心技术
  • 分布式事务

    • 分布式事务系列视频
  • SpringBoot
  • SpringCloudAlibaba
  • 🔥AI大模型项目

    • 一站式AI智能平台
    • AI智能客服系统
    • AI智能问答系统
    • 实战AI大模型
  • 中间件项目

    • 手写高性能Redis组件
    • 手写高性能脱敏组件
    • 手写线程池项目
    • 手写高性能SQL引擎
    • 手写高性能Polaris网关
    • 手写高性能RPC项目
  • 高并发项目

    • 分布式IM即时通讯系统(新)
    • 分布式Seckill秒杀系统
    • 实战高并发设计模式
  • 微服务项目

    • 简易电商脚手架项目
  • 手撕源码

    • 手撕Spring6源码
🌍知识星球
  • 总览

    • 《书籍汇总》
  • 出版图书

    • 《深入理解高并发编程:核心原理与案例实战》
    • 《深入理解高并发编程:JDK核心技术》
    • 《深入高平行開發:深度原理&專案實戰》
    • 《深入理解分布式事务:原理与实战》
    • 《MySQL技术大全:开发、优化与运维实战》
    • 《海量数据处理与大数据技术实战》
  • 电子书籍

    • 《实战高并发设计模式》
    • 《深入理解高并发编程(第2版)》
    • 《深入理解高并发编程(第1版)》
    • 《从零开始手写RPC框架(基础篇)》
    • 《SpringCloud Alibaba实战》
    • 《冰河的渗透实战笔记》
    • 《MySQL核心知识手册》
    • 《Spring IOC核心技术》
  • 关于自己
  • 关于学习
  • 关于职场
B站
Github
导读
♻学习路线
  • 面试必问系列

    • 面试必问
  • 架构与模式

    • Java极简设计模式
    • 实战高并发设计模式
  • Java核心技术

    • Java8新特性
    • IOC核心技术
    • JVM调优技术
  • 容器化核心技术

    • Dockek核心技术
  • 分布式存储

    • Mycat核心技术
  • 数据库核心技术

    • MySQL基础篇
  • 服务器核心技术

    • Nginx核心技术
  • 渗透核心技术

    • 渗透实战技术
  • 底层技术
  • 源码分析
  • 基础案例
  • 实战案例
  • 面试
  • 系统架构
  • Spring6核心技术
  • 分布式事务

    • 分布式事务系列视频
  • SpringBoot
  • SpringCloudAlibaba
  • 🔥AI大模型项目

    • 一站式AI智能平台
    • AI智能客服系统
    • AI智能问答系统
    • 实战AI大模型
  • 中间件项目

    • 手写高性能Redis组件
    • 手写高性能脱敏组件
    • 手写线程池项目
    • 手写高性能SQL引擎
    • 手写高性能Polaris网关
    • 手写高性能RPC项目
  • 高并发项目

    • 分布式IM即时通讯系统(新)
    • 分布式Seckill秒杀系统
    • 实战高并发设计模式
  • 微服务项目

    • 简易电商脚手架项目
  • 手撕源码

    • 手撕Spring6源码
🌍知识星球
  • 总览

    • 《书籍汇总》
  • 出版图书

    • 《深入理解高并发编程:核心原理与案例实战》
    • 《深入理解高并发编程:JDK核心技术》
    • 《深入高平行開發:深度原理&專案實戰》
    • 《深入理解分布式事务:原理与实战》
    • 《MySQL技术大全:开发、优化与运维实战》
    • 《海量数据处理与大数据技术实战》
  • 电子书籍

    • 《实战高并发设计模式》
    • 《深入理解高并发编程(第2版)》
    • 《深入理解高并发编程(第1版)》
    • 《从零开始手写RPC框架(基础篇)》
    • 《SpringCloud Alibaba实战》
    • 《冰河的渗透实战笔记》
    • 《MySQL核心知识手册》
    • 《Spring IOC核心技术》
  • 关于自己
  • 关于学习
  • 关于职场
B站
Github
  • 开篇:专栏介绍

    • 开篇:分布式IM即时通讯系统正式启动
    • 面试:可以写到简历上的分布式IM即时通讯系统
  • 第01部分:需求设计

    • 第01节:为何要学习分布式IM即时通讯系统
    • 第02节:分布式IM即时通讯系统的目标与挑战
    • 第03节:分布式IM即时通讯系统功能需求与流程梳理
    • 第04节:分布式IM即时通讯系统技术流程梳理
  • 第02部分:总体架构设计

    • 第01节:分布式IM即时通讯系统总体方案目标与架构设计
    • 第02节:分布式IM即时通讯系统数据模型设计
  • 第03部分:环境搭建

    • 第01节:分布式IM即时通讯系统研发环境搭建
    • 第02节:分布式IM即时通讯系统项目工程搭建
    • 第03节:分布式IM即时通讯系统Maven私服搭建
    • 第04节:搭建并优化多节点Minio分布式文件系统
  • 第04部分:通用模型设计

    • 第01节:分布式IM即时通讯系统通用模型设计
    • 第02节:分布式IM即时通讯系统通用缓存设计
    • 第03节:混合型缓存通用模型设计与实现
    • 第04节:分布式锁通用代码设计与实现
    • 第05节:MQ消息发送通用代码设计与实现
    • 第06节:多系统共用模型与工具推送到Maven私服
    • 第07节:分布式ID生成器的设计与实现
  • 第05部分:即时通讯后端服务

    • 第01节:通用代码设计与实现
    • 第02节:自定义编解码器的设计与实现
    • 第03节:通用ChannelHanler的设计与实现
    • 第04节:登录处理器的设计与实现
    • 第05节:心跳处理器的设计与实现
    • 第06节:单聊处理器的设计与实现
    • 第07节:群聊处理器的设计与实现
  • 第06部分:即时通讯SDK

    • 第01节:发送单聊消息的流程设计与实现
    • 第02节:发送群聊消息的流程设计与实现
    • 第03节:在线状态的统一设计与实现
    • 第04节:消息监听与广播机制的设计与实现
    • 第05节:接收消息发送结果的流程设计与实现
  • 第07部分:大后端平台-通用模型

    • 第01节:领域层对象模型的设计与实现
    • 第02节:用户Session与全局异常捕获机制
    • 第03节:缓存参数过滤器的设计与实现
    • 第04节:通用拦截器规则链的设计和实现
    • 第05节:XSS漏洞校验规则的设计和实现
    • 第06节:滑动窗口IP校验规则的设计和实现
    • 第07节:资源访问校验规则的设计和实现
    • 第08节:账号安全校验规则的设计和实现
  • 第08部分:大后端平台-用户微服务

    • 第01节:用户注册与登录授权的流程设计与实现
    • 第02节:JWT Token刷新机制的流程设计与实现
    • 第03节:用户微服务常规功能的设计与实现
    • 第04节:用户微服务整合即时通讯SDK
    • 第05节:领域事件的发送与接收设计和实现
    • 第06节:用户微服务整合Dubbo的流程设计与实现
  • 第09部分:大后端平台-好友微服务

    • 第01节:好友服务常规功能的设计和实现
    • 第02节:好友微服务整合Dubbo的流程设计与实现
    • 第03节:领域事件的发送与接收设计和实现
    • 第04节:异步更新好友微服务数据的设计和实现
  • 第10部分:大后端平台-群组微服务

    • 第01节:群组微服务常规功能的设计和实现
    • 第02节:群组微服务整合Dubbo的流程设计和实现
    • 第03节:业务事件的发送与接收设计和实现
    • 第04节:异步更新群组微服务数据的设计和实现
  • 第11部分:大后端平台-消息微服务

    • 第01节:单聊消息的发送流程设计和实现
    • 第02节:群聊消息的发送流程设计和实现
    • 第03节:单聊消息的拉取流程设计和实现
    • 第04节:群聊消息的拉取流程设计和实现
    • 第05节:单聊消息的已读流程设计和实现
    • 第06节:群聊消息的已读流程设计和实现
    • 第07节:单聊消息的撤回流程设计和实现
    • 第08节:群聊消息的撤回流程设计和实现
    • 第09节:图片、文件和语音消息的设计和实现
    • 第10节:消息监听回调流程的设计和实现
  • 第12部分:大后端平台-视频通话

    • 第01节:视频通话呼叫发起流程设计和实现
    • 第02节:视频通话呼叫取消流程设计和实现
    • 第03节:视频通话呼叫失败流程设计和实现
    • 第04节:视频通话呼叫接受流程设计和实现
    • 第05节:视频通话呼叫拒绝流程设计和实现
    • 第06节:视频通话呼叫挂断流程设计和实现
    • 第07节:视频通话同步会话状态流程设计和实现
  • 第13部分:大前端UI-基础架构

    • 第01节:Node.js基础环境搭建
    • 第02节:通用基础功能设计与研发
  • 第14部分:大前端UI-用户模块

    • 第01节:注册与登录流程的设计与实现
    • 第02节:页面主体框架设计与实现
  • 第15部分:大前端UI-好友模块

    • 第01节:好友主体页面的设计与实现
    • 第02节:好友关联单聊页面的设计与实现
  • 第16部分:大前端UI-群组模块

    • 第01节:群组主体页面的设计与实现
    • 第02节:创建群组流程的设计与实现
    • 第03节:修改群组流程的设计与实现
    • 第04节:邀请好友进群流程的设计与实现
    • 第05节:群主踢人出群流程的设计与实现
    • 第06节:成员退出群组流程的设计与实现
    • 第07节:群主解散群组流程的设计与实现
    • 第08节:发送群聊消息流程的设计与实现
  • 第17部分:大前端UI-消息模块

    • 第01节:发送文字消息流程的设计与实现
    • 第02节:发送表情消息流程的设计与实现
    • 第03节:发送图片消息流程的设计与实现
    • 第04节:发送文件消息流程的设计与实现
    • 第05节:发送语音消息流程的设计与实现
    • 第06节:双向视频通话流程的设计与实现
    • 第07节:查看历史消息流程的设计与实现
    • 第08节:消息已读未读流程的设计与实现
    • 第09节:实时消息删除流程的设计与实现
    • 第10节:实时消息撤回流程的设计与实现
    • 第11节:群聊@功能流程的设计与实现
  • 第18部分:OpenAI大模型接入服务

    • 第01节:OpenAI总体对接流程架构设计
    • 第02节:OpenAI接入服务总体框架设计
    • 第03节:OpenAI领域模型与核心接口设计
    • 第04节:OpenAI大模型对接设计和实现
    • 第05节:单聊消息对接OpenAI大模型
    • 第06节:群聊消息对接OpenAI大模型
    • 第07节:扩展实现对接多种OpenAI大模型
  • 第19部分:专栏总结

    • 总结:分布式IM即时通讯系统整体专栏总结

《分布式IM系统》通用模型-第07节:分布式ID生成器的设计与实现

作者:冰河
星球:http://m6z.cn/6aeFbs
博客:https://binghe.site
文章汇总:https://binghe.site/md/all/all.html
源码获取地址:https://t.zsxq.com/0dhvFs5oR
课程视频:https://t.zsxq.com/15NxGhnII

沉淀,成长,突破,帮助他人,成就自我。

  • 本节难度:★★☆☆☆
  • 本节重点:多分布式ID生成器进行设计与实现,了解常用的分布式场景下的ID生成方案,并掌握其核心原理与优缺点,能够在实际场景下根据自身实际业务选择符合自身业务场景的分布式ID方案,并能够将其灵活应用到自身实际项目中。
  • 课程视频:https://t.zsxq.com/15NxGhnII

大家好,我是冰河~~

在分布式场景下,数据库中的自增ID不再适用。此时,就需要我们思考如何在分布式场景下实现数据的ID属性。还好业界已经提供了很多的实现方案,不用我们自己再重复造轮子了。

一、前言

在分布式IM即时通讯系统中,不管是用户的基础信息、群组数据,还是好友之间的关系数据,亦或是分布式IM即时通讯系统中的消息数据,都需要一个全局唯一并且有序的ID来唯一标识相关的数据。数据库自增主键倒是能满足在单机场景下的有序性,但是在分布式场景下就不太适用了。

二、本节诉求

考虑到分布式场景下数据的全局唯一与有序性,对分布式ID生成器进行设计与实现。重点掌握雪花算法的实现原理,并能够将其灵活应用到自身实际项目中。

三、分布式ID方案

在分布式系统中,为了唯一标识不同的数据或者对象,需要生成全局唯一的ID。分布式ID是指在分布式环境下,生成的全局唯一的ID。

在传统的单机环境下,在向数据库插入数据时,可以无需指定ID数据,直接使用数据库自增ID即可。但是在分布式环境下,这些方式不再适用,因为分布式系统可能包含多个节点,每个节点都独立生成ID会导致冲突和重复。因此,分布式ID需要考虑以下几个问题:

  • 全局唯一性:在整个分布式系统中,每个ID都应该是唯一的。
  • 有序性:ID应该具有一定的有序性,以便于排序和查询。
  • 低延迟:ID的生成速度应该足够快,不能成为系统的瓶颈。
  • 可扩展性:系统应该支持水平扩展,能够容纳更多的节点和请求。

目前,常见的分布式ID方案包括雪花算法、基于数据库自增ID、基于数据库分区的ID、基于ZooKeeper的全局唯一ID等。

  • 雪花算法(Snowflake):雪花算法是一种经典的分布式ID生成算法,它由Twitter开发并开源。它使用一个64位的整数作为ID,可以根据时间戳、机器ID和序列号来生成唯一的ID。这种方案简单、高效,并且具备良好的有序性。
  • 基于数据库自增ID:在分布式系统中,可以使用数据库的自增ID来生成唯一ID。每个节点从数据库中获取一个唯一的ID,然后进行操作。这种方案依赖于数据库的性能和可用性,但是实现相对简单。
  • 基于数据库分区的ID:在分布式系统中,可以将ID的生成和存储分散到不同的数据库分区上。每个分区使用不同的ID生成策略,例如使用数据库自增ID、雪花算法等。这样可以提高性能和并发度,减少单点故障的影响。
  • 基于ZooKeeper的全局唯一ID:ZooKeeper是一种分布式协调服务,可以用于生成全局唯一的ID。每个节点通过竞争创建ZooKeeper的顺序节点来获得唯一的ID。这种方案依赖于ZooKeeper的性能和可用性,但可以保证全局唯一性。
  • 基于UUID:UUID(Universally Unique Identifier)是一种128位的标识符,几乎可以保证全球范围内的唯一性。在分布式系统中,可以使用UUID来生成唯一ID。这种方案简单、无需中心化服务,但是UUID较长且无序。

四、雪花算法

雪花算法(Snowflake)是一种经典的分布式ID生成算法,它由Twitter开发并开源。雪花算法使用一个64位的整数作为ID,可以根据时间戳、机器ID和序列号来生成唯一的ID。具体的实现原理如下:

  • 时间戳部分记录了当前时间与计算机元年(1970年1月1日)的差值,精确到毫秒级别。
  • 机器ID是一个固定的数字,通常可以根据IP地址或者MAC地址等信息来生成。
  • 序列号是在同一毫秒内并发生成多个ID时使用的,可以用来保证ID的唯一性和有序性。
  • 在同一毫秒内,序列号会自增,当序列号达到最大值后,会等待下一毫秒再继续生成ID。
  • 如果在同一毫秒内有多个线程或进程同时生成ID,会通过竞争机制来获取序列号,保证唯一性。

接下来,看一下雪花算法生成的64位ID的结构,如图7-1所示。


  • 1bit,不用,因为二进制中最高位是符号位,1表示负数,0表示正数。生成的id一般都是用整数,所以最高位固定为0。
  • 41bit时间戳,毫秒级。可以表示的数值范围是 (2^41-1),转换成单位年则是69年。
  • 10bit工作机器ID,用来表示工作机器的ID,包括5位datacenterId和5位workerId。
  • 12bit序列号,用来记录同毫秒内产生的不同id,12位可以表示的最大整数为4095,来表示同一机器同一时间截(毫秒)内产生的4095个ID序号。

五、编码实现

查看完整文章

加入冰河技术 知识星球,解锁完整技术文章、小册、视频与完整代码

在 GitHub 上编辑此页
上次更新: 2026/4/29 16:18
Contributors: binghe001
Prev
第06节:多系统共用模型与工具推送到Maven私服
阅读全文
×

扫码或搜索:冰河技术
发送:290992
即可立即永久解锁本站全部文章

星球会员
跳转链接