网关架构:知乎千万级长连接网关架构

知乎千万级长连接网关架构

知乎长连接网关要服务的不是单一业务,而是多个 App 和十几个形态各异的长连接业务。因此它的核心目标不是“为某个业务做一套专用长连接”,而是做一套共享、可水平扩展、业务解耦的通用长连接系统。

一、发布订阅模型

多客户端、多业务后端之间如果直接耦合,协议升级和业务变更会互相影响。知乎采用发布订阅模型:

  • 客户端和业务后端只约定 Topic;
  • 网关不关心业务协议和序列化方式;
  • 消息以二进制数据传递。

订阅 topic

订阅 topic

发布消息

发布消息

客户端 1

长连接 Broker

客户端 2

业务后端 1

Kafka

业务后端 2

二、权限控制

发布订阅模型解耦了业务协议,但还需要控制客户端对 Topic 的访问权限。网关无法知道某个 Live 是否已付费,这类业务状态只有业务后端知道。因此 ACL 支持回调鉴权:

  • 配置 Topic 的订阅/发布动作通过 HTTP 回调给业务后端;
  • 业务后端返回是否允许。

对于只需要当前用户私有 Topic 的场景,则通过 Topic 模板变量降低接入成本。例如 Topic 中包含用户名变量,网关可以独立判断是否允许用户订阅自己的 Topic。

三、消息可靠性

TCP 保证传输顺序,但不能解决客户端 Crash、业务异常、连接中断造成的数据丢失。知乎实现了回执和重传:

客户端Broker业务后端客户端Broker业务后端alt[未收到 ACK]下发消息推送消息并暂存未确认队列ACK删除未确认消息重新发送

四、系统架构

设计优先考虑可靠性、水平扩展、依赖组件成熟度和简单性。系统拆成四个组件:

组件技术职责
接入层OpenResty负载均衡、会话保持
Broker容器化服务协议解析、认证鉴权、发布订阅
会话存储Redis持久化会话和未确认消息
消息枢纽Kafka业务后端与 Broker 之间解耦和削峰

客户端

OpenResty 接入层

Broker 1

Broker 2

Redis

Kafka

业务后端

接入层使用 Nginx preread 机制,读取客户端第一个报文中的客户端标识,再做一致性 Hash,保证同一个客户端稳定路由到同一个 Broker。这比按来源 IP Hash 更均匀,也能在网络切换后保持会话。

五、海量数据发布

Broker 根据路由配置发布到 Kafka Topic,同时根据订阅配置消费 Kafka 下发消息。路由规则和订阅规则分离后,可以组合出四种场景:

  1. 只发布不消费:数据上报;
  2. 发布后也消费:普通即时通讯;
  3. 只消费不下发:纯推送;
  4. 路由到一个 Topic,从另一个 Topic 消费:过滤或预处理。

这种组合足够覆盖绝大多数消息流转场景。

六、会话与 QoS

重要 Topic 消息会被标记 QoS 1。Broker 将消息写入 Redis 未确认队列后下发,收到客户端 ACK 再删除。这样单个 Broker 宕机后,客户端重连到其他 Broker 也能恢复 Session 数据。

订阅关系如果使用单个全局 HashMap 加锁,锁冲突会非常严重。知乎通过分片 HashMap 降低锁粒度:创建数百个 HashMap,按 Key Hash 取模后再操作,把全局锁分散到多把锁。

下发侧参考 TCP 滑动窗口设计并行发送机制:

滑动窗口

消息 1

消息 2

消息 3

等待 ACK

等待 ACK

等待 ACK

正常场景下基于 TCP 的顺序性,无需逐条重试;只有重连后才对窗口内未确认消息重发,客户端保留窗口大小缓冲区去重。

七、总结

知乎长连接网关把协议设计、权限控制、可靠传输、水平扩展和会话持久化拆开处理。发布订阅解决业务解耦,Kafka 解决内部消息枢纽和削峰,Redis 解决会话持久化,分片锁和滑动窗口解决性能与吞吐。

相关新闻

STM32F407单相DQ锁相+PWM整流实时控制实战

STM32F407单相DQ锁相+PWM整流实时控制实战

简介:本资源是针对2022年全国大学生电子设计竞赛A题‘单相交流电子负载’的完整嵌入式实现方案,面向STM32初学者及电赛备赛学生,聚焦单相PWM整流控制中的核心难点——高精度锁相环设计。方案基于STM32F407VET6主控,采用STM32CubeM…

2026/10/20 11:09:04 阅读更多 →
蒙特卡洛法在电力系统状态估计与风险评估中的MATLAB实现

蒙特卡洛法在电力系统状态估计与风险评估中的MATLAB实现

简介:已有307人学习的这份Matlab资源,聚焦蒙特卡洛法在电力系统状态估计与风险评估中的应用,适合电力系统研究人员、运行工程师及电气专业高年级学生使用。资源从建模出发,覆盖节点电压、线路潮流等状态量的最可能估计&#xff0c…

2026/10/20 11:08:03 阅读更多 →
KernelSU meta-overlayfs 元模块快速安装与验收清单:让模块覆盖 system 真正生效

KernelSU meta-overlayfs 元模块快速安装与验收清单:让模块覆盖 system 真正生效

KernelSU meta-overlayfs 元模块快速安装与验收清单:让模块覆盖 system 真正生效 【免费下载链接】KernelSU A Kernel based root solution for Android 项目地址: https://gitcode.com/GitHub_Trending/ke/KernelSU 给 KernelSU 装上元模块(负责…

2026/10/20 11:08:03 阅读更多 →

最新新闻

MCP协议驱动智能体底座架构设计:从插件思维到接口思维

MCP协议驱动智能体底座架构设计:从插件思维到接口思维

1. 从“插件思维”到“接口思维”的认知跃迁大多数人第一次接触MCP(Model Context Protocol,模型上下文协议)时,脑子里蹦出来的第一个词就是“插件系统”。这也不奇怪,毕竟它的外在表现确实像插件:你写一个…

2026/10/20 12:45:32 阅读更多 →
从零搭建React企业级应用架构:REA分层设计与工程实践

从零搭建React企业级应用架构:REA分层设计与工程实践

1. 项目概述先说结论:REA不是某个框架的名字,也不是一个开源库的缩写,而是我近期在团队内部从零搭建并持续打磨的一套 React 企业级应用架构方案。全称我习惯叫它 React Enterprise Architecture,有人问为什么不叫别的名字&#x…

2026/10/20 12:45:32 阅读更多 →
Matlab实现贝叶斯优化Transformer多输入单输出时序预测

Matlab实现贝叶斯优化Transformer多输入单输出时序预测

最近整理时序预测这块的工作时,我发现一个问题:很多人一上来就搭LSTM,序列一长效果就拉胯;换了Transformer吧,又开始为超参数头疼。手工调参既累又不稳定,尤其是当输入特征有好几个、预测目标只有一个的时候…

2026/10/20 12:45:32 阅读更多 →
告别重复办公!OpenClaw 3.1.0 本地 AI 智能体部署实战

告别重复办公!OpenClaw 3.1.0 本地 AI 智能体部署实战

📖 前言 本文面向 Windows 系统用户,系统梳理 OpenClaw 的标准化部署流程。全程无需输入任何命令行,所有操作均依托可视化向导完成,即便是零基础用户也能独立走完整套部署。文中同时汇总了高频报错的对应解决方案,力求…

2026/10/20 12:45:32 阅读更多 →
Context-Mode是什么?一文讲透上下文模式的三种落地形态

Context-Mode是什么?一文讲透上下文模式的三种落地形态

最近在给某智能助手做效果调优时,我天天被一个词轰炸:context-mode。测试同学说"上下文模式下的记忆老丢",后端同事说"异步线程里 context 没传过去",模型侧的人又说"提示词里的 context 结构得调整&quo…

2026/10/20 12:45:32 阅读更多 →
副业内容创业成本优化指南:小说、漫画、漫剧的降本增效实战

副业内容创业成本优化指南:小说、漫画、漫剧的降本增效实战

1. 副业内容创业的成本困局与破局思路1.1 为什么小说、漫画、漫剧成了副业热门赛道这两年身边搞副业的朋友越来越多,我观察到一个很明显的趋势:以前大家聊副业,张口就是开店、带货、跑腿,现在聊得最多的变成了内容创作。小说、漫画…

2026/10/20 12:44:31 阅读更多 →

日新闻

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
ESP32舵机控制指南:原理、多路驱动与避坑实战

ESP32舵机控制指南:原理、多路驱动与避坑实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
位移法实现一阶低通滤波:单片机ADC采样降噪实战

位移法实现一阶低通滤波:单片机ADC采样降噪实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/20 10:02:13 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/19 17:32:41 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/20 2:50:50 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 10:02:08 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:17 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:45 阅读更多 →