刚经历了一次让人印象深刻的线上事故某推送网关在业务高峰期整体带宽吃到接近上限单个连接的数据还能正常处理但新连接进来之后要么握手阶段超时要么连进来以后迟迟拿不到响应。更诡异的是已经建立的长连接里一部分心跳正常一部分数据链路却像被冻住了一样等了大半天都不动。刚开始以为是连接数太多导致文件描述符耗尽结果一看连接数远没到上限以为是内存泄漏结果内存曲线虽然涨得快GC之后又能降下去。折腾了一天才意识到这根本不是连接数的问题也不是单纯的内存问题而是带宽饱和场景下连接处理链路里多个环节共同失效导致的。这个题目我想认真拆一拆Netty在带宽饱和场景下连接处理到底该怎么设计、怎么调、怎么排查。整篇文章不会只贴几个参数就完事我会把水线机制、autoRead、连接接入限流、业务线程隔离、环境监控这些串起来讲清楚它们各自解决什么问题以及我认为最稳的落地方案。无论你是做网关、做长连接推送、做文件传输还是做实时消息系统只要你的服务有大量TCP长连接这篇文章应该能帮你少踩几个坑。1. 先聊清楚带宽饱和的时候连接处理到底难在哪里1.1 带宽饱和和连接处理是什么关系先说一个很多人容易忽略的事实带宽饱和并不是“所有连接都变慢”这么简单。带宽是共享资源当链路利用率接近上限时最先出现的是丢包率升高、TCP重传增加、RTT变大。这些现象会传导到连接层表现成各种让人挠头的症状。举一个更具体的例子。假设你的服务器出网带宽是1Gbps某个业务高峰期已经跑到950Mbps这时候有一条新连接发起三次握手。三次握手的SYN包和SYN-ACK包虽然很小但同样要走这条已经接近满负荷的链路。如果链路拥塞SYN-ACK在传输过程中丢了客户端就会一直等等到超时后才重试。从业务方的视角看就是“服务端连不上了”。这个问题和数据量大小没有必然关系。就算业务面平均每个包只有几十字节只要带宽饱和这些控制面小包一样会被拥塞拖死。所以你会看到一种矛盾现象明明服务器CPU、内存都很空闲连接数也没到上限但客户端就是感觉“服务端没有响应”。还有一类典型表现带宽饱和后TCP的接收窗口和发送窗口会动态缩小。接收方如果来不及消费数据会通告更小的窗口发送方就只能停等。这种窗口收缩如果持续下去连接就会进入一种“半死不活”的状态——TCP层还连着应用层却没有数据流动。心跳包如果走同一条链路可能也被影响心跳包如果走另一条独立链路就可能出现“心跳正常、业务数据不动”的诡异组合。1.2 你以为的连接数问题很多是背压问题我在处理这类问题时发现大家第一反应往往是“限制连接数”。这个方向不能说错但它不是最核心的。带宽饱和场景下真正需要解决的是背压——也就是说生产者生产数据的速度超过了消费者消费数据的速度而你又没有一套机制把这种压力正确地传导回去。TCP本身是有背压机制的接收窗口满了就不收发送方自然就会停。但这个机制在网络层生效到了Netty这一层如果你不配合它它就很难发挥作用。Netty替你维护了一个出站缓冲区也就是outboundBuffer。业务代码往里写数据底层的socketChannel负责把数据发出去。如果业务代码写得太快、网卡发不出去这些数据就会在outboundBuffer里堆积。这个堆积是有限度的吗严格来说Netty给它设置了上限——就是我们常说的写缓冲水位。但问题在于很多人上线时根本没有调过这个水位用的还是默认值。默认的低水位是32KB高水位是64KB。这个值对于某些小报文场景是够用的但对于大消息、高并发、高带宽利用率的场景往往会导致两种问题高水位太低isWritable频繁变成false业务层误以为系统过载高水位设得太高或者干脆没有监控导致缓冲区积压了几十MB甚至上百MB的内存。这些不是连接数问题是背压没有正确设计的问题。1.3 解题框架接入层、传输层、业务层分层治我后来总结了一个比较实用的处理框架就是遇到带宽饱和不要试图用一个参数解决所有问题而是把问题拆到三个层面逐层治理接入层控制新连接的进入速度和数量避免连接洪峰把accept队列打满传输层利用Netty的水线、autoRead、空闲检测这些机制保证I/O线程不会因为背压而堆积内存业务层业务处理和I/O线程隔离可以限流、可以排队、可以丢弃但不能阻塞EventLoop。这个框架的核心思想是把保护I/O线程放在第一位。只要I/O线程不被打死连接就能被正常处理只要连接能被正常处理带宽饱和带来的问题就只是性能问题而不是可用性问题。2. Netty里几个容易被忽略的背压和水线机制2.1 写缓冲高水位与低水位Netty的写缓冲水位机制源码里对应的是WriteBufferWaterMark。它有两个值low和high。当你通过Channel写数据时Netty会维护一个pendingWriteBytes的计数也就是当前还没发出去的字节数。当pendingWriteBytes超过high值时channel.isWritable()会变成false当pendingWriteBytes降到low值以下时channel.isWritable()会恢复true。这个机制本身很简单但怎么用好它很多文档并没有讲透。关键点在于isWritable()不是用来“告知你已经出问题”的而是用来“在出问题前调整业务行为”的。正确用法是在业务代码准备写数据之前先判断一下channel.isWritable()如果已经是false就不要继续往这个连接上写数据要么排队要么丢弃要么做一些降级处理。我在一个文件传输系统里见过这样的问题业务线程从数据库里拉了一批文件路径然后逐个往channel里写文件内容。文件不大每个几百KB但数量很多。因为完全没有判断isWritable高并发下outboundBuffer里的pendingWriteBytes一路涨到了几百MB。最后是怎么发现的不是通过监控是因为某台机器内存告警。这个问题的解法比较简单写之前判断isWritable如果不可写就先把文件对象放到一个带容量上限的队列里等channel恢复可写后再继续。也可以用ChannelFutureListener在write操作完成后再写下一个但这个做法更接近流控吞吐会受影响。水位值到底怎么设置我见过不少人问水位值设成多少合适我的答案是不要拍脑袋定先算一个基准值再根据压测结果调整。可以把链路容量套用到公式里也就是带宽延迟积。举个例子假设你的内网RTT大约是5ms带宽是1Gbps那么链路里能同时容纳的数据量大约是 1Gbps × 5ms 1,000,000,000bit × 0.005s 5,000,000bit ≈ 625KB。这意味着如果你的高水位远大于625KB那么在带宽打满的情况下onBuffer里可能攒下大量超出链路容量的数据这些数据只能堆在内存里。我还见过有人把高水位设置到10MB单条连接最多就可能囤10MB如果有1万条连接同时打满那结果的数学谁都清楚。我的建议是对于大消息、高带宽业务先按带宽延迟积估算一个高水位然后压测验证。常见取值是几百KB到几MB这个区间相对安全。小报文业务建议把高水位适当降低可以减少内存浪费和延迟波动。另外要留意的是Netty的isWritable变化是“跨过高水位才是false降到低水位才是true”中间有一段滞回区间。不要在高水位边缘反复横跳时做太多复杂逻辑否则可能引发抖动。2.2 autoRead关闭与恢复Netty的ChannelConfig里有一个autoRead选项默认是true。很多初学者对这个选项的理解是“自动读数据”实际上它更准确的理解是当autoRead为true时通道一旦可读Netty就会主动触发读操作当autoRead为false时Netty只会接收已经到达的事件但不会主动向内核申请更多数据。这个机制在做背压时非常有用。如果你的下游处理能力有限但又不想靠TCP窗口来传导压力可以通过关闭autoRead来暂停从socket里读取数据。数据还留在内核的socket接收缓冲区里不进入Netty的用户态内存压力被挡在更早的阶段。我记得有一个消息转发服务它的上游是海量消息的生产方下游是消费能力有限的后端。消息进入Netty后要经过解码、鉴权、业务处理、转发几个环节一旦后端响应变慢消息就会在pipeline里堆积内存很快就满了。后来做了这样一个改造在业务处理完成之前先调用channel.config().setAutoRead(false)等处理完再恢复true。这样一旦处理速度跟不上Netty就会停止读取新数据消息堆积在接收缓冲区里内存压力大幅下降。关闭autoRead的注意事项这个方案有个很阴险的副作用如果你在处理流程里设置了autoReadfalse但某个异常分支忘了恢复true那么这个连接就会静默卡死表现为“连接还在但不再收到任何数据”。排查起来很费劲因为没有任何报错心跳也可能不受影响——心跳走的是另一个周期任务。我建议的做法是用finally块统一恢复autoRead如果处理流程较长用一个专门的flag标记当前是否可读避免重复调用setAutoRead加一个定时任务检查“最近一次读取时间”和“autoRead标志”如果发现长时间没有读且标志为false就强制恢复并打日志。“连接卡死”这个坑我在实际项目中至少踩过两次每次都要靠人肉排查很久后来查出来都是autoRead没恢复。2.3 ChannelOption参数选型与建议值Netty的ChannelOption很多但带宽饱和场景下最值得关注的几个我整理成了一张表参数作用我的建议SO_BACKLOG全连接队列大小结合系统somaxconn设置一般1024左右TCP_NODELAY关闭Nagle算法true减少小报文延迟SO_KEEPALIVETCP层心跳可以开但别依赖它做业务健康检查ALLOCATOR缓冲分配器使用PooledByteBufAllocator.DEFAULTWRITE_BUFFER_WATER_MARK写缓冲水位按带宽延迟积计算不要拍脑袋AUTO_READ自动读取默认true即可必要时在代码里动态调整这里要单独说一下SO_BACKLOG。它控制的是TCP全连接队列的大小不是半连接队列。如果accept速度跟不上连接建立速度全连接队列会堆满此时新的TCP连接会直接被内核拒绝或者丢弃。很多人在应用层限制连接数但忽略了SO_BACKLOG太小导致高并发下连接建立本身就失败。合理做法是用十几个连接压测一下观察全连接队列溢出情况然后相应调SO_BACKLOG。同时注意系统参数net.core.somaxconn的限制如果内核只允许128你设置1024也没用需要同步调整系统配置。2.4 动态背压的落地做法把水线和autoRead结合起来的做法我管它叫“动态背压”。核心思路是不要等到内存爆了才反应而是通过isWritable作为信号实时调整业务处理速度。我在网关项目里落地过一个比较实用的方案逻辑大概是这样的每个连接维护一个“可写状态”标志isWritable变化时通过channelWritabilityChanged事件更新业务处理前先检查这个标志如果不可写就停止往这个连接写数据把消息放入一个带容量上限的队列如果队列也满了就直接丢弃消息并记录监控指标或者返回一个明确的错误给客户端当isWritable恢复true之后从队列里继续写积压的消息。这个方案的收益是内存占用基本稳定不会随着带宽饱和而无限上涨代价是消息可能延迟或丢弃需要业务方接受这种降级策略。如果你不想做这么复杂的自定义逻辑可以考虑Netty自带的ChannelTrafficShapingHandler它支持对读写速率做限制。它在内部帮你看流量但它在带宽饱和场景下更多是“人肉限速”不如基于isWritable的动态策略更贴合实际瓶颈。3. 连接接入层的实操限流、拒连与优雅关闭3.1 限制连接数的几种姿势带宽饱和时限制连接数是有必要的但要搞清楚限的是哪个环节。第一种方式是在设置ServerBootstrap时限制accept队列。这种方式管的是“内核层能容纳多少pending连接”它的作用是防止连接洪峰瞬间把内核队列打满但它管不了已经accept进来、正在被业务处理的连接。所以它只能算第一道防线。第二种方式是在pipeline的channelActive事件里做限制。当连接建立成功Netty回调channelActive时通过一个计数器判断当前连接数是否达到上限。如果达到就直接调用ctx.close()关闭然后记录日志。这种方式控制的是“应用层可见的连接数”能精确限制但有一个小问题从TCP三次握手完成到channelActive回调之间连接已经在内核和Netty那边花了一些资源如果限流发生在channelActive这些资源已经白白消耗了。要想更早限制可以在ServerBootstrap的childHandler之前使用ChannelInitializer的initChannel里判断。不过说实话相差并不大多数场景在channelActive里做已经够了。还有一种是按IP限流。在高带宽场景下某个客户端可能因为自身问题发起大量重连不做IP限流的话会把整个服务拖垮。按IP限流可以参考这样的实现用一个ConcurrentHashMapInetAddress, AtomicInteger统计每个IP的连接数在channelActive时自增、channelInactive时自减。实现限流器时我提醒一点连接数计数器必须用原子操作防止并发场景下计数不准确。我的习惯是用AtomicInteger配合ConcurrentHashMap而不是用get和set手工组合那种写法在并发下很容易出现计数漂移。3.2 拒绝连接还分为“直接不让你进”和“进来了马上送走”连接数达到上限后策略不是只有“关闭连接”这一种。比较强硬的做法是直接关闭新的连接。客户端发起连接时服务端accept成功之后马上返回一个关闭。这种做法速度快、代码简单但客户端可能会反复重试形成“连接风暴”反而消耗了更多的带宽和资源。更柔和的做法是“先收下连接然后返回一个业务层的繁忙提示再关闭连接”。这种策略在TCP层看起来连接是成功建立的但应用层立刻会收到一个明确定义的错误比如“SERVER_BUSY”。客户端可以根据这个错误码做退避而不是盲目重试。实现上需要在新连接Handler中先向客户端写入一个预定义好的错误报文然后flush再关闭连接。比如Override public void channelActive(ChannelHandlerContext ctx) throws Exception { if (connectionLimiter.tryAcquire()) { ctx.fireChannelActive(); } else { ByteBuf buf Unpooled.wrappedBuffer(SERVER_BUSY.getBytes(StandardCharsets.UTF_8)); ctx.writeAndFlush(buf).addListener(ChannelFutureListener.CLOSE); } }这里有个细节写出去之后再关和直接关效果差别很大。直接关可能让客户端读到EOF误以为是网络问题先写错误报文再关客户端能明确知道是服务端主动拒绝。这个语义在业务上很重要。3.3 连接超时、空闲检测与假连接清理带宽饱和时期最容易出现的就是大量“假连接”——连接已经建立但双方都没有数据传输处于半死不活状态。如果不主动清理这些连接会占住内存和文件描述符。Netty里最常用的就是IdleStateHandler。它的作用是在指定时间内没有读事件、写事件或读写事件时触发对应的IdleStateEvent。用法很简单在pipeline里加上pipeline.addLast(idleStateHandler, new IdleStateHandler(60, 0, 0, TimeUnit.SECONDS));这个60就代表60秒内如果没有任何读事件就会触发IdleStateEvent。然后在后面的自定义Handler里拦截这个事件Override public void userEventTriggered(ChannelHandlerContext ctx, Object evt) throws Exception { if (evt instanceof IdleStateEvent) { IdleStateEvent event (IdleStateEvent) evt; if (event.state() IdleState.READER_IDLE) { ctx.close(); } } else { super.userEventTriggered(ctx, evt); } }阈值怎么定要看业务心跳周期。如果客户端每30秒发一个心跳服务端60秒没读到任何东西基本可以判定连接已经断了或者对端卡死了。但注意不要设得太小否则网络抖动会导致大量正常连接被误杀。我一般建议取心跳周期的1.5到2倍。3.4 优雅关闭连接的具体细节带宽饱和时服务端有时需要主动降载比如摘掉一部分连接把流量导到别的节点。这时候“优雅关闭”就很关键。所谓优雅就是不让正在传输的数据突然断掉。理想流程是先停止从该连接读取新数据也就是设置autoReadfalse让已进入pipeline的数据继续处理完等待outboundBuffer中积压的数据全部flush出去再写一个明确的关闭信号给客户端最后关闭连接。代码层面可以这样组织public void gracefulClose(ChannelHandlerContext ctx) { ctx.channel().config().setAutoRead(false); ctx.writeAndFlush(CLOSE_NOTIFY).addListener(future - { if (future.isSuccess()) { ctx.close(); } else { LogUtil.warn(close notify write failed, force close); ctx.close(); } }); }这里有一个常见误区close操作本身是异步的不要在EventLoop线程中调用sync()去等待关闭完成那样会阻塞I/O线程。正确的做法是添加ChannelFutureListener在关闭完成回调里做后续处理。我见过有些人在优雅关闭时用Thread.sleep等待这是非常糟糕的写法会阻塞整个EventLoop连带着其他所有挂在同一个EventLoop上的连接一起遭殃。不管你对关闭流程多不放心都不要用sleep。4. 业务处理与IO线程的隔离调优4.1 线程模型的边界和常见误区Netty的经典线程模型是Boss线程负责acceptWorker线程EventLoop负责socket读写和pipeline处理。这个模型对于高并发I/O是很高效的但前提是EventLoop线程不能做耗时操作。很多故障的根源并不是连接数太多而是某个Handler里做了过于耗时的操作把EventLoop线程卡住了。一旦一个EventLoop卡住挂在它上面的所有连接都会被拖慢——因为pipeline里的读写都是串行执行的。我见过一个典型场景某个Handler在收到消息后内部调用了一个外部服务的同步接口响应时间最坏能达到几十秒。这个Handler跑在EventLoop上结果就是该EventLoop上的所有连接全部超时。所以无论带宽是否饱和我都建议遵循一个铁律EventLoop线程只做CPU密集型的轻量操作和编解码所有可能阻塞的操作必须扔到独立的业务线程池中。4.2 解码器和业务处理必须分开很多人会忽略解码器的性能问题。带宽饱和时数据包到达速度快解码器如果过于复杂I/O线程一样会被拖死。常见的解码器耗时点包括大消息的json反序列化使用十分耗性能的加密解密流程在解码过程中查数据库或者远程配置中心。这些逻辑都不应该放在解码器里。解码器只负责把字节流转换成业务对象至于这个业务对象要不要查库、要不要调远程接口那是业务线程池的事。在实际项目中我会在pipeline里这样设计pipeline.addLast(frameDecoder, new LengthFieldBasedFrameDecoder(...)); pipeline.addLast(msgDecoder, new JsonDecoder()); pipeline.addLast(businessExecutor, new BusinessHandler());BusinessHandler内部再通过业务线程池异步处理而不是直接在EventLoop上执行业务逻辑。4.3 业务线程池饱和策略怎么选把业务逻辑丢到线程池后你还需要决定线程池满载时怎么办。Java线程池提供了几种拒绝策略但在Netty环境下有一个常见陷阱需要特别注意。ThreadPoolExecutor.CallerRunsPolicy的意思是“由调用线程执行任务”。如果这个策略用在Netty的EventLoop线程上当线程池满了EventLoop会直接执行任务——这就等于把阻塞操作带回EventLoop。其结果和你写一个耗时Handler没有区别整个EventLoop都会被卡住。所以在Netty环境里我极度不推荐CallerRunsPolicy。那应该用什么我见过比较稳妥的方案是自定义一个RejectedExecutionHandler在任务被拒绝时如果是心跳等关键控制消息单独走一个紧急队列保证不丢如果是普通业务消息记录丢弃指标并返回一个明确的繁忙响应给客户端绝不阻塞I/O线程。如果想简单一点也可以使用有界队列加AbortPolicy配合拒绝指标监控。总之宁可丢弃业务消息也不要让EventLoop被阻塞。4.4 合并消息、批量下发降低带宽损耗带宽饱和时小数据包过多会带来额外的协议开销本身也是一种带宽浪费。如果你发现业务里有大量几十字节的小消息就应该考虑合并发送。最常见的做法是消息聚合把一小段时间内的多条消息打包成一个大的ByteBuf一次flush出去。这样TCP层可以利用Nagle算法和批量发送来提高有效载荷率减少头部开销。Netty里可以用PendingWriteQueue来积压消息然后设定一个时间窗定时flush。举个例子每100毫秒批量flush一次这样在高吞吐时能明显减少发送次数。但这个方案要兼顾延迟敏感场景。如果是行情推送、实时对话这类对延迟要求很高的业务批量处理会带来额外的延迟需要权衡。我在设计时习惯把消息分为两类延迟敏感类比如心跳ACK、实时命令优先发送延迟不敏感类比如批量统计、日志上报走合并队列。这样既能减少带宽损耗又不牺牲核心链路的延迟。5. 实战排障常见问题与排查技巧实录5.1 先盯这几个监控指标排查带宽饱和场景下的连接问题Classic的JVM监控基本不够你需要把视角放到Netty层和TCP层。我在生产环境会盯着这几个指标指标含义异常信号当前连接数已建立的连接总数持续增长且不回落pendingWriteBytes所有连接待发送字节总数持续上涨isWritable为false的连接数出站缓冲超标的连接数量数量超过总连接数的10%入站消息队列积压量pipeline内待处理的ByteBuf增长说明消费速度不及读取速度业务线程池活跃度正在执行任务的线程数稳定等于最大线程数时可能过载TCP重传率内核层重传比例高是带宽饱和的典型表现其中pendingWriteBytes这个指标可以用下面的方式从Channel获取long pendingBytes 0; for (Channel ch : channelGroup) { try { pendingBytes ch.unsafe().outboundBuffer().totalPendingWriteBytes(); } catch (Exception ignored) {} }需要注意outboundBuffer()这个接口不是对外公开的API某些Netty版本里方法名可能不同升级版本时要回归验证。如果你觉得依赖内部API风险大退一步的方案是统计isWritable为false的连接数以及在业务代码中主动上报pending队列大小。5.2 连接假死与连接泄漏排查连接假死的典型特征是TCP连接还维持着但客户端和服务端之间已经没有有效数据了。排查时我喜欢两条线并行先看TCP层。用ss或者netstat看连接状态CLOSE_WAIT状态过多说明对端关闭了连接但本端没有主动关闭很可能是有连接泄漏ESTABLISHED状态没有数据传输可能是应用层卡死或带宽导致也可能是对方悄悄断了只是TCP还没感知。再看应用层。用jstack找到对应的Netty线程看它的状态。如果EventLoop线程长时间处于RUNNABLE但某个Handler里没有退出说明业务Handler写了一个死循环或长耗时操作。如果EventLoop线程处于WAITING状态很久则需要确认是不是autoRead被关闭后没有恢复。假连接的处理我更倾向于用“主动确认机制”而不是被动等待。除了IdleStateHandler之外我会定期向客户端发送一次ping要求客户端回pong。连续两次ping没有pong就判定连接失效主动关闭。这种方案比单纯读空闲检测更可靠能覆盖“对端悄悄卡死但TCP层面没有触发异常”的场景。5.3 内存只涨不降的排查思路带宽饱和时最让人头疼的往往是内存“明明没泄漏但就是不停涨”。这种场景通常不是Java堆泄漏而是Netty的缓冲区积压。排查步骤可以这样观察内存曲线如果GC后能回到低位说明不是泄漏检查pendingWriteBytes指标看是不是有大量待发送数据堆积检查业务线程池队列深度看是不是任务全部排队没人消费用jmap -histo:live查看是否有大量byte[]或者PooledByteBuf对象堆积检查是否有关闭autoRead失败导致数据不断从内核读入用户态。有一次排查了很久最后发现问题是高水位被设置成8MB但业务里写文件时一个文件块就是4MB。由于每个连接都一次性写入大量数据8MB高水位实际上允许每个连接攒下十几个文件块一个下载服务单连接就囤了几百MB。把批量写拆小并且在水位达标时暂停写入内存马上恢复正常。所以在带宽饱和场景下我通常会同时限制“单次写入大小”和“在线连接数量”这两个维度不要只调水位。5.4 常见问题速查表问题现象大概率原因优先排查动作新连接握手超时全连接队列溢出 / 带宽饱和导致SYN-ACK丢失查accept队列大小查TCP重传率连接建立成功但收不到响应EventLoop被阻塞 / 编解码器耗时 / autoRead被关闭未恢复jstack看线程状态检查Handler耗时内存只涨不降出站缓冲积压 / 业务任务排队堆积查pendingWriteBytes和线程池队列深度大量CLOSE_WAIT业务没有正确关闭连接检查channelInactive后有没有释放资源isWritable为false连接数过高下游消费能力不足 / 大批量写入调低高水位判断是否暂停写入部分连接长时间无数据网络拥塞导致窗口收缩 / 应用层卡死看TCP窗口检查该连接所在EventLoop状态这张表没有办法覆盖所有场景但基本方向是对的。你排查问题时可以先对应一个典型原因再逐步排除不要一上来就怀疑Netty本身。6. 最后想说的几点那次“带宽饱和连接故障”之后我最大的体会是Netty并不复杂复杂的是它和你所在的网络环境、业务模型之间的相互作用。同样是带宽饱和文件传输服务和实时消息服务的解法完全不同同样是连接数过多有的要限流有的要扩容有的其实只要调一下SO_BACKLOG就能解决。我个人现在做连接处理相关设计时会先画一张图把“数据从哪个环节进来、在哪个环节积压、压力怎么传导回上游”完整走一遍。只要这条链路是清晰的遇到故障时就不会眉毛胡子一把抓。最后分享一个小技巧在压测带宽饱和场景时不要只看“每秒能处理多少请求”还要看“当带宽达到90%时各连接的处理延迟分布”。你会发现真正的问题往往不是处理不过来而是某一条连接或某几个连接把链路资源吃光了其他连接跟着遭殃。把这个问题想清楚了连接处理的设计思路会完全不一样。