2026-11-19 03:13:59 k73游戏之家 作者:testai
带宽被跑满的时候,很多人第一反应是加钱升带宽,升完发现还是慢。问题往往不在总带宽多少,而在流量怎么分:一个下载任务把整条线占满,别人连网页都开不出来。限速这件事做对了能省下一笔升级费用,做不对就是自己给自己添堵,用户觉得慢,你看着监控又找不到原因。这篇按实际配置的顺序讲,从排队规则到按什么维度限,再到机器怎么选。
直接给每台机器设一个总上限,看着简单,实际效果常常是好的时候用不满、忙的时候还是挤。原因是总量控制只管上限,不管谁在用、用多久,突发流量该抢还是抢,总量控制在夜间意义不大,白天才是真正要盯的时段。
真正要控的是并发和速率两件事。并发限制连接数,速率限制单条连接跑多快,两个一起用才能既挡住刷流量的请求,又不至于把正常用户的下载卡死,两条阈值一起调才能看出效果。
限速值不能拍脑袋。先看业务基线的峰值和均值,把上限设在峰值的 1.2 倍左右,留出突发空间,低于均值会误伤真实用户,高于峰值等于没限,一个月后复算一次基线总有变化。
分层做比一刀切有效。接入层控总量,应用层控单用户,出口层控单 IP,三层各有各的阈值,出事时能定位到是哪一层被打满,三层日志打到同一个时间轴。
限速要有例外名单。内部同步、备份、健康检查这些流量不该跟用户一起抢,白名单先列出来,配置里优先放行,不然后台任务一跑,用户就投诉慢。白名单按网段写,别一条条加 IP。
改阈值要有记录。每次调整写下时间、原因、调整前后数值,出问题时按记录回溯,比凭记忆猜是哪次改动导致快了十倍,配置改动和监控曲线放在一张图里看,改完之后一周内每天看一次曲线,异常往往在第三天冒头。
先到先得看着公平,实际会被大流量占满。一个大文件下载开几十条连接,每条都排在前面,小请求挤在后面,用户体验就是转圈,连接数比带宽更容易被占满,先看连接再看带宽,连接池打满的机器带宽可能只用了一半,扩容方向就会错。
按权重排队更实用。给交互类请求更高权重,给批量下载更低权重,队列调度时优先取高权重,低权重在大流量期间自动降速而不是被饿死。权重按业务单元划分,同类请求只给一个权重,别为每个接口单独配一档,几十个权重排下来谁都记不住。调度参数改动后跑一次压力测试,看长尾延迟有没有改善,只对着配置文档推理很容易自我感觉良好。压测时录一份请求日志,事后按耗时排序看最慢的那批请求落在哪个权重档,调整才有依据。权重本来就该随业务变化调整,一季度复查一次,把已经没人用的接口降权,把新上的核心接口提权。
队列长度别设太长。队列排到几百个请求,前面堵住后面全在等,延迟直线上升,宁可早点拒绝也不要让请求在队列里熬着,拒绝率上升要能报警,不然用户先发现。队列深度和并发上限一起调,单改一个参数通常只把问题挪到别处。想清楚要保护的是哪一类请求,把慢请求和大请求放到不同队列,混在一个队列里迟早要出问题。排队规则在流量平稳时看不出差别,只在峰值那几分钟起作用,所以验收要挑压测峰值那一刻看,而不是看平均值。
按 IP 限适合对外服务。一个 IP 进来的流量有明确上限,被刷的时候影响面可控,代价是同一个出口后面多个用户会被一起限,写字楼、校园网这类共享出口影响明显。
按连接限适合挡爬虫。单 IP 同时保持几百条连接基本不是正常用户,限制到几十条就能挡掉大部分采集,正常浏览器打开页面通常不会超过十条。
两种一起用效果最好。IP 层面设一个总速率,连接层面设一个并发数,刷流量的请求两条都撞,正常用户两条都碰不到,阈值差异留出两倍空间,别把两条卡在同一水平。
限速要区分读和写。上传和下载对业务的影响完全不同,图片站限制上传不影响浏览,下载限太死用户直接关页面,两个方向分开设阈值。
限制要能临时放开。活动、发布会这类高峰,提前把阈值调上去,活动结束再降回来,写进计划表,别等出事现场手忙脚乱改配置。
拒绝方式想清楚。直接断连接和返回错误页给用户的感受完全不同,前者像断网,后者至少有提示,静态错误页放在本地,别让错误页自己也走一遍限速链路。
监控要能看出是哪一类被限。只统计总拒绝数没用,按 IP、按接口分开计数,才能判断是攻击还是自己阈值设低了。
灰度验证再全量。先在一个接口上开限速,观察一周的拒绝率和用户投诉,确认没问题再铺到全部接口,一次全量改动出问题很难回滚,配置按版本存档,回滚只需换一个文件。
阈值设低会把正常流量挡在门外。搜索引擎抓取被限之后收录掉得很快,等发现时已经损失一批页面,爬虫的 UA 单独放行更稳妥,放行也要限速,别让爬虫把白名单当成免死金牌,白名单里的请求也按接口分档限速。
按连接限太狠会让手机用户受影响。移动网络切换基站时连接会重建,阈值卡在边界上,用户每次切换都被拒一次,体验非常差,阈值按空闲连接回收后的真实水平定,回收时间设短一点,边界就不容易被踩到。
限速和缓存打架。缓存命中率高的站,限速其实限的是回源流量,把源站限死,缓存没命中时全部变慢,回源链路要单独留出带宽,回源失败率作为一个指标单独盯着,回源被限时失败率会先抬头,比用户投诉早半天到一天,报警阈值按基线波动幅度定。
队列设得太激进会放大抖动。网络本身有波动,队列一满就丢弃,正常请求被连带丢掉,日志里出现大量超时,看着像程序 bug,丢弃前的排队时长也记下来,能看出是被丢还是被堵,两个原因处理方式完全相反,一个是容量,一个是策略,先分清再动手能省一轮返工。
配置写错位置最难查。限速写在错误的网卡或错误的链路上,看着配置生效其实没作用,抓一次实际速率做对比,比反复改配置快得多,抓包确认一次,别信配置界面的开关状态,界面上写着生效,实际可能被上层规则覆盖。
限速吃的是 CPU 和网卡。软件限速每个包都要过一遍规则,流量大的时候 CPU 单核跑满,速率反而掉下来,核数多一些更稳,规则条数也要控制,几千条规则比几百条慢一个数量级,规则按维度合并,能不逐条写就别逐条写。
网卡要跟端口匹配。标称千兆的机器跑出千兆需要网卡和驱动都给力,实际能跑满七成已经算不错,心里按七折算容量更靠谱,端口协商速率和实际吞吐差得远,实测一遍最准,压测工具和真实流量的包大小分布不同,结果会差两成左右。抓包看一次实际吞吐和端口协商值,两者对不上说明网卡或驱动有问题。
出口带宽留余量。限速上限设得接近物理上限,突发时没有缓冲,用户感受就是一直卡,留两成余量体验差别很明显,出口和入口余量分开算,单向限速别把双向都吃掉,很多限速配置默认双向生效,改完要抓一次确认。上行限制了不影响浏览,下行限制了页面就打不开,方向搞反的话症状很像带宽不够,容易误判成要升级。
具体选型看流量规模。云途那台二十核四十线程、六十四 G 内存的机型配了千兆起步的端口和四十 T 月流量,跑软件限速加反向代理有余量,规则多、连接多也不至于把 CPU 吃满;流量规模不大的场景,洛杉矶八核八 G 那台 NVMe 机器做边缘限速节点够用,端口带宽富裕,按地域分流之后单点压力小很多。