反向代理缓存该分几层

2026-11-22 16:02:39 k73游戏之家 作者:testai

监控上回源流量一直降不下来,源站 CPU 却不高,缓存看着也配了,命中率就是不涨。查下来十有八九是只配了一层,或者缓存键里塞了不该带的参数——用户每换一次筛选条件就是一个新对象,缓存全成一次性的。这类问题不像报错那么显眼,只会安静地把带宽和机器成本翻倍。按放哪层、键怎么设、命中怎么算、什么不能缓这四件事往下说。

缓存该放在哪一层

一个请求从浏览器到源站,中间能停的地方有四层:浏览器本地、CDN 边缘、反向代理、应用内部。每层存的东西不一样,命中条件也不一样,混在一起谈「有没有缓存」永远说不清。

浏览器缓存最便宜,靠响应头里的 Cache-Control 与 ETag 生效,代价是用户清一次缓存你就失去控制。它的命中率没法从服务端精确统计,只能靠 304 请求的比例间接估出来。

CDN 边缘最省带宽,静态资源、图片、前端包放这层最合适,跨境业务尤其依赖它。它的问题在回源策略:边缘没命中就打回源站,回源一次的成本比你想象的高,跨洋链路上尤其明显。

反向代理这层最灵活,能缓存接口返回、能按路径细分、能和鉴权配合,也能给上游挡掉突发。它的位置在源站前面、应用进程前面,改配置不影响业务代码,是多数团队真正能落地的一层。

应用内部缓存解决的是另一类问题:数据库查询、计算结果、会话数据。它把重复计算消掉,和上面几层不是替代关系。接口层的缓存配好,应用内部的压力会小很多,反过来则不一定成立。

层数越多,排障越绕。一个页面三段内容来自三个缓存,用户看到旧数据时你要一层层排除。团队不大的时候,把反代这层做扎实,CDN 交给托管服务,够用且好维护。

跨境场景要额外算一笔:回源一次跨洋往返,加上握手和传输就要几百毫秒,边缘命中率差十个百分点,源站的机器配置就得往上提一档。与其事后加核,不如先把这层的键和过期时间调对。

反向代理缓存该分几层

proxy_cache 里几个容易配错的参数

缓存目录的 levels 参数决定文件怎么分目录,一层目录塞几十万个文件,文件系统的查找就会拖慢,分两级、每级两个字符是常规做法。keys_zone 给的是共享内存,十个 M 大约能放八千个键,键一多就频繁淘汰,命中率跟着掉。

max_size 与 inactive 是一对:前者管总量,后者管多久没被访问就清理。很多人只设了 max_size,冷数据一直赖着不走,热数据被挤出去,命中率怎么调都上不来。两个都设,让清理按访问时间跑。

proxy_cache_lock 值得打开,它让同一时刻同一个键只有一个请求回源,其它请求排队等结果。热点内容被刷新的那一刻,没有它会瞬间涌出一堆回源,源站直接被打穿,配一个超时能避免等待的请求被一起拖死。proxy_cache_key 默认带上完整的请求地址,包括问号后面那串参数,统计打点、排序、来源标记这类参数一变就是全新的缓存对象,要么把它们从键里剔除,要么按白名单拼键。

过期时间怎么定,要先看上游有没有给 Cache-Control。上游给了 no-cache 或 private,反代默认就跳过缓存,配置里写了也不生效,要么让应用给出正确的头,要么在反代里明确忽略这几个头。proxy_cache_use_stale 是救命的开关,源站挂了或者回源超时,可以让它继续吐旧内容,配成 error timeout updating 这一档比较稳,用户看到的是旧数据而不是错误页。

反向代理缓存该分几层

命中率怎么算 回源比怎么降

日志里加上 upstream_cache_status 这个变量,每一条请求都带 HIT、MISS、BYPASS、EXPIRED、STALE 之一。有了它才能算命中率,没有它只能靠猜。

算命中率要明确口径:按请求数算,还是按字节数算。一堆小图标请求全命中、几个大视频全回源,按请求数看是九成命中,按流量看是九成回源,两个数字讲的完全是两件事。带宽吃紧的机器看字节,源站 CPU 吃紧的看请求数。

BYPASS 要单独看,它意味着配置主动跳过缓存,通常是带了 Cookie 或者命中了某个规则。BYPASS 一多,说明规则写得太宽,把该缓存的内容也放过去了。EXPIRED 比例高则说明过期时间设得太短,内容还没充分复用就被淘汰,这个比例正常应该很低,除非你的内容确实一直在变。

热 key 的处理方式不一样。少数几个对象占了大部分请求,把它们预热进缓存、单独调长过期时间,比整体调参有效。预热可以在发版后主动请求一遍,也可以在缓存重建时让第一个请求同步回源、别让它排队。

跨境回源另有一招是长连接与预连接,把每次回源的握手成本摊掉。配合缓存锁一起用,回源次数少了,单次回源的开销也低了,源站的机器就不用往上升档。

反向代理缓存该分几层

做回源和中转的那台机器带宽给足很关键,端口跑不满的时候,缓存配得再好也传不快;回源链路选得近一点,光链路延迟就能省下几十毫秒,这部分收益比调过期时间来得直接。

哪些内容不该进缓存

带用户身份的东西一律不进公共缓存。响应里带 Set-Cookie、带登录态、内容和用户 ID 相关,缓存下来就是把 A 的数据发给 B,这类事故出一次就够麻烦。判断办法简单:这个响应去掉 Cookie 之后是否人人相同,答案是否定就别缓存。支付回调、下单、后台管理这类接口连碰都别碰,它们本身就是有状态的,规则里直接把 /api/order、/admin 这些前缀排除掉,比事后排查便宜太多。

剩下的判断交给 Vary 头和内容协商。同一个地址按语言、按压缩方式返回不同内容,缓存键里没体现这些维度,用户就会拿到错误版本。压缩与缓存的前后顺序也要注意,先压缩再缓存,缓存里存的是压缩后的体,命中时省一次压缩的 CPU。压缩级别挑中间档就够了,最高档多花的 CPU 换不回等价的体积,不如多缓几个对象。

把这层配好之后,机器配置的选择会变得简单:缓存层吃内存和并发,源站吃盘和带宽。做缓存的那台机器内存要大、核数要多,香港这边 24 核 48 线程、128G 内存的独立服务器拿来扛反代和缓存都很宽裕,两台做互备更稳;缓存目录放固态,键一多也不会被文件系统拖住。两台做互备的话,缓存键和过期时间保持一致,切换过去命中率不用从头攒,回源也不会在切换那一刻集中爆发。

玩家评论

相关阅读

手游掌机排行