跳到主要内容
约 6 分钟3 张卡

服务等级目标(SLO)

服务等级目标(SLO)是对用户可感知的服务质量设定的目标,例如“过去 28 天,99.9% 的有效下单请求正确完成”。它把“系统要可靠”变成可计算、可验证的要求。

SLO 需要与指标口径、错误预算和容量计划一起使用。这样才能判断一次故障影响了多少用户、是否应暂停发布,以及故障后剩余资源能否继续满足目标。

1. 面试核心​

先记住这几条,再读正文
  • 请求型 SLI 等于好事件数除以有效事件数,需要先定义哪些请求纳入统计、什么结果算好。
  • SLO 同时包含指标目标和统计窗口,只有“99.9%”还不足以定义目标。卡 · 综合题
  • 请求型 SLO 的错误预算比例为 1-SLO,允许失败数还取决于窗口内的有效事件数。
  • 燃烧率等于当前错误率除以预算比例。长窗口观察累计影响,短窗口确认故障是否仍在持续。卡 · 多窗口计算
  • 故障余量需要按剩余资源满足 SLO 时的安全吞吐计算,并验证下游也有接管能力。卡 · 可用区故障余量

2. 服务与用户旅程​

指标应该围绕用户要完成的任务定义。登录、支付和后台导出的时效要求不同,需要分别说明服务哪些用户、从哪个入口开始统计,以及什么情况算完成。

以下单为例,可以从合法请求进入网关开始统计。成功创建订单,或按业务规则正确拒绝请求,都可以定义为好事件;依赖超时导致结果未知,则算失败。具体选择要与产品语义一致,不能只看 HTTP 状态码。

3. SLI​

服务等级指标(SLI)是用来测量实际服务质量的数值。请求型 SLI 用比例表示:

SLI = good events / valid events

valid events 是纳入统计的有效事件,good events 是其中符合质量要求的事件。可用性可以看请求是否正确完成,延迟可以看是否在阈值内完成;两者可以分别统计,也可以要求同时满足才算好事件。

定义时还要写清采集位置、排除条件和缺失数据的处理。靠近用户的测量可以覆盖网关等链路;按地区或租户分组,则能发现被全局平均值掩盖的局部故障。

4. SLO​

SLO 为 SLI 指定达标比例和统计窗口。例如,“过去 28 天,99.9% 的有效下单请求正确完成”,或“过去 28 天,99% 的商品查询在 300 ms 内完成”。

滚动窗口持续反映近期表现,日历窗口便于按月评估。报表、告警和发布策略需要使用一致口径,否则同一次故障在不同系统中会得到不同判断。

目标应根据用户需求、失败损失和实现成本确定。内部目标可以严于对外协议,让团队有时间在违反外部承诺前采取措施。

5. 错误预算​

错误预算是统计窗口内允许的不达标量。99.9% 的请求型 SLO 对应 0.1% 的预算比例;如果窗口内有一亿次有效请求,就允许十万次失败。再扣除已经发生的失败,才是剩余预算。

请求预算不能直接当作停机时长。高峰期短暂故障可能影响大量请求,低峰期同样时长的影响则不同。需要换算停机分钟数时,应另行说明采用的时间型指标。

预算状态可以指导发布:预算充足时正常发布,快速消耗时缩小灰度范围,耗尽后优先恢复可靠性。安全修复和止损变更仍可保留通道,避免发布限制妨碍恢复。

6. 燃烧率告警​

燃烧率是当前错误率与 SLO 允许错误比例的比值,用来表示预算消耗得有多快:

burn rate = observed error ratio / (1 - SLO)

SLO 为 99.9%,允许错误比例就是 0.1%;当前错误率为 1% 时,燃烧率为 10。它说明当前消耗速度是允许比例的 10 倍,至于还能持续多久,还要看剩余预算和流量。

6.1 多窗口计算​

多窗口告警同时检查一段时间内的累计影响和最近的故障状态。先按 30 天窗口、近似恒定流量计算:燃烧率 14.4 持续一小时,会消耗整窗预算的 2%。

14.4 × 1 / (30 × 24) = 2%

30 天有 720 小时,一小时占整窗的 1/720,再乘以 14.4 倍的消耗速度,就是 2%。告警可以要求过去 1 小时和过去 5 分钟的燃烧率都超过 14.4:长窗口确认影响已经积累,短窗口确认故障仍在持续。故障结束后,短窗口能更快恢复正常。

流量明显变化时,应直接用失败事件数与整窗预算计算,不能继续假设每小时流量相同。低流量接口中,一个失败就会显著改变比例,还需结合合成探针和实际失败数量判断。

7. 容量余量​

容量计划应使用满足 SLO 时测得的安全吞吐,也就是资源在质量达标的前提下能够承接的请求量。预测峰值除以单位资源的安全吞吐,得到基础资源需求,再计入扩容预热、发布期间新旧实例并存和依赖退化的影响。

7.1 可用区故障余量​

故障余量要从“失效后还剩多少容量”倒推。假设三个可用区均衡承载总计 6000 QPS,每个实例的安全吞吐是 500 QPS,要求任意一区失效后仍能承接全部流量。

剩余两区至少需要 6000 / 500 = 12 个实例,因此每区至少 6 个。正常时共 18 个实例,总安全容量为 9000 QPS,6000 QPS 负载约占安全容量的 66.7%。多出的容量用于在单区失效后接管它的流量。

这是给定假设下的最低配置。流量倾斜、数据库瓶颈需要压测验证,自动扩容所需的预热时间也需要额外余量。

8. 依赖的可用性预算​

必须同步成功的下游依赖,会直接影响整条用户路径。如果两个依赖的故障相互独立,且请求要求两者都成功,可以把可用性相乘估算;存在共同故障时,独立假设就不成立。

缓存、异步化和降级可以减少请求必须等待的依赖,但也会改变用户拿到的结果。即使接口返回 200,只要用户无法按约定完成任务,仍应计为坏事件。

9. 常见问题​

9.1 SLA 和 SLO 有什么区别?​

SLO 是工程管理中的质量目标,服务等级协议(SLA)是对外协议,还约定未达标的后果。内部 SLO 可以设得更严格,让团队在违反 SLA 前有机会处理问题。

9.2 需要给每个接口都设置独立目标吗?​

10. 面试题卡片​

11. 参考资料​

来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明