跳到主要内容
约 6 分钟2 张卡

服务容错

服务容错是在部分依赖失败时,限制故障影响,让系统保留可用的功能。熔断决定是否继续调用,降级决定失败后给用户什么结果,舱壁隔离则限制一个依赖能占用多少资源。

这三种机制要配合使用。暂停访问故障服务,不会自动释放已经占满的连接;返回备用结果,也不代表备用服务有能力承接全部流量。

1. 面试核心​

先记住这几条,再读正文
  • 熔断按依赖健康状态暂停后续调用,降级则定义失败后的业务结果,两者职责不同。卡 · 超时
  • 舱壁为依赖或租户分配独立的并发、连接或队列额度,避免一条路径占满共享资源。
  • Resilience4j 只有收集到最小样本数后才比较失败率,样本太少时不作比例判断。卡 · 窗口与并发额度
  • 半开状态只放行有限数量的探测调用,根据结果决定恢复还是重新打开。
  • 熔断滑动窗口记录的是调用结果,不限制同时执行的调用数;并发上限要另外设置。卡 · 窗口与并发额度

2. 超时​

超时限制一次调用愿意等待多久,具体预算和取消方式见超时。熔断则根据近期调用结果,决定后续请求是否继续访问这个依赖。

两者都不能替代即时的资源上限。慢调用尚未完成时,结果还没进入统计,但连接和线程已经被占用,所以仍需通过舱壁限制并发。

3. 熔断器状态​

熔断器用状态记录当前是否允许调用。以 Resilience4j 的常规状态为例:

状态行为
Closed正常放行,并记录调用结果
Open快速拒绝,等待恢复探测
Half-open放行有限探测,再判断恢复或重新打开

判断依赖健康时,可以统计最近一段时间的结果,也可以统计最近若干次调用结果。最小样本数用于避免少量错误造成误判:如果只收到一次调用,它失败后的失败率就是 100%,却未必足以判断整个依赖已经故障。

低流量接口积累样本较慢,因此窗口大小和最小样本数要一起校准。

4. 熔断维度​

熔断器应围绕共享故障资源划分,例如一个后端集群或一个 API。划分太粗,一个接口故障可能使其他正常接口也被拒绝;划分太细,每组又可能收集不到足够样本。

失败分类同样要明确。参数错误和预期业务拒绝未必说明依赖不健康,可以按需要排除;连接错误、超时和下游异常,则按希望保护的故障类型纳入统计。

5. 半开探测​

半开探测是在暂停调用后,只放行少量请求来检查依赖是否恢复。探测结果满足恢复条件才重新放行,仍然失败就回到 Open,避免一次性恢复全部流量。

Resilience4j 默认由等待期结束后的新调用触发半开;开启自动转换选项后,也可以由监控线程触发。多个实例同时恢复时,还要错开探测时间,否则各实例各自有限的探测,汇总到下游仍可能形成突发。

6. 降级​

降级是在完整功能暂时无法提供时,返回业务允许的替代结果。可以怎样退让,取决于这个结果会给用户带来什么影响:

  • 能接受旧数据时,返回带有时间信息的缓存。
  • 非关键模块失败时,省略对应内容。
  • 任务已经持久化时,返回异步受理状态。
  • 高风险写操作无法完成时,明确拒绝,并提供状态查询入口。

备用服务也需要容量和数据兼容性验证。余额、库存和权限不能随意返回默认值,否则表面上请求成功,实际却误导了调用方。

7. 舱壁隔离​

舱壁隔离是为不同依赖或租户划出独立资源额度。一条慢路径耗尽自己的额度后,其他路径仍有资源可以继续处理请求。

可以通过线程池、信号量或连接池实现不同层面的隔离。线程池还能分开执行队列,但有线程调度成本;信号量直接限制并发,任务仍使用调用方线程执行。

隔离过细会让一部分资源空闲、另一部分请求排队,降低利用率。可以先为关键路径保留额度,再用真实流量校准。即使换成虚拟线程,连接、内存和下游容量仍然有限,也要保留这些约束。

8. 组合顺序​

重试与熔断的包装顺序会改变统计口径。Retry 在 CircuitBreaker 外层时,每次重试都经过熔断器,因此每次尝试都会被记录;反过来包装时,熔断器看到的是重试流程的最终结果。

选择顺序前,要明确想统计每次尝试的健康状况,还是整个业务调用的最终成败。熔断器已经打开后,拒绝结果应排除在可重试错误之外;舱壁满时也应退出,避免重复申请没有空余的资源。

所有尝试共享总时限,退避方式见重试。降级路径同样要有容量和等待上限,不能把原依赖的积压转移给备用依赖。

9. 效果验证​

保护机制的效果要同时看触发原因和业务结果。熔断器记录状态、样本数、打开原因及半开结果,舱壁记录活跃任务数、排队数和拒绝数。

触发保护后,核心业务应该仍然可用。如果熔断器一直处于 Open,或者一直只能返回降级结果,说明依赖故障尚未修复,还需要继续处理底层问题。

10. 窗口与并发额度​

滑动窗口决定统计多少结果,并发额度决定同时允许多少工作,两者是独立的。下面是 Resilience4j 的一组示例参数,并非默认值:

slidingWindowType=COUNT_BASED
slidingWindowSize=100
minimumNumberOfCalls=20
failureRateThreshold=50
permittedNumberOfCallsInHalfOpenState=3

完成的调用不足 20 次时,即使全部失败,也没达到最小样本门槛。记录达到 20 次、失败率达到 50% 时,才满足按失败率打开熔断器的条件。

窗口大小 100 表示保留最近 100 次调用结果。它不表示最多允许 100 个并发;如果目标是最多同时调用 20 次,要另外设置舱壁额度。

不同工具中的同名机制也要看具体行为。Envoy 的 circuit breaking 主要配置资源上限,而按错误摘除实例属于 outlier detection,不能直接套用上面的健康状态机理解。

11. 常见问题​

11.1 熔断和限流有什么区别?​

限流按容量或配额拒绝请求,熔断按近期故障情况暂停调用。因此,依赖即使完全健康,也可能因为请求超过配额而被限流。

11.2 主依赖失败后,可以直接切到备用依赖吗?​

12. 面试题卡片​

先想答案,再翻面先在心里答一遍,再点开卡片对照参考回答。卡片之间可以左右切换,看完会回到这里。
逐张翻看 2 张 →
未标记的卡读完后明天进入复习;已标记的按状态安排

13. 参考资料​

来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明