跳到主要内容
约 6 分钟2 张卡

服务发现

服务发现把稳定的服务名映射到当前可调用的实例地址,让调用方不必写死每台机器的位置。实例会扩缩容、重启和下线,因此拿到地址只是第一步,还要判断能否接请求、如何更新列表,以及旧连接何时结束。

1. 面试核心​

先记住这几条,再读正文
  • 客户端发现由调用方选择实例,服务端发现由代理选择,区别在于谁维护列表并执行选择。
  • readiness 判断能否接流量,liveness 检测是否需要按重启策略处理,未就绪不等于需要重启。
  • 注册中心短暂断连时,有效本地快照和健康检查可以支撑已有调用。卡 · liveness 与 readiness
  • 实例下线既要等待端点更新传播,也要处理在途请求和已有长连接,移出列表不会自动断开连接。
  • Kubernetes watch 历史过期后,要重新 list 获取完整状态,再从新版本订阅变化。卡 · list 与 watch 恢复

2. 服务注册​

服务注册是把实例地址及相关信息加入发现系统。可以由实例主动登记地址、版本和区域,也可以由部署平台根据运行中的工作负载维护。

主动注册通过心跳或租约更新存活信息:实例需要定期报告或续约,发现系统据此判断记录是否仍有效。Kubernetes 则由控制器根据 Pod 和 Service 维护保存端点信息的 EndpointSlice。无论采用哪种方式,都要验证注册地址从调用方实际可达。

3. 客户端发现与服务端发现​

客户端发现由调用方订阅实例列表,再在本地选择实例、分配请求。因此,各语言客户端都要具备相应的列表更新和健康判断能力。

服务端发现让调用方访问稳定入口,由代理选择实例并转发请求。路由能力集中到代理后,也要单独考虑代理的容量和故障。两种方式可以使用同一个实例数据源,区别在于谁执行选择。发现系统决定有哪些候选实例,负载均衡再决定这次选哪一个;如果按业务键选择实例,一致性哈希可以减少扩缩容时改变归属的键,但不负责健康检查或达成共识。

4. liveness 与 readiness​

存活检查与就绪检查回答不同问题:进程是否需要重启,以及现在是否适合接流量。以下按 Service 默认 publishNotReadyAddresses=false,即常规 Service 流量不选择未就绪端点的行为讨论:

探针作用
startup启动成功前延后 liveness 与 readiness
readiness判断是否就绪,失败时停止常规 Service 流量
liveness检测容器活性,连续失败达到阈值后按重启策略处理

默认 restartPolicy=Always 时,liveness 连续失败达到阈值会触发重启。共享数据库故障却不宜直接让所有实例的 liveness 失败,因为重启应用无法修好数据库,还会增加恢复压力。readiness 则聚焦能否提供核心能力,避免非关键依赖故障导致所有实例都停止接流量。

5. 主动与被动健康检查​

主动健康检查定期访问健康接口,不必等待业务请求失败;被动健康检查根据真实请求的错误和超时判断异常,反映的是实际调用结果。

主动检查受探测间隔影响,被动检查在流量很少时又可能缺少样本。设置连续失败阈值、恢复探测和最大摘除比例,可以减少偶发抖动造成的误摘除,也避免把大量请求压到少数剩余实例上。

6. 注册中心不可用​

注册中心不可用,不代表已经发现的业务实例也不可用。客户端可以在短暂断连时保留有效的本地实例列表,继续向健康目标发送请求,完整条件见控制平面与数据平面。

保留列表期间,仍要根据真实连接和请求结果临时摘除失效地址或减少发给它的流量,同时记录快照有多旧、持续尝试恢复订阅。地址已经回收时,旧列表不会自行纠正,只能通过健康检查和重新同步来更新。

注册中心选型还要说明元数据更新、一致性、租约失效和通知恢复的契约。例如 etcd 与 Redis 的服务发现选型需要比较这些保证;支持存储键值不等于具备相同的注册语义。网络分区下,旧节点仍可能认为自己持有领导身份,是否允许继续提交更新要由共识和隔离规则约束,不能把“健康检查失败”直接等同于安全完成主备切换。

7. 上下线与连接排空​

新实例完成启动、配置加载和预热后再标记就绪,避免过早收到业务请求。旧实例下线则需要先停止接收新工作,再完成连接排空,也就是让已有连接上的请求结束,而不再把新工作交给这个实例。

端点更新需要传播,进程终止却可能已经开始,两者存在时间差。Kubernetes 的终止宽限期包含 preStop 执行时间,preStop 完成后才向容器主进程发送终止信号,不能把整个宽限期都算作应用收到信号后的处理时间。

应用要处理 SIGTERM 并限制排空时间。对已有长连接,也要停止接收新请求或引导客户端重连;只把实例移出端点列表,不会让原有连接自动消失。

8. 版本化快照​

实例快照是供路由使用的一份完整实例列表。客户端先按订阅协议准备好更新,再一次替换路由读取的视图,避免请求看到只改了一半的列表。

是否漏掉更新,要按协议判断。Kubernetes 的 resourceVersion 对客户端是不透明标识,应保存后原样传回服务端,不能自行加减来推算下一个版本。

9. list 与 watch 恢复​

传统 list/watch 流程先用 list 获取完整列表,再从列表的 resourceVersion 开始 watch,持续接收后续变化。这样把初始状态与增量更新衔接起来。

watch 断开后,可以用已知版本重新订阅。但服务端只保留有限历史,请求的历史过期会返回 410 Gone。此时继续用旧版本重试拿不回缺失事件,需要重建同步缓存:重新 list 获取完整状态,再从新的 resourceVersion 开始 watch。

重建缓存期间若需要继续转发,可以把同步缓存与路由快照分开维护。同步缓存重新拉取完成后,再替换供请求使用的快照;期间保留的旧快照仍要遵守陈旧期限和健康检查策略。

10. 常见问题​

10.1 心跳正常,为什么业务请求仍然失败?​

心跳只说明实例仍在报告或续约,不保证业务处理所需的资源可用。线程池、连接池已经耗尽时,独立运行的心跳仍可能成功,所以还要结合核心能力探测、实际错误率和延迟判断。

10.2 DNS 地址更新后,长连接会自动切到新实例吗?​

11. 面试题卡片​

先想答案,再翻面先在心里答一遍,再点开卡片对照参考回答。卡片之间可以左右切换,看完会回到这里。
逐张翻看 2 张 →
未标记的卡读完后明天进入复习;已标记的按状态安排

12. 参考资料​

来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明