有状态应用集群问题

[fighterhit]

请求链路是：客户端（多个）->gateway （多副本）->web server （多副本）
问题是这样的：
在 k8s 集群里，客户端先通过 k8s headless svc 查到每个 gateway 副本 ip 、然后经 tcp 长连接到 gateway 上，gateway 根据每次客户端 rpc 请求的某个字段（比如 client_id ），将这个请求固定转发到某个 server pod （保持不变），这个看上去需要一致性哈希实现，但多个 gateway 之间如何保持转发规则同步，以及 gateway 、web server 扩缩容时怎么保证转发正确。是否有这类比较好的解决方案或开源项目参考，gateway 和 web server 技术栈是 python 实现。