FA1#微服务流控防护场景与应对措施的示例分析

83次阅读
没有评论

共计 1919 个字符,预计需要花费 5 分钟才能阅读完成。

这篇文章主要为大家展示了“FA1#微服务流控防护场景与应对措施的示例分析”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让丸趣 TV 小编带领大家一起研究并学习一下“FA1# 微服务流控防护场景与应对措施的示例分析”这篇文章吧。

一、服务被过载调用

当服务 D 的某个接口服务被上游服务过载调用时,如果不对服务 D 加入保护,可能整体将服务 D 整体拖垮。在这种场景中,我们需要对服务 D 配置限流,以保护服务 D 不被整体冲跨。

FA1# 微服务流控防护场景与应对措施的示例分析
 

应对措施:针对服务提供方 D 配置流量防护规则,对进入服务 D 的流量进行控制,从而对服务 D 提供保护。触发流控时可以有多重策略,例如:快速失败、预热模式、排队等待、预热模式 + 排队等待。

快速失败:发生流控时直接抛出异常。

预热模式:发生流控时,流量缓慢增加的一种模式,效果如下图所示,流量 QPS 从 200 缓慢增加到 600。

FA1# 微服务流控防护场景与应对措施的示例分析
 

排队等待:请求匀速通过,过多请求需要排队,此时排队有超时时间,超过排队时间抛出流控异常。效果如下图所示:请求 QPS 保持 1000 的匀速通过。

FA1# 微服务流控防护场景与应对措施的示例分析
 

预热模式 + 排队等待:这种模式是预热和排队等待的叠加模式,请求以匀速的方式缓慢增加。如下图:请求从 0 缓慢增加到 500,匀速通过一段时间后,再增加到 1000。

FA1# 微服务流控防护场景与应对措施的示例分析
 
二、服务慢调用或故障

下面的场景 A 调用 B、A 调用 C、A 调用 D,当服务 B 服务不稳定时,服务 A 调用服务 B 发生了慢调用或者大量异常错误。这种场景,如果不干预,可能影响到 A 调用 C 和 A 调用 D 的状况。

FA1# 微服务流控防护场景与应对措施的示例分析
 

应对措施:A 调用 B 配置熔断降级规则,当服务 B 不稳定发生慢调用或者异常时,如果触发阈值,将服务 B 的调用熔断;从而保护了服务 A 调用 C、服务 A 调用 D 的正常情况。

熔断效果:熔断的实现通常通过断路器实现,具体过程为:

当满足慢调用比例、异常比例、异常数量阈值后,触发熔断(OPEN),在熔断时长内拒绝所有请求当熔断过了定义的熔断时长,状态由熔断(OPEN)变为探测(HALF_OPEN)接下来的一个请求不发生慢调用或者异常,熔断结束由探测状态(HALF_OPEN)变为(CLOSED)接下来的一个请求发生慢调用或者异常,继续熔断,由探测状态(HALF_OPEN)变为(OPEN)
   

   
三、服务资源被挤占

分布式链路中,如果某一条链路产生慢调用,对其他链路造成挤压。除了上面提到配置熔断降级外,可以通过线程并发控制来隔离。

下图中有 3 条链路,其中链路 1 由于服务 E 的不稳定,产生了慢调用。

链路标号调用链链路 1 服务 A – 服务 D#Method1– 服务 E 链路 2 服务 B – 服务 D#Method2– 服务 F 链路 3 服务 C – 服务 D#Method2– 服务 G FA1# 微服务流控防护场景与应对措施的示例分析
 

链路 1 慢调用可能导致如下情况:

链路 1 线程数增多对服务 D 资源造成挤压对服务 D 资源的过度挤压,链路 2 和链路 3 造成不稳定极端情况导致整个服务 D 不可用,严重时引发雪崩

应对措施:通过对服务 D 的 MethodA1、MethodA2 的线程数并发设置规则,超过阈值时将会触发阻断,不再向下游调用,避免不可用引发雪崩。

并发控制效果 下图中设置了调用方的并发线程数为 10,通过每分钟的查询可以看出,线程数一直保持在 10。

FA1# 微服务流控防护场景与应对措施的示例分析
 
四、数据过热挤占资源

热点数据,比如:大促时的热销产品、秒杀类产品等。如下图所示,如果不对热点商品下单流量进行管控,可能对其他商品造成挤压;影响整个商品下单体验。

FA1# 微服务流控防护场景与应对措施的示例分析
 

应对措施:通过对热点参数测速,配置流控规则,超过阈值时触发流控。例如:通过对入参产品 ID 进行测速,超过设置的阈值时,触发流控,避免对其过度挤占资源。

五、通用防护分组措施

上面的现象中,无论是服务不稳定、还是被挤占、或者被过载调用。除了通过上述的防护措施外,可以对服务进行等级划分并分组。

如下图所示:服务 A 和服务 D 为核心服务、服务 B 和服务 C 为非核心服务。通过将服务 D 进行分组,分成了 1 组和 2 组。分组 1 只允许核心服务调用,分组 2 只允许非核心服务调用。

这样做的好处:将流量进行物理隔离,避免由于非核心业务流量对核心业务流量造成挤压、保护核心链路稳定性。

FA1# 微服务流控防护场景与应对措施的示例分析
 

分组措施 @1   通常可以更换注册中心路径实现,服务 A 和服务 D(分组 1)放在同一个注册中心路径(例如:soa-group1);服务 B、服务 C、服务 D(分组 2)放在另一个不同的注册中心路径(例如:soa-group2)。

分组措施 @2 通过对分组的服务节点打标实现,例如:服务 D(分组 1)节点被打标为 group1,服务 D(分组 2)节点被打标为 group2。在服务消费方订阅节点时根据不同的分组筛选节点调用。

以上是“FA1# 微服务流控防护场景与应对措施的示例分析”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注丸趣 TV 行业资讯频道!

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-25发表,共计1919字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)