在一个分布式系统中,为了做到系统的高可用,即服务宕机时不影响对外正常提供服务,需要组建负载集群,当集群中某一节点没有及时返回数据时,需要有集群容错(重试)机制.
一. 负载均衡的目的讨论负载均衡,那么归根结底其要解决的问题是什么呢?当一台服务器的承受能力达到上限时,那么就需要多台服务器来组成集群,提升应用的整体吞吐量,那么这个时候就涉及到如何合理的分配客户端请求到集群中不同的机器上,这个过程就叫做负载均衡,当然这也是负载均衡要解决的问题.
一. Dubbo负载均衡策略在集群负载均衡时,Dubbo 提供了以下5种均衡策略,缺省为 Random 随机调用.
1️⃣. Random: 随机调用;
2️⃣. Random LoadBalance:
随机,按权重设置随机概率;
在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者的权重.
3️⃣. RoundRobin LoadBalance
轮循,按公约后的权重设置轮循比率.
存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上.
4️⃣. LeastActive LoadBalance
最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差.
使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大.
5️⃣. ConsistentHash LoadBalance
一致性 Hash,相同参数的请求总是发到同一提供者.
当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动.
二. 负载均衡配置级别-
服务端服务级别
-
客户端服务级别
-
服务端方法级别
-
客户端方法级别
在集群调用失败时,Dubbo 提供了多种容错方案,缺省为 Failover 重试.
这里的 Invoker 是 Provider 的一个可调用 Service 的抽象,Invoker 封装了 Provider 地址及 Service 接口信息;
Directory 代表多个 Invoker,可以把它看成 List,但与 List 不同的是,它的值可能是动态变化的,比如注册中心推送变更;
Cluster 将 Directory 中的多个 Invoker 伪装成一个 Invoker,对上层透明,伪装过程包含了容错逻辑,调用失败后,重试另一个;
Router 负责从多个 Invoker 中按路由规则选出子集,比如读写分离,应用隔离等;
LoadBalance 负责从多个 Invoker 中选出具体的一个用于本次调用,选的过程包含了负载均衡算法,调用失败后,需要重选.
2. 重试模式及其特点1️⃣. Failover Cluster(默认)
失败自动切换,当出现失败,重试其它服务器,通常用于读操作,但重试会带来更长延迟,可通过 retries="2" 来设置重试次数(不含第一次).
2️⃣. Failfast Cluster
快速失败,只发起一次调用,失败立即报错,通常用于非幂等性的写操作,比如新增记录.
3️⃣. Failsafe Cluster
失败安全,出现异常时,直接忽略,通常用于写入审计日志等操作.
4️⃣. Failback Cluster
失败自动恢复,后台记录失败请求,定时重发,通常用于消息通知操作.
5️⃣. Forking Cluster
并行调用多个服务器,只要一个成功即返回.通常用于实时性要求较高的读操作,但需要浪费更多服务资源,可通过 forks="2" 来设置最大并行数.
6️⃣. Broadcast Cluster
广播调用所有提供者,逐个调用,任意一台报错则报错,通常用于通知所有提供者更新缓存或日志等本地资源信息.
