负载均衡 —— SpringCloud Netflix Ribbon

这篇具有很好参考价值的文章主要介绍了负载均衡 —— SpringCloud Netflix Ribbon。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Ribbon 简介

Ribbon 是 Netfix 客户端的负载均衡器,可对 HTTP 和 TCP 客户端的行为进行控制。为 Ribbon 配置服务提供者地址后,Ribbon 就可以基于某种负载均衡算法自动帮助服务消费者去请求。Ribbon 默认提供了很多负载均衡算法,例如轮询、随机等,也可以为 Ribbon 实现自定义的负载均衡算法

Ribbon 有以下几个重要概念:

  • Rule:该组件主要决定从候选服务器中返回哪个服务器地址进行远程调用的操作
  • Ping:在后台运行的组件,用来确认哪些服务器是存活可用的
  • ServerList:当前可以用作 LB 的服务器列表,该列表可以是静态的,也可以是动态的。如果是动态列表(例如从 Eurka 服务器获取),就会有一个后台线程按照时间间隔刷新列表

Ribbon 提供了以下几种 Rule:

  • RoundRobinRule:最简单的规则,会在 ServerList 中依次轮询调用
  • RandomRule:随机
  • AvailabilityFileringRule:在这种规则下 Ribbon 集成了 Hystrix 的功能,默认情况下调用某个远程方法失败三次后断路器的开关会被打开,而之后的请求中 Ribbon 会跳过这个服务器地址,直到三十秒之后断路器关闭后才会重新加入调用列表
  • WeightedResponseTimeRule:将响应时间作为权重的负载规则,某个服务器的响应时越长,它的权重就越低,具体选择服务器时,结合权重进行随机选择
  • RetryRule:按照 RoundRobinRule(轮询)策略获取服务,如果获取服务失败,就在指定时间内重试,获取可用的服务
  • BestAvailableRule:先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务
  • ZoneAvoidanceRule:复合判断 Server 所在区域的性能和 Server 的可用性选择服务器

负载均衡算法

服务消费者从服务配置中心获取服务的地址列表后需要选取其中一台发起 RPC/HTTP 调用,这时需要用到具体的负载均衡算法

1. 轮询法

轮询法是指将请求按顺序轮流分配到后端服务器上,均衡地对待后端的每一台服务器,不关心服务器实际的连接数和当前系统负载

2. 加权轮询法

简单的轮询法并不考虑后端机器的性能和负载差异,加权轮询法可以很好地处理这一问题,它将按照顺序且按照权重分派给后端服务器,给性能高、负载低的机器配置较高的权重,让其处理较多的请求,给性能低、负载高的机器配置较低的权重,让其处理较少的请求

假设有 9 个客户端请求、3 台后端服务器,后端服务器 1 被赋予权值 1,后端服务器2被赋予值 2,后端服务器 3 赋值 3,这样一来,客户端请求 1、2、3 都被分派到服务器 3 处理,客户端请求 4、5 被分派到服务器 2 处,客户端请求 6 被分派到服务器 1 处理,客户端请求 7、8、9 被分派到服务器 3 处理,以此类推

3. 随机法

随机法也很简单,就是随机选择一台后端服务器进行请求处理,由于每次服务器被挑中的概率都一样,因此客户端的请求可以被均匀地分派到所有的后端服务器上

4. 加权随机法

加权随机法跟加权轮询法类似,根据后台服务器不同的配置和负载情况配置不同的权重,不同的是,它是按照权重来随机选取服务器的,而非顺序

比如希望抽到 A 的概率是 50%、抽到 B 和 C 的概率是 20%、抽到 D 的概率是 10%,一般来说,我们可以给各项附加一个权重,抽取的概率正比于这个权重,上述集合就成了 {A:5,B:2,C:2,D:1),扩展这个集合,使每一项出现的次数与其权重正相关,即 {A,A,A,A,A,B,BC,C,D},然后就可以用均匀随机算法从中选取了

5. 源地址哈希法

源地址哈希是根据获取客户端的 IP 地址,通过哈希函数计算得到一个数值,用该数值对服务器列表的大小进行取模运算,得到的结果便是客户端要访问服务器的序号。采用源地址哈希法进行负载均衡,当后端服务器列表不变时,同一个 IP 地址的客户端,每次都会映射到同一台后端服务器进行访问,但当后端服务器增加或者减少时,由于次数用于取模的服务器总数发生了变化,就导致同一哈希值的请求无法命中同一台服务器,节点数越高,命中率越低

6. 一致性哈希法

一致性哈希法解决了分布式环境下机器增加或者减少时简单的取模运算无法获取较高命中率的问题,通过一个一致性哈希环的数据结构实现映射,具体算法过程为:先构造一个长度为 2 的 32 次方的整数环(一致性哈希环),根据节点计算得出的哈希值将缓存服务器节点放置在这个哈希环上,然后在哈希环上顺时针查找距离这个哈希值最近的服务器节点,完成请求到服务器的映射

负载均衡 —— SpringCloud Netflix Ribbon

假设现在增加一台服务器 4,那么影响的就只有一个的请求,也就是说原本到服务器 1 的请求会被映射到服务器 4 上,虽然也会影响到整个集群,但是影响的只是加粗的那一段而已,这种影响要小得多。更重要的是,集群中缓存服务器节点越多,增加节点带来的影响越小

负载均衡 —— SpringCloud Netflix Ribbon


第一个 Ribbon 程序

创建名为 ribbon-provider 的项目,添加配置文件 application-01.properties 和 application-02.properties

# application-01.properties 配置文件内容
server.port=8080

# application-02.properties 配置文件内容
server.port=8081

开发 UserController 类

@RestController
@RequestMapping("user")
public class UserCon {

    @Resource
    private Environment environment;

    public String getPort() {
        return environment.getProperty("local.server.port");
    }

    @RequestMapping("getName")
    public String getUserName (){
        return "hello,ay" + "-" + getPort();
    }
}

通过使用不同的配置文件,可以启动多个 SpringBoot 应用,分别启动 ribbon-provider-8080 和 ribbon-provider-8081

创建名为 ribbon-consumer 的项目,pom.xml 添加依赖

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>

添加配置文件 application.yml

my-client:  #负载均衡配置
  ribbon:
    listOfServers: localhost:8080,localhost:8081  # 配置服务列表
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule  # 配置负载均衡算法 RoundRobinRule(轮询)

Ribbon 的配置格式是 <clientName>:ribbon:需要配置的属性<clientName> 是 Ribbon 的客户端名称,如果省略就配置所有客户端,配置的属性有以下几种:

  • NFLoadBalancerClassName:配置 ILoadBalancer 的实现类
  • NFLoadBalancerRuleClassName:配置 IRule 的实现类
  • NFLoadBalancerPingClassName:配置 IPing 的实现类
  • NIWSServerListClassName:配置 ServerList 的实现类
  • NIWSServerListFilterClassName:配置 ServerListFilter 的实现类

在 main 方法中添加如下代码:

@SpringBootApplication
public class RibbonConsumerApplication {

    public static void main(String[] args) throws Exception {
        SpringApplication.run(RibbonConsumerApplication.class, args);
        //获取客户端
        RestClient client = (RestClient) ClientFactory.getNamedClient("my-client");
        //调用UserController类的getUserName 方法
        HttpRequest request = HttpRequest.newBuilder().uri("/user/getName").build();
        //循环调用
        for(int i = 0; i<10; i++) {
            HttpResponse response = client.executeWithLoadBalancer(request);
            String result = response.getEntity(String.class);
            System.out.println(result);
        }
    }
}

启动 ribbon-consumer 项目,从打印信息中可以看出,服务通过轮询的方式调用


Ribbon 整合 Nacos & 自定义负载均衡策略

创建 ribbon-custom-consumer 的项目,添加配置类

@Configuration
public class RibbonConfig {

    @Bean
    public IRule ribbonRule() {
        // ribbon默认使用的是zoneAvoidanceRule规则,这里修改为自定义方式
        return new MyRule();
    }
}

创建 MyRule 类,用来自定义负载均衡规则

/**
 * 负载规则:始终返回第一个服务
 */
public class MyRule extends AbstractLoadBalancerRule {

    @Override
    public void initWithNiwsConfig(IClientConfig iClientConfig) {

    }

    @Override
    public Server choose(Object o) {
        ILoadBalancer loadBalancer = getLoadBalancer();
        // 获取所有的服务
        List<Server> servers = loadBalancer.getAllServers();
        // 始终返回第一个服务
        return servers.get(0);
    }
}

自定义指定 Ribbon 客户端的配置

/**
 * 使用 RibbonClient 为特定 name 的 Ribbon Client 自定义配置
 * 使用 @RibbonClient 的 configuration 属性指定 Ribbon 的配置类
 */
@Configuration
@RibbonClient(name = "service-provider", configuration = RibbonConfig.class)
public class TestConfig {

}

在 application.properties 配置文件中添加如下配置

server.port=7089
spring.application.name=service-custom
spring.cloud.nacos.discovery.server-addr=127.0.0.1:8848

在启动类中添加 @EnableDiscoveryClient 注解

@EnableDiscoveryClient
@SpringBootApplication
public class RibbonCustomApplication {

    public static void main(String[] args) {
        SpringApplication.run(RibbonCustomApplication.class, args);
    }
}

创建 TesController类,具体代码如下

@RestController
@RequestMapping("test")
public class TestController {

    @Resource
    private LoadBalancerClient loadBalancerClient;

    @RequestMapping("getUserName")
    public String getUserName() {
        for (int i = 0; i < 20; i++) {
            //获取service-provider服务
            ServiceInstance serviceInstance = loadBalancerClient.choose("service-provider");
            //打印当前选择的是哪个节点
            System.out.println(serviceInstance.getServiceId() + serviceInstance.getHost() + "; " + serviceInstance.getPort());
        }
        return "hello,ay";
    }
}

在上述步骤中,我们创建了 ribbon-custom-consumer 项目,并定义了负载均衡规则 MyRule,服务启动后注册到 Nacos 中,这样一来,在调用 getUserName 方法时,会从 Nacos 中获取已注册的服务提供者列表,并按照我们自定义的负载规则进行调用文章来源地址https://www.toymoban.com/news/detail-712149.html


到了这里,关于负载均衡 —— SpringCloud Netflix Ribbon的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • SpringCloud Ribbon负载均衡(十一)

    前面搭建了初步例子,但是还没实现真正负载均衡,我们这里要先搞三个服务提供者集群,然后才能演示负载均衡,以及负载均衡策略; 新建项目microservice-student-provider-1002,microservice-student-provider-1003 pom.xml,application.yml,以及java类都复制一份,启动类名称对应的改下;  

    2024年02月09日
    浏览(43)
  • SpringCloud(三) Ribbon负载均衡

    SpringCloud(二) Eureka注册中心的使用-CSDN博客 在SpringCloud(二)中学习了如何通过Eureka实现服务的注册和发送,从而通过RestTemplate实现不同微服务之间的调用,加上@LoadBalance注解之后实现负载均衡,那负载均衡的原理是什么呢? 目录 一, 负载均衡 1.1 负载均衡原理  1.2 源码追踪 1, LoadBa

    2024年02月06日
    浏览(45)
  • SpringCloud系列:负载均衡组件-Ribbon

    作者平台: | CSDN:blog.csdn.net/qq_41153943 | 掘金:juejin.cn/user/651387… | 知乎:www.zhihu.com/people/1024… | GitHub:github.com/JiangXia-10… 本文一共4529字,预计阅读12分钟 前面几篇文章介绍了微服务相关的内容,比如什么是微服务,常见的一些服务注册中心组件,以及微服务之间是如何进

    2024年02月17日
    浏览(44)
  • SpringCloud学习笔记-Ribbon负载均衡

    SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。用一幅图来总结一下: 基本流程如下: 拦截我们的RestTemplate请求http://userservice/user/1 RibbonLoadBalancerClient会从请求url中获取服务名称,也就是user-service DynamicServerListLoadBalancer根据user-service到

    2024年02月07日
    浏览(40)
  • Springcloud基础(4)-Ribbon负载均衡

    Spring Cloud Ribbon 是一套基于 Netflix Ribbon 实现的客户端负载均衡和服务调用工具。Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配

    2024年02月16日
    浏览(37)
  • springcloud Ribbon负载均衡服务调用

    地址:https://github.com/13thm/study_springcloud/tree/main/days6_Ribbon Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端 负载均衡的工具。 简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时

    2024年01月20日
    浏览(48)
  • 03-SpringCloud-Ribbon负载均衡

    SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的。 那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢? 为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。 显然有人帮我们根据service名称,获取到了服

    2024年02月03日
    浏览(53)
  • 【微服务 SpringCloud】实用篇 · Ribbon负载均衡

    微服务(4) 在前面,我们添加了@LoadBalanced注解,即可实现负载均衡功能,这是什么原理、什么策略呢? SpringCloud底层其实是利用了一个名为 Ribbon 的组件 ,来实现负载均衡功能的。 那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢? 为什么我

    2024年02月08日
    浏览(50)
  • springCloud之Eureka之负载均衡Ribbon

    说完了注册中心Eureka,虽然Eureka可以实现服务的发现和调用,但在微服务体系中,服务的发现和调用往往是需要伴随着负载均衡这个概念一体的。而在SpringCloud中自然也存在着与Eureka配套的负载均衡组件,也就是Ribbon组件。 Ribbon介绍 Spring Cloud Ribbon是基于Netflix Ribbon实现的一套

    2024年02月05日
    浏览(34)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包