SpringCloud(三) Ribbon负载均衡

这篇具有很好参考价值的文章主要介绍了SpringCloud(三) Ribbon负载均衡。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

SpringCloud(二) Eureka注册中心的使用-CSDN博客

在SpringCloud(二)中学习了如何通过Eureka实现服务的注册和发送,从而通过RestTemplate实现不同微服务之间的调用,加上@LoadBalance注解之后实现负载均衡,那负载均衡的原理是什么呢?

目录

一, 负载均衡

1.1 负载均衡原理

 1.2 源码追踪

1, LoadBalanceInterceptor

2, LoadBalanceClient

3, 负载均衡策略 

1.3 总结负载均衡 

二, 代码示例

三, 负载均衡策略

3.1 负载均衡策略

3.2 自定义负载均衡策略

四, 负载均衡


一, 负载均衡

1.1 负载均衡原理

SpringCloud底层其实是利用了一个名为Ribbon的组件来实现负载均衡功能的.

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

此时就可以将我们发出的http://userservice/user/1请求变成http://localhost:8081

 1.2 源码追踪

为什么我们只输入了user-service的服务名称就可以访问了呢?

显然有人帮我们根据service名称,获取到了实例的ip和端口号,它就是LoadBalanceInterceptor,这个类会对RestTemplate的请求进行拦截,然后从Eureka根据服务id获取服务列表,随后利用负载均衡算法得到真是的服务地址信息,替换服务id.

1, LoadBalanceInterceptor

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

可以看到这里的intercept方法,拦截了用户大的HttpRequest请求,然后做了以下几件事:

  • request.getURI():获取请求uri,本例中就是http://userservice/user/1
  • originalUri.getHost():获取uri路径的主机名,其实就是服务id,user-service
  • this.loadBalancer.execute():处理服务id,和用户请求

2, LoadBalanceClient

继续跟入execute方法:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

  • getLoadBalancer(serviceId):根据服务id获取ILoadBalancer,而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来
  • getServer(loadBalancer):利用内置的负载均衡算法,从服务列表中选择一个

放行后,再次访问并跟踪,发现获取的是8081:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

3, 负载均衡策略 

在刚才的代码中,可以看到获取服务是通过一个getServer方法来做负载均衡:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

继续跟入:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡 继续跟踪源码chooseServer方法,发现这么一段代码:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

 看看这个rule是谁:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

这里的rule默认值是一个RoundRobinRule,看类的介绍(意思是轮询):

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

1.3 总结负载均衡 

SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址进行了修改,用一幅图总结一下:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

基本流程如下:

  •  拦截我们的RestTemplate请求http://userservice/user/1;
  • RibbonLoadBalancerClient会从请求url中获取服务名称,也就是userservice;
  • DynamicServerListBalance根据userservice到eureka拉取服务列表;
  • eureka返回列表,localhots:8081和localhost:8082;
  • IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081;
  • RibbonLoadBalanceClient修改请求地址,用localhost:8081代替userservice,得到http://localhost:8081/user/1.

二, 代码示例

现在我们有两个user-service微服务,使用order-service多次调用user-service查看服务落在两个user-service的频率

启动服务并清空两个user-service服务的日志:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

 在浏览器多次调用order-service中的queryOrderByUserId接口:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

分别查看两个user-service的日志打印结果:

user-service1:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

user-service2:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

从日志结果可以看出,在不改变负载均衡策略的情况下,默认的策略是轮询的方式.

三, 负载均衡策略

3.1 负载均衡策略

负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

不同规则的含义如下:

内置负载均衡规则类 规则描述
RoundRobinRule 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。
AvailabilityFilteringRule 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置。
WeightedResponseTimeRule 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。
ZoneAvoidanceRule 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。
BestAvailableRule 忽略那些短路的服务器,并选择并发数较低的服务器。
RandomRule 随机选择一个可用的服务器。
RetryRule 重试机制的选择逻辑。

默认的实现就是ZoneAvoidanceRule,是一种轮询方案.

3.2 自定义负载均衡策略

通过定义IRule实现可以修改负载均衡规则,有两种方式:

1. 代码方式:在order-service中的OrderApplication类中,定义一个新的IRule:

@Bean
public IRule randomRule(){
    return new RandomRule();
}

2. 配置文件方式:在order-service的application.yml文件中,添加新的配置也可以修改规则:

userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则 

一般用默认的负载均衡规则,不做修改.

四, 负载均衡

Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长.

而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:

ribbon:
  eager-load:
    enabled: true
    clients: userservice

未开启饥饿加载时:

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

第一次访问的时候耗时是579ms

开启饥饿加载时:

先在配置文件里进行配置

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

 重启order-service进行访问

SpringCloud(三) Ribbon负载均衡,SpringCloud微服务,spring cloud,ribbon,负载均衡

可以看出开启饥饿加载后第一次访问的时间变少了很多,未232ms.

 文章来源地址https://www.toymoban.com/news/detail-736613.html

到了这里,关于SpringCloud(三) Ribbon负载均衡的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Spring Cloud Alibaba全家桶(三)——微服务负载均衡器Ribbon与LoadBalancer

    本文为 微服务负载均衡器Ribbon与LoadBalancer 相关知识,下边将对 什么是Ribbon (包括: 客户端的负载均衡 、 服务端的负载均衡 、 常见负载均衡算法 ), Nacos使用Ribbon , Ribbon内核原理 (包括: Ribbon原理 , Ribbon负载均衡策略 , 饥饿加载 ), Spring Cloud LoadBalancer (包括:

    2024年02月02日
    浏览(40)
  • Spring Cloud Ribbon:负载均衡

    1. 介绍 Spring Cloud Ribbon 1.1 什么是 Spring Cloud Ribbon Spring Cloud Ribbon是Netflix开源的负载均衡器,它为分布式服务提供了客户端负载均衡的功能。Ribbon可以根据一系列的负载均衡算法和配置策略,将客户端的请求动态分发到多个服务实例上,以实现高可用性和性能优化。 1.2 负载均

    2024年02月19日
    浏览(43)
  • 【Spring Cloud 四】Ribbon负载均衡

    【Spring Cloud一】微服务基本知识 【Spring Cloud 三】Eureka服务注册与服务发现 目前公司项目使用的注册中心主要是Spring Cloud Alibaba的Nacos做的注册中心和配置中心。并且Nacos使用了Ribbon作为默认的负载均衡器。但是相当于将Ribbon的负载均衡给透明化了,日常开发明面上是看不到

    2024年02月14日
    浏览(50)
  • Spring Cloud - Ribbon 负载均衡原理、负载策略、懒加载

    目录 ​编辑 一、Ribbon 负载均衡原理 1.1、前言 1.2、负载均衡的工作流程 二、负载均衡策略 2.1、策略原理 2.2、负载均衡自定义方式 三、Ribbon 加载方式 ps:案例是上一章所讲的 “根据订单id查询订单的同时,把订单所属的用户信息一起返回”  。 上一章我们讲到 order-servi

    2024年02月09日
    浏览(37)
  • springcloud Ribbon负载均衡服务调用

    地址:https://github.com/13thm/study_springcloud/tree/main/days6_Ribbon Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端 负载均衡的工具。 简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时

    2024年01月20日
    浏览(49)
  • Cloud微服务:Ribbon负载均衡

    个人简介:Java领域新星创作者;阿里云技术博主、星级博主、专家博主;正在Java学习的路上摸爬滚打,记录学习的过程~ 个人主页:.29.的博客 学习社区:进去逛一逛~ 服务消费者(order-service)根据服务名称发起请求,请求地址(url):http://userservice/user/1。 请求被 负载均衡拦

    2024年04月26日
    浏览(36)
  • 【微服务 SpringCloud】实用篇 · Ribbon负载均衡

    微服务(4) 在前面,我们添加了@LoadBalanced注解,即可实现负载均衡功能,这是什么原理、什么策略呢? SpringCloud底层其实是利用了一个名为 Ribbon 的组件 ,来实现负载均衡功能的。 那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢? 为什么我

    2024年02月08日
    浏览(50)
  • 【Spring Cloud】Ribbon 中的几种负载均衡策略

    负载均衡通常有两种实现手段,一种是服务端负载均衡器,另一种是客户端负载均衡器,而我们今天的主角 Ribbon 就属于后者——客户端负载均衡器。 服务端负载均衡器的问题是,它提供了更强的流量控制权,但无法满足不同的消费者希望使用不同负载均衡策略的需求,而使

    2024年02月15日
    浏览(61)
  • Spring Cloud 实战 | 解密负载均衡Ribbon底层原理,包含实战源码

    专栏集锦,大佬们可以收藏以备不时之需 Spring Cloud实战专栏:https://blog.csdn.net/superdangbo/category_9270827.html Python 实战专栏:https://blog.csdn.net/superdangbo/category_9271194.html Logback 详解专栏:https://blog.csdn.net/superdangbo/category_9271502.html tensorflow专栏:https://blog.csdn.net/superdangbo/category_869

    2024年02月08日
    浏览(53)
  • 【Spring Cloud】Ribbon 实现负载均衡的原理,策略以及饥饿加载

    在前文《深入理解 Eureka 注册中心的原理、服务的注册与发现》中,介绍了如何使用 Eureka 实现服务的注册与拉取,并且通过添加 @LoadBalanced 注解实现了负载均衡。这种自动化的背后隐藏着许多疑问: 服务是在何时进行拉取的? 负载均衡是如何实现的? 负载均衡的原理和策略

    2024年02月07日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包