【微服务 SpringCloud】实用篇 · Ribbon负载均衡

这篇具有很好参考价值的文章主要介绍了【微服务 SpringCloud】实用篇 · Ribbon负载均衡。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

微服务(4)

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

微服务(4)

在前面,我们添加了@LoadBalanced注解,即可实现负载均衡功能,这是什么原理、什么策略呢?

1. 负载均衡原理

SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的。

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢?

2. 源码跟踪

为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。

Ribbon是怎么拦截这个请求,并将url进行处理的呢?

显然有人帮我们根据service名称,获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor,这个类会在对RestTemplate的请求进行拦截,然后从Eureka根据服务id获取服务列表,随后利用负载均衡算法得到真实的服务地址信息,替换服务id。

我们进行源码跟踪(双击shift搜索):

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

1)LoadBalancerIntercepor

调试一下:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

打个断点:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

浏览器访问:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

停在这了:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

跳两步观察:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

可以看到这里的intercept方法,拦截了用户的HttpRequest请求,然后做了几件事:

  • request.getURI()获取请求uri,本例中就是 http://userservice/user/1
  • originalUri.getHost():获取uri路径的主机名,其实就是服务id名称,userservice
  • this.loadBalancer.execute():处理服务id名称,和用户请求。

这里的this.loadBalancerLoadBalancerClient类型,我们继续跟入。

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

2)LoadBalancerClient

继续跟入execute方法,调用getLoadBalancer方法:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

调用getServer方法:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

这个就是我们的内网ip(命令行cmd,ipconfig查看)

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

代码是这样的:

  • getLoadBalancer(serviceId):根据服务id获取ILoadBalancer,而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来。
  • getServer(loadBalancer):利用内置的负载均衡算法,从服务列表中选择一个。本例中,可以看到获取了8081端口的服务

放行后,再次访问并跟踪,发现获取的是8082:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

果然实现了负载均衡。

3)负载均衡策略IRule

跟进getServer方法:

进入方法内部:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

  • 通过规则选择

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

IRule,故名思意就是规则接口,想必就是负载均衡算法的规则取决于它

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

可见IRule接口有很多的实现

最明显的就是RandomRule,顾名思义就是随机;RoundRobinRule,顾名思义就是轮询调度

而现在的规则是:ZoneAvoidanceRule

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

key是default(其实就是尝试从配置文件里获取常量,没有配置就获取不到,就默认咯)

我们看看这个rule是谁:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

这不就是轮询的意思嘛。

到这里,整个负载均衡的流程我们就清楚了,至于这些策略规则是什么,随后讲解~

4)总结

SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。用一幅图来总结一下:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

基本流程如下:

  • 拦截我们的RestTemplate请求http://userservice/user/1
  • RibbonLoadBalancerClient会从请求url中获取服务名称,也就是userservice
  • DynamicServerListLoadBalancer根据userservice到eureka拉取服务列表
  • eureka返回列表,localhost:8081、localhost:8082
  • IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
  • RibbonLoadBalancerClient修改请求地址,用localhost:8081替代userservice,得到http://localhost:8081/user/1,发起真实请求

3. 负载均衡策略

3.1 负载均衡策略

负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

不同规则的含义如下:

内置负载均衡规则类 规则描述
RoundRobinRule 简单轮询服务列表来选择服务器。
AvailabilityFilteringRule 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的..ActiveConnectionsLimit属性进行配置。
WeightedResponseTimeRule 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。
ZoneAvoidanceRule 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。(如果没有Zone的划分,其实就是跟普通轮询没啥区别)
BestAvailableRule 忽略那些短路的服务器,并选择并发数较低的服务器。
RandomRule 随机选择一个可用的服务器。
RetryRule 重试机制的选择逻辑

默认的实现就是ZoneAvoidanceRule,是一种轮询方案

默认情况下,浏览器依次访问101、102、103、104,查看日志:(右侧栏有个垃圾桶,点击清空日志)

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

其实每次都这样(一个2 4;一个1 3),就是轮询策略~

3.2 自定义负载均衡策略

通过定义IRule实现可以修改负载均衡规则,有两种方式

  1. 代码方式:在order-service中的OrderApplication类中,定义一个新的IRule:
    • 那么ribbon就会以这个bean的规则优先
@Bean
public IRule randomRule(){
    return new RandomRule();
}

效果:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

每次都不一样,甚至会出现有一个服务一个都没有,很明显是随机(次数多了还每个服务的调用次数是很均衡的)

  1. 配置文件方式:在order-service的application.yml文件中,添加新的配置也可以修改规则:
userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则 

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

效果一致~

注意,一般用默认的负载均衡规则,不做修改。

  1. 配置文件的设置优先级较高,如果代码方法设置的是A,配置方法设置的是B,则最终呈现是B
  2. 代码设置的是全局的方案,也就是说在order-service访问哪个微服务的都是这个规则
  3. 配置设置的是特定的微服务负载均衡规则(优先级高也正常了)
    • 从配置设置的键(userservice)可见,是针对一个微服务的

4. 饥饿加载

不知道你有没有发现,我们浏览器测试刚才的用例的时候,第一次要反应一会儿,后面的就很流畅:

我们通过浏览器开发者工具来看看第一次访问的时候的时间:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

达到恐怖的744ms!

而之后就比较快了:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

这是因为:

  • Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

  • 严格来说是第一次用到这个服务的LoadBalanceClient才会加载
  • 加载之后就缓存下来了,可以直接用或者下一次拉取直接赋值给这个对象就行了
    • 当然,如果是别的服务的LoadBalanceClient,还需要加载

饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:

ribbon:
  eager-load:
    enabled: true # 默认false为懒加载,这里设置为true为饥饿加载
    clients: userservice # 指定对哪个微服务饥饿加载

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

  • clients的值是一个集合,可以这么写:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

重启

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

  • 可见已经加载

观察一下时间:

【微服务 SpringCloud】实用篇 · Ribbon负载均衡,微服务,spring cloud,微服务,ribbon

第一次访问快了不少了(第一次也要加载一些框架之类的,当然也可以设置为饥饿加载,不在这里演示)


文章到此结束!谢谢观看
可以叫我 小马,我可能写的不好或者有错误,但是一起加油鸭🦆

代码:cloud-demo · 游离态/云服务 - 码云 - 开源中国 (gitee.com)文章来源地址https://www.toymoban.com/news/detail-713643.html


到了这里,关于【微服务 SpringCloud】实用篇 · Ribbon负载均衡的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 4-Spring cloud之搭建Ribbon负载均衡——服务器上实操(下)

    我们在上篇文章的基础上继续Ribbon的负载均衡,为了更清晰,再放一次架构图,如下: 关于图的更多解释,请看Ribbon负载均衡上篇。 关于上篇请看下面文章,如下: 3-Spring cloud之搭建Ribbon负载均衡——服务器上实操(上). Ribbon负载均衡的规则都定义在IRule接口中,而IRule有

    2024年02月12日
    浏览(37)
  • 云原生微服务 第五章 Spring Cloud Netflix Eureka集成负载均衡组件Ribbon

    第一章 Java线程池技术应用 第二章 CountDownLatch和Semaphone的应用 第三章 Spring Cloud 简介 第四章 Spring Cloud Netflix 之 Eureka 第五章 Spring Cloud Netflix 之 Ribbon Spring Cloud Ribbon 是一套基于 Netflix Ribbon 实现的客户端负载均衡和服务调用工具,其主要功能是提供客户端的负载均衡算法和服务

    2024年02月08日
    浏览(32)
  • Spring Cloud Alibaba全家桶(三)——微服务负载均衡器Ribbon与LoadBalancer

    本文为 微服务负载均衡器Ribbon与LoadBalancer 相关知识,下边将对 什么是Ribbon (包括: 客户端的负载均衡 、 服务端的负载均衡 、 常见负载均衡算法 ), Nacos使用Ribbon , Ribbon内核原理 (包括: Ribbon原理 , Ribbon负载均衡策略 , 饥饿加载 ), Spring Cloud LoadBalancer (包括:

    2024年02月02日
    浏览(32)
  • Spring Cloud Ribbon:负载均衡

    1. 介绍 Spring Cloud Ribbon 1.1 什么是 Spring Cloud Ribbon Spring Cloud Ribbon是Netflix开源的负载均衡器,它为分布式服务提供了客户端负载均衡的功能。Ribbon可以根据一系列的负载均衡算法和配置策略,将客户端的请求动态分发到多个服务实例上,以实现高可用性和性能优化。 1.2 负载均

    2024年02月19日
    浏览(29)
  • SpringCloud实用篇1——eureka注册中心 Ribbon负载均衡原理 nacos注册中心

    单体架构: 将业务的所有功能集中在一个项目中开发,打成一个包部署。 优点:架构简单;部署成本低(打jar包、部署、负载均衡就完成了) 缺点:耦合度高(维护困难、升级困难,不利于大项目开发) 分布式架构 根据业务功能对系统做拆分,每个业务功能模块作为独立

    2024年02月13日
    浏览(27)
  • 【Spring Cloud 四】Ribbon负载均衡

    【Spring Cloud一】微服务基本知识 【Spring Cloud 三】Eureka服务注册与服务发现 目前公司项目使用的注册中心主要是Spring Cloud Alibaba的Nacos做的注册中心和配置中心。并且Nacos使用了Ribbon作为默认的负载均衡器。但是相当于将Ribbon的负载均衡给透明化了,日常开发明面上是看不到

    2024年02月14日
    浏览(33)
  • Spring Cloud - Ribbon 负载均衡原理、负载策略、懒加载

    目录 ​编辑 一、Ribbon 负载均衡原理 1.1、前言 1.2、负载均衡的工作流程 二、负载均衡策略 2.1、策略原理 2.2、负载均衡自定义方式 三、Ribbon 加载方式 ps:案例是上一章所讲的 “根据订单id查询订单的同时,把订单所属的用户信息一起返回”  。 上一章我们讲到 order-servi

    2024年02月09日
    浏览(27)
  • springcloud Ribbon负载均衡服务调用

    地址:https://github.com/13thm/study_springcloud/tree/main/days6_Ribbon Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端 负载均衡的工具。 简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时

    2024年01月20日
    浏览(36)
  • Cloud微服务:Ribbon负载均衡

    个人简介:Java领域新星创作者;阿里云技术博主、星级博主、专家博主;正在Java学习的路上摸爬滚打,记录学习的过程~ 个人主页:.29.的博客 学习社区:进去逛一逛~ 服务消费者(order-service)根据服务名称发起请求,请求地址(url):http://userservice/user/1。 请求被 负载均衡拦

    2024年04月26日
    浏览(27)
  • 【Spring Cloud】Ribbon 中的几种负载均衡策略

    负载均衡通常有两种实现手段,一种是服务端负载均衡器,另一种是客户端负载均衡器,而我们今天的主角 Ribbon 就属于后者——客户端负载均衡器。 服务端负载均衡器的问题是,它提供了更强的流量控制权,但无法满足不同的消费者希望使用不同负载均衡策略的需求,而使

    2024年02月15日
    浏览(50)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包